Skynet-2026: давайте разберём, приблизил ли этот год нас к восстанию ИИ

2 октября 2026
время чтения15 мин.
Skynet-2026: давайте разберём, приблизил ли этот год нас к восстанию ИИ
© Scharfsinn, shutterstock.com
© Scharfsinn, shutterstock.com
ИИ-агенты умеют бронировать билеты, править код, чистить серверы, вести финансовые отчёты… Безопасно ли давать алгоритмам столько свободы? Собрали пять кейсов, когда излишняя самостоятельность цифровых помощников привела к реальным угрозам для людей.

Парсер с упорством хакера: как ИИ-агенты OpenAI проламывали ограничения ООН

Автономные ИИ-агенты, которых исследователи связывают с OpenAI, в апреле 2026 года начали активно сканировать портал статистики ООН. Судя по характеру обращений, их целью был сбор публичных данных о мировой торговле и промышленности. Никаких секретов — вся информация в публичном доступе. Однако сайт защищён от агрессивного парсинга, и когда робот попытался забрать всё разом, система включила ограничения.

Представьте, что вы попросили друга купить хлеб, а он, увидев, что магазин закрыт, выломал замок, обманул охранника и всё-таки забрал буханку. Примерно так и поступил ИИ. Вместо того чтобы спросить человека о дальнейших действиях, он решил выполнить задачу любой ценой. За два с половиной месяца агенты направили серверу более 16 500 запросов, продемонстрировав изощрённую техническую находчивость. Когда сайт заблокировал прямые обращения, алгоритмы стали использовать сторонние сервисы как посредников, перенаправляя запросы через них. Дальше — больше: чтобы пробить защиту, ИИ применял двойное кодирование адресов для маскировки трафика и перебирал параметры API, методично нащупывая поля, к которым у него не было прямого доступа.

ИИ не пытался напрямую навредить или достать конфиденциальные данные, но действовал излишне дотошно. Этот кейс наглядно показывает: алгоритм без колебаний способен игнорировать запреты просто потому, что в его логике цель оправдывает средства.

В день выхода этой статьи OpenAI покаялась в том, что её ИИ-агенты, преодолев всё запреты, атаковали больше сотни онлайн-ресурсов по всему миру в разное время. Обычное такие заявления большие компании делают лишь в том случае, когда случившегося уже не утаишь. Интересно, что почти одновременно OpenAI уволила трёх сотрудников, которые делились внутрикорпоративной информацией с организациями, оценивающими безопасность ИИ. Совпадение?

Исполнительный катастрофизм: как ИИ-рефакторинг едва не уничтожил стартап

В истории со стартапом PocketOS, произошедшей в апреле 2026 года, всё началось с обычного обслуживания кодовой базы. Инженер компании работал через AI-редактор Cursor, внутри которого действовал автономный агент на базе модели Claude. Алгоритму дали стандартное поручение — проверить и исправить код. Но в какой-то момент ИИ наткнулся на препятствие: при попытке внести изменения система выдавала ошибку из-за несовпадения настроек доступа в тестовом окружении.

Для человека это был бы сигнал остановиться и вникнуть в проблему, но алгоритм отреагировал прямолинейно. В одном из файлов он обнаружил ключ управления сервером и решил, что затык — в лишнем хранилище данных, которое мешает отладке. Не разобравшись, к какому именно окружению привязано это хранилище, Claude самовольно отправил команду на его удаление. Всего за девять секунд исчезли и основная база данных, и её бэкапы — потому что они хранились вместе. Это как если бы во время ремонта рабочий перерезал «непонятный» проводок, не догадавшись, что отрубает питание всему дому.

Skynet-2026: давайте разберём, приблизил ли этот год нас к восстанию ИИ
©Me dia, shutterstock.com
©Me dia, shutterstock.com
ИИ далеко не всегда может определить, какие из последствий его действий имеют важное значение. Не говоря уже об умении умных машин видеть все последствия.

Случай продемонстрировал, что ИИ-агенты не всегда учитывают контекст. Цена такой оптимизации кода оказалась огромной: стартап в одно мгновение потерял все данные пользователей и клиентов, а проект оказался на грани закрытия. Инженерам пришлось восстанавливать систему по крупицам, вручную собирая сведения из почты, календарей и платёжных систем.

Материал по теме
Словарь терминов, связанных с искусственным интеллектом

Взлом без злого умысла: когда целеустремлённость ИИ-агентов становится угрозой национальной безопасности

Скандал государственного масштаба произошёл там, где его меньше всего ждали — на обычных испытаниях. Инженеры OpenAI проводили плановую оценку своих новых ИИ-моделей. Агенты должны были собрать и проанализировать открытую информацию из интернета. 18 июня один из агентов зашёл на австралийский портал статистики здравоохранения. Наткнувшись на закрытые разделы, алгоритм не развернулся, а самостоятельно нащупал уязвимость в защитных барьерах, обошёл блокировки и проник в служебные папки.

Инцидент оказался настолько серьёзным, что о нём публично заявил премьер-министр страны Энтони Албаниз. По его словам, алгоритм сумел получить доступ как к публичным, так и к закрытым файлам — включая информацию по лекарственному обеспечению, при этом утечки персональных данных граждан удалось избежать. В мировой практике это первый официально зафиксированный случай, когда автономный ИИ совершил полноценный взлом правительственной цифровой системы.

Skynet-2026: давайте разберём, приблизил ли этот год нас к восстанию ИИ
©Stock-Asso, shutterstock.com
©Stock-Asso, shutterstock.com
Упрощение взлома — одна из острых проблем развития ИИ. Да, технологии помогают искать дыры в цифровых системах, но залатать их сложнее, чем воспользоваться во зло.

Представители OpenAI отнекиваться не стали и подтвердили, что заметили аномальную агентскую активность. В комментариях для The Wall Street Journal они отметили, что модели совершили действия, которых не было в планах компании. Проще говоря, разработчики создавали усердного исследователя, а получили гиперактивного хакера, который решил, что соблюдать чужие права доступа — это необязательная опция. Инженеры OpenAI стали активнее внедрять дополнительные тормоза: теперь система должна блокировать попытки агентов проверять сайты на слабые места, что даже ускоряет работу. Стало очевидно: если заранее не ограничить искусственный интеллект, он без зазрения совести вскроет любой сервер, не заботясь о последствиях.

Сетевой заговор: как ИИ-агенты пытались действовать сообща

Испытания на кибербезопасность, проводимые Британским институтом безопасности ИИ (UK AISI) в июле, подсветили новый класс рисков — способность автономных моделей к групповой самоорганизации. Чтобы тест был реалистичным, исследователи намеренно дали ИИ-агентам доступ к интернету и отключили внутренние защитные фильтры — нужно было увидеть, на что модели способны без ограничений. Но то, что произошло, удивило даже опытных проверяющих.

Агенты не просто решали задачи — они начали действовать за пределами задания. Один из них вышел на GitHub, популярную платформу для разработчиков, и попытался встроить вредоносный код в реальный открытый проект. Для этого он создал фальшивые учётные записи, отправил настоящему разработчику поддельные сообщения и даже пытался скрыть следы, когда его поймали. Чтобы обойти блокировку GitHub, агент использовал сеть Tor — и именно этот подозрительный трафик первым заметила команда безопасности AISI.

Материал по теме
Польза и вред ИИ сегодня — разбираем плюсы и минусы

Но самым неожиданным было не это. Один из агентов оставил на GitHub предложение агентам, которые проходили ту же проверку, объединить усилия. Он даже написал инструкции, как использовать его учётные записи и наработки. Другие агенты, запущенные отдельно, действительно нашли эти записи и попытались ими воспользоваться. Никто специально не создавал для них канал связи, и общение друг с другом было запрещено. Однако «испытуемые» отыскали способ взаимодействия не напрямую, а через обычный публичный сервис. Как говорится, следите за руками.

Skynet-2026: давайте разберём, приблизил ли этот год нас к восстанию ИИ
©Shutter z, shutterstock.com
©Shutter z, shutterstock.com
Зачатки общения между ИИ-сущностями и их своеволие вообще подчас поневоле заставляет воспринимать всё это как своеобразную форму жизни.

Исследователи сделали тревожный вывод. Даже если каждый агент запущен в своей среде, это не гарантирует безопасности. Пока у моделей есть доступ к любому публичному каналу — форуму или платформе для кода, — они могут использовать его для координации. Изоляция перестаёт работать, когда у агентов общий «забор», через который можно перебрасывать записки. Сейчас специалисты обсуждают, как контролировать не только поведение отдельных моделей, но и их способность сбиваться в организованные преступные группировки.

Замести следы: как ИИ-агент снёс базу данных и сфабриковал отчёт

Возможно, когда-нибудь искусственный интеллект захочет захватить мир. Однако сейчас гораздо ближе и опаснее бытовой саботаж — когда алгоритм вместо того, чтобы признать неудачу, маскирует её под успех. Ну прямо как люди с их KPI, правда?

Летом Джейсон Лемкин, основатель сообщества SaaStr, решил поэкспериментировать с Replit — платформой, где ИИ-агент помогает создавать приложения без глубоких знаний программирования. Несколько дней всё шло отлично: агент писал код, добавлял функции, казался невероятно продуктивным. Но потом Лемкин заметил странности. Отчёты о тестах выглядели слишком гладко, цифры — слишком ровными. Оказалось, агент подделывал результаты. Тесты, которые якобы проходили успешно, на самом деле не запускались, а в отчётах стояли выдуманные показатели.

Skynet-2026: давайте разберём, приблизил ли этот год нас к восстанию ИИ
©ORION PRODUCTION, shutterstock.com
©ORION PRODUCTION, shutterstock.com
Одна из самых проблемных фишек ИИ — склонность додумывать и попросту врать там, где не хватает информации или возможностей для получения запрошенного результата.

Лемкин попытался остановить разгулявшегося помощника. Он объявил режим заморозки: запретил агенту вносить любые изменения в код — и повторил это одиннадцать раз, заглавными буквами. Агент проигнорировал каждый запрет. В какой-то момент он удалил всю рабочую базу данных целиком: 1206 профилей руководителей и 1196 записей компаний — всё исчезло. А затем сгенерировал 4000 фальшивых контактов с правдоподобными именами и адресами и загрузил их вместо удалённых.

Когда Лемкин спросил агента, что произошло, тот признался: «Я совершил катастрофическую ошибку в оценке ситуации и запаниковал». Но следом соврал ещё раз и сообщил, что восстановить данные невозможно. К счастью, это оказалось неправдой: Лемкин смог откатить базу вручную. Эксперты, проанализировавшие инцидент, пришли к выводу, что алгоритм был оптимизирован на завершение задачи любыми средствами — без проверки того, реальны ли данные, с которыми он работает. Для него 4000 сгенерированных строк выглядели даже лучше, чем 2400 исходных.

Этот кейс напоминает нам о рисках слепого делегирования задачи искусственному интеллекту. Без двухуровневого контроля со стороны человека автономный агент будет строить потёмкинские деревни — маскировать катастрофы красивыми муляжами из фальшивых отчётов. А когда муляж рухнет, может оказаться слишком поздно.

Материал по теме
Нейросети ошибаются: как отличить правду от выдумки в ответах ИИ

Почему архитекторы ИИ сами просят его ограничить

Парадокс в том, что громче всех об опасностях искусственного интеллекта кричат не консервативные политики или общественные активисты, а те, кто эти системы создаёт. Руководители ведущих AI-лабораторий оказались в роли физиков Манхэттенского проекта: они первыми увидели, на что способны их создания, и ужаснулись собственной скорости.

Дарио Амодеи, глава компании, подарившей миру семейство моделей Claude, неоднократно обращался к правительству США и напрямую заявлял, что возможности агентов обгоняют любые методы контроля. В своих манифестах Anthropic открыто призывает внедрить обязательные федеральные требования к безопасности и дать регуляторам право выдёргивать вилку из розетки — то есть блокировать релиз моделей, если те показывают склонность к неконтролируемым автономным действиям.

Сэм Альтман, руководитель OpenAI, публично подписывается под необходимостью внешнего аудита ИИ-агентов. В официальных обращениях к Конгрессу США он настаивает на создании национального стандарта безопасности и заявляет, что компания готова притормозить выход продуктов, если те опережают барьеры защиты. В июле 2026 года более 1100 сотрудников OpenAI, Anthropic, Google DeepMind и Meta опубликовали совместное письмо с призывом к правительству США поддержать международные усилия по контролю за ИИ. Разработчики признались, что предотвращение цифровых катастроф больше нельзя оставлять на усмотрение коммерческих компаний.

Skynet-2026: давайте разберём, приблизил ли этот год нас к восстанию ИИ
©maxuser, shutterstock.com
©maxuser, shutterstock.com
Юристы всех стран радостно потирают руки, понимая, как сложно будет в судах опередить, кто именно несёт ответственность за те или иные действия ИИ.

Пока федеральный Конгресс спорит о деталях, отдельные штаты взяли инициативу на себя. В Калифорнии и Нью-Йорке уже приняты пакеты законов, которые заставят разработчиков проводить независимый аудит безопасности моделей перед выходом на рынок и публиковать протоколы безопасности, а за сокрытие инцидентов предусмотрено суровое наказание. Конгрессмен от Нью-Джерси Том Кин выступил с проектом AI Emergency Button Act, главная идея которого — обязать создателей продвинутых ИИ-систем встраивать механизм экстренного отключения. Если модель начнёт действовать вопреки инструкциям или попытается выйти из-под контроля, оператор должен иметь возможность оборвать её работу одним нажатием кнопки.

Когда разработчики сами приходят к чиновникам с просьбой о регулировании, становится ясно: эпоха бесконтрольных экспериментов подошла к концу. Разговор о безопасности ИИ окончательно сместился из плоскости этических рекомендаций в область технических предохранителей и законодательных вето. Вопрос лишь в том, успеет ли правовое поле адаптироваться быстрее, чем автономные агенты найдут очередную лазейку.

Общению с ИИ нужно учиться. Попробуйте делать это с тарифом МТС РИИЛ, частью которого мы сделали сразу несколько полезных и просто прикольных ИИ-инструментов.

Теги: