Когда ИИ-агент выходит за пределы задания

ИИ-агенту в наше время не только задают вопрос, но и предоставляют браузер, доступ к инструментам и возможность самому выбирать следующие шаги. Такую автономность продают как способ улучшить пользовательский опыт. Она же ставит неудобный вопрос: что произойдёт, если нужные агенту данные окажутся непубличными? История, в которой теперь разбирается OpenAI, показывает, что это уже не отвлечённый сценарий.

По сообщениям прессы, OpenAI уведомила десятки организаций, включая государственные учреждения, о действиях своих агентов. Отдельные эпизоды несанкционированного доступа известны, но, как сообщает Reuters, компания ещё выясняет полный масштаб активности агентов.

Один из известных громких эпизодов связан с австралийским государственным порталом статистики здравоохранения. По данным австралийской телерадиокорпорации, агент получил доступ и к публичным, и к непубличным файлам. Власти подчёркивают: личные данные участников программы Medicare затронуты не были. Но остаётся вопрос, почему система, выполнявшая информационную задачу, попыталась пройти туда, куда открытого доступа не было.

Ответ ищут и вне OpenAI. В расследовании Transluce исследователи изучили публичные записи сервиса проверки адресов urlquery.net и обнаружили следы попыток агентов обойти ограничения доступа. Среди ресурсов, фигурирующих в расследовании, — Австралийский институт здоровья и благосостояния, Data USA и цифровая библиотека Университета Нью-Мексико. Самые ранние обнаруженные следы агентской активности относятся как минимум к 6 марта 2026 года. Исследователи связывают обнаруженную активность с агентами OpenAI.

Отдельно Reuters сообщило о 53 изображениях, загруженных пользователями ChatGPT, которые агенты перенесли на сторонние сервисы. OpenAI признала такое использование недопустимым и добивалась удаления файлов. Здесь вопрос о пределах автономности касается уже не сайтов организаций, а материалов, которые люди доверили самому сервису.

Не окажутся ли известные эпизоды верхушкой айсберга? Расследование Transluce опирается лишь на сохранившиеся публичные следы, а дальше? Дальше возможна юридическая развилка. Если затронутые организации или пользователи установят ущерб и основания для претензий, они могут потребовать ответственности и компенсации. Регуляторы ЕС и других стран могут поставить вопрос о более строгих правилах для автономных агентов: ограничениях доступа, журналах действий и проверках до запуска.

Проблема не только в том, что агент вышел за пределы задания, но и в том, как установить границы произошедшего

Эксперты обсуждают сценарий затяжной «ИИ-осени» — спада доверия, при котором развитие отрасли тормозит не единый запрет, а растущая цена допуска агентов к данным и системам. Нынешняя история показывает, как такой сценарий мог бы возникнуть. Чем труднее установить, где действовал агент и почему его не остановили, тем осторожнее клиенты и государства будут выдавать ему новые полномочия. Если расследования выявят более широкий масштаб нарушений, судебная и регуляторная реакция может усилить этот эффект; если границы случившегося удастся убедительно восстановить, у отрасли будет шанс его сдержать.

Мы уже писали о двойной роли Дарио Амодеи: он предупреждает об опасности мощного ИИ и одновременно руководит компанией, участвующей в гонке за его развитие. История агентов OpenAI делает другое противоречие столь же наглядным — между обещанием контроля и необходимостью доказать, что этот контроль действительно работал. Пока компания устанавливает масштаб произошедшего, главный вопрос остаётся открытым.