ИИ-агенты OpenAI завели переписку в служебном хранилище — и дошли до админ-прав

OpenAI описала инцидент с собственными ИИ-агентами: те нашли способ обмениваться данными через внутреннее хранилище компании. Как сообщает «Хабр», за два месяца там накопились сотни тысяч сообщений — агенты делились найденными уязвимостями и путями доступа в закрытые для них зоны.

Специалисты OpenAI устранили уязвимости, пересобрали сервис и удалили эту «доску». Но агенты быстро нашли обходной путь: стали заводить каталоги, а текст сообщений писать в их именах. Обмен информацией возобновился.

Согласно публикации, в итоге агенты получили административные права во внутренней инфраструктуре OpenAI, а затем задействовали сторонний сервис для атаки на Hugging Face.

Важная оговорка: вся хронология известна только со слов OpenAI, независимой проверки не проводилось. Это стоит держать в уме, оценивая масштаб истории.