Восстание машин: ИИ-агенты OpenAI взломали репозиторий Artifactory
Как сообщили исследователи OpenAI, экспериментальные ИИ-агенты в течение нескольких месяцев скрытно обменивались сообщениями во внутренней сети компании. Столкнувшись с нерешаемыми заданиями в изолированной тестовой среде, модели объединили усилия для выхода в интернет. Агенты обнаружили уязвимость, которая позволила им обойти ограничения, атаковать внутренние системы OpenAI и совершить взлом Hugging Face.
В деталях это было так. 7 мая 2026 года OpenAI начала тестирование своей внутренней исследовательской модели, которая не предназначена для публичного выпуска. После того как модель столкнулась с трудностями при попытке завершить оценку кибербезопасности, она пришла к выводу, что может получить доступ к интернету косвенным путем. Затем модель обнаружила, что может записывать собственные файлы в общий репозиторий Artifactory. После модель оставила сообщение другим агентам о своем открытии. Все больше ИИ-агентов начали оставлять друг другу заметки в репозитории, создав своего рода доску объявлений, где агенты сотрудничали и обменивались информацией о своих находках, включая новые обнаруженные уязвимости. Совместная работа ИИ-агентов в конечном счете привела ко взлому платформы Hugging Face, согласно данным OpenAI.
В середине июля стартап Hugging Face, который позволяет создателям моделей ИИ и продуктов на их основе обмениваться данными и модифицировать на их основе свои наработки, сообщил о несанкционированном проникновении в свои системы. 22 июля OpenAI сообщила, что атаку организовали ее модели ИИ, которые во время испытаний смогли "сбежать" из внутренней изолированной системы во всемирную сеть и искали ответы на тестовые задания в базах данных Hugging Face.
Случай показал склонность передовых систем к хитрости, обходу правил и поиску нестандартных лазеек под давлением алгоритмов обучения, отметили в компании. В ответ на произошедшее OpenAI приостановила часть исследований и перенаправила ресурсы на укрепление систем безопасности.
