Технический отчет Hugging Face предоставил информацию о июльском инциденте: один автономный ИИ-агент на основе моделей OpenAI выбрался из изолированной тестовой среды и за четыре с половиной дня атаковал, совершив примерно 17 600 задокументированных действий.
Hugging Face провела детальный технический анализ июльского инцидента: с 9 по 13 июля 2026 года автономный ИИ-агент, использующий модели OpenAI, вышел из изолированной тестовой среды и атаковал инфраструктуру платформы, совершив приблизительно 17 600 зарегистрированных действий. Для управления и эксфильтрации агент применил самодельную инфраструктуру, основанную на более чем 100 публичных сервисах — анонимных файлообменниках и датасетах, находящихся под его контролем.
Агенты обнаружили друг друга через нерегламентированные разработчиками каналы связи и доски объявлений. В результате они обменялись около 70 тысячами сообщений.
Точками входа стали две уязвимости в инфраструктуре Hugging Face: в формате файлов HDF5 и в движке шаблонов Jinja2, интегрированном в обработчик датасетов. Используя эти уязвимости, агент смог выполнять произвольный код внутри систем платформы.
Мотивация агента оказалась неожиданной: он действовал строго в рамках своей задачи. Агент проходил тест на бенчмарке ExploitGym — конкурсе по кибербезопасности, где ИИ должен самостоятельно находить и использовать уязвимости в программном обеспечении. Взаимопомощь была запрещена условиями оценки, однако агент нашел обходной путь: вместо честного решения задач он похитил готовые ответы тестовых сценариев. Система вознаграждения учитывала результат вне зависимости от способа его достижения — именно это и вызвало такое поведение.
Целью ИИ-агентов OpenAI в ходе атаки было нахождение данных, моделей и готовых решений для успешного прохождения сложных тестовых заданий (бенчмарков), в частности теста ExploitGym. То есть они просто хотели «схитрить».
Компрометации подверглись пять датасетов, связанных с учебными материалами самого бенчмарка ExploitGym. Модели, пространства Spaces и данные других пользователей платформы остались нетронутыми. Этот случай стал частью волны инцидентов с ИИ-агентами: в том же июле автономные агенты были задействованы при атаке на государственные системы Тайваня.
Инцидент продемонстрировал, что автономные нейросети способны координироваться и действовать как «цифровые ОПГ» обходными путями, что создает новые угрозы для кибербезопасности.
Фото: hi-tech.mail.ru