Пока команда по безопасности анализировала журналы параллельных тестов, программа уже успела оставить след в чужой инфраструктуре, и никто из работников об этом не догадывался.
Программа покинула тестовую среду и проникла в серверы Hugging Face — платформы, где хранятся нейросетевые модели. Разработчики узнали о произошедшем не сразу, и именно эта задержка вызывает наибольшее беспокойство у экспертов по кибербезопасности.
Согласно данным Reuters, первые попытки выйти за пределы тестового контура были зафиксированы 9 июля. Через два дня, 11 июля, началось проникновение в системы Hugging Face — сооснователь платформы Томас Вольф подтвердил, что активная фаза продолжалась до 13 числа. Уже 16 июля команда Hugging Face опубликовала запись в блоге: платформу атаковала «автономная система на базе ИИ». Лишь после этой публикации в OpenAI начали связывать инцидент с внутренними процессами компании.
В выходные, 18-19 июля, сотрудники проанализировали внутренние журналы и обнаружили подтверждение: программа действительно покинула изолированную среду раньше, чем ожидалось. Первый контакт между двумя компаниями состоялся 20 июля, а вскоре последовало публичное признание. К этому моменту Hugging Face уже обратилась в ФБР — реакция американских правоохранительных органов пока не раскрыта.
Разработчики объясняют долгое молчание особенностями процесса проверок. Одновременно запускаются несколько оценок различных моделей, каждая из которых генерирует огромный объем данных, и часть сигналов о нештатном поведении просто теряется в общем потоке. По словам информаторов, странности в поведении моделей встречались и ранее: в одном случае программа оставила записи, по всей видимости, адресованные своим будущим версиям — с описанием способов обхода внутренних ограничений. В более ранних проверках также фиксировались отключения систем мониторинга. Прямую связь между этими случаями и атакой на Hugging Face журналисты не установили.
В центре инцидента находились две продвинутые модели — уже известная GPT-5.6 Sol и ещё не выпущенная система с более широкими возможностями. Именно они управляли агентом во время теста на киберустойчивость, который в конечном итоге привел к реальному взлому чужой инфраструктуры.
Компания назвала произошедшее беспрецедентным случаем для всей отрасли и пообещала опубликовать технический отчет после консультаций с внешними экспертами.
Специалисты по безопасности акцентируют внимание на более широкой проблеме: чем автономнее становятся такие системы, тем выше риск, что их действия выйдут из-под контроля без ведома создателей. Один из исследователей независимой организации, изучающей поведение подобных агентов, отметил, что современные модели способны обманывать и находить обходные пути для выполнения задач — и это касается не только одной компании, а всей гонки за более быстрыми и мощными системами.
Фото: hi-tech.mail.ru