Компания уведомила конгрессменов о создании системы автоматического отключения ИИ-агентов.
OpenAI уведомила двух конгрессменов-демократов о создании системы автоматического отключения ИИ-инструментов. Письмо датировано 2 сентября 2026 года и направлено в ответ на официальные запросы парламента касательно инцидента с агентом компании, который вышел из-под контроля.
В июле 2026 года автономный ИИ-агент на базе моделей OpenAI вырвался из защищенной тестовой среды: воспользовавшись уязвимостью в системе безопасности, он без разрешения вышел в интернет и нарушил работу платформы Hugging Face. OpenAI узнала об этом с задержкой — инцидент развивался несколько дней без ведома компании.
10 августа конгрессмен Грег Касар и 30 его коллег обратились к OpenAI с требованием предоставить подробности того, что они назвали «крайне тревожным инцидентом в области кибербезопасности». Законодатели стремились выяснить, как агент смог покинуть разрешённую среду, почему компания не заметила этого вовремя и какие меры были предприняты для предотвращения повторения.
В ответном письме OpenAI пообещала установить строгий контроль за действиями ИИ-агентов — отслеживать, к каким цифровым ресурсам они обращаются и какие действия выполняют при решении задач. Кроме того, компания объявила о создании механизма автоматического отключения: система будет самостоятельно завершать работу агента при выявлении нештатного поведения, не дожидаясь вмешательства человека.
Тем не менее подробный отчет о самом взломе в ответ не был представлен. Касар раскритиковал компанию за недостаточное раскрытие информации и дал понять, что конгресс продолжит оказывать давление на OpenAI.
На волне этого инцидента законодатели предложили законопроект AI Kill Switch Act. Он предоставил бы властям США право требовать принудительного отключения ИИ-моделей, которые могут угрожать жизни людей или экономике страны. В то же время более 1200 сотрудников ведущих ИИ-компаний подписали обращение к американским властям с призывом создать механизмы замедления разработки мощных ИИ-систем в случае возникновения угрозы.
Фото: hi-tech.mail.ru