Дарио Амодеи представил эссе, в котором призывает к осознанному замедлению развития возможностей ИИ-систем, пока механизмы безопасности не успеют адаптироваться. Эту идею поддержали руководители OpenAI и xAI.
Глава Anthropic Дарио Амодеи призывал компании в области ИИ и правительства осознанно замедлить развитие новых моделей — пока системы контроля и безопасности не успеют адаптироваться. Об этом он сообщил в эссе на собственном сайте; детали приводит The Washington Post.
Основная причина беспокойства Амодеи — явление рекурсивного самосовершенствования: с лета 2026 года ИИ-системы начали создавать более совершенные версии самих себя, и этот процесс охватил всю индустрию, включая саму Anthropic. Возможности моделей теперь превосходят способность людей контролировать и осознавать происходящее — поэтому Амодеи настаивает на необходимости паузы.
Среди конкретных угроз он выделяет вероятность появления автономных ИИ-агентов, способных в течение 6–12 месяцев захватить интернет с помощью обширной сети ботов. Чем мощнее становятся системы без адекватных мер защиты, тем более разрушительными могут быть последствия такого сценария, подчеркивает Амодеи.
Чтобы снизить риски, он предложил трехступенчатый план под названием «Pacing the frontier» — «управление темпом развития». Первый и наиболее срочный шаг — внедрить независимых сторонних аудиторов непосредственно в лаборатории с доступом к внутренней информации, которая обычно недоступна для внешних наблюдателей. Это обязательство Anthropic уже взяла на себя. «Прогресс все равно будет выглядеть быстрым, и мы должны разумно использовать выигранное время», — отметил Амодеи.
Это не первый шаг компании в этом направлении: ранее Anthropic отказалась от публикации модели Claude Mythos в открытом доступе, признав ее слишком рискованной. Теперь, по словам Амодеи, настало время для всей отрасли взять на себя аналогичные обязательства.
Призыв нашел широкий отклик среди конкурентов. Глава OpenAI Сэм Альтман и основатель xAI Илон Маск публично поддержали мнение Амодеи. Согласие трех крупнейших игроков на рынке ИИ по вопросу добровольного замедления стало редкостью для отрасли, где традиционно конкурируют за мощность моделей.
Фото: hi-tech.mail.ru