В апреле компания Anthropic, разработчик искусственного интеллекта из Сан‑Франциско, объявила о создании модели ИИ, которую сами разработчики сочли слишком рискованной для открытого доступа.
Модель, получившая название Claude Mythos, оказалась настолько мощной, что смогла выявить уязвимости практически во всех основных операционных системах и браузерах. Потенциальные последствия для экономики, общественной безопасности и национальной безопасности могут быть весьма серьезными, отмечается в заявлении Anthropic о проекте Project Glasswing — ограниченном запуске Mythos для примерно 50 проверенных организаций.
Многие эксперты рассматривают решение Anthropic как начало новой эпохи: самые мощные модели ИИ могут перейти в режим «закрытых технологий». Хелен Тонер из Центра по вопросам безопасности и новых технологий Джорджтаунского университета считает, что подобный подход, скорее всего, станет тенденцией, а не исключением. Всего через неделю после анонса Mythos компания OpenAI отреагировала выпуском специализированной модели GPT‑5.4‑Cyber — также только для отобранных пользователей и организаций.
Дискуссия об «открытом» и «закрытом» ИИ продолжается уже давно. Прозрачные модели дают возможность научному сообществу проверять результаты, воспроизводить эксперименты и быстро развивать новые методы. Теперь становится все более вероятным, что самые продвинутые системы вообще не будут доступны широкой публике. В случае, если правительства официально отнесут мощный ИИ к «двойным» технологиям — подходящим как для гражданских, так и для военных целей — его могут начать регулировать по тем же правилам, что и чувствительное оборонное программное обеспечение и оборудование. Это ограничит круг тех, кто сможет пользоваться такими системами.
Главный мотив введения ограничений — угроза того, что злоумышленники смогут воспользоваться преимуществами новых систем. Одни и те же инструменты могут как помогать специалистам в поиске уязвимостей в системах безопасности, так и атакующим в нахождении этих же уязвимостей. Поэтому Anthropic стремится предоставить специалистам в области защиты преимущество, пока модель тестируется в узком кругу проверенных компаний. Тем не менее Mythos не спасло даже это — уже появились сообщения о несанкционированном доступе к системе.
В то же время растут опасения и в других областях. Модели, ориентированные на биологические исследования, потенциально могут упростить создание биологического оружия. OpenAI запустила GPT‑Rosalind для биологов с принципом «доверительного доступа» и постоянным мониторингом использования, а Google предлагает свой «ИИ‑соученый» только по заявкам.
Если такая практика станет обычной, доступ к самым мощным инструментам могут получить лишь отдельные крупные организации, что лишь усугубит неравенство в науке и технологиях. Обсуждаются варианты государственного контроля: от добровольной проверки моделей в национальных институтах стандартизации до возможных экспортных ограничений на наиболее рискованные системы ИИ и требований к учету их использования.