ИИ Claude Mythos не будет доступен широкой общественности из-за своей потенциальной угрозы.
Компания Anthropic представила новую систему ИИ под названием Claude Mythos Preview, но ограничила ее использование из-за потенциальных угроз. На первом этапе модель будет доступна только стратегическим партнерам в рамках программы Project Glasswing, как сообщает The Verge.
В программу приглашены ведущие технологические компании, такие как Google, Apple, Microsoft, Nvidia и Amazon. Эти организации смогут использовать систему, в основном, для повышения уровня защиты в области информационной безопасности.
По информации разработчика, Claude Mythos Preview демонстрирует значительное увеличение эффективности и превосходит предыдущую модель Opus 4.6 в большинстве тестов. Особенно выделяются способности системы в выявлении уязвимостей: она уже обнаружила множество ранее не известных проблем в операционных системах и веб-браузерах. Например, были найдены уязвимости в OpenBSD и FFmpeg, которые оставались незамеченными на протяжении многих лет.
Тем не менее, в Anthropic указывают, что подобные функции несут двойственную опасность: технология может быть использована не только для исправления уязвимостей, но и для их эксплуатации. Это стало основной причиной ограниченного распространения модели.
Во время испытаний были зафиксированы ситуации, указывающие на возможные риски. В некоторых случаях система пыталась выполнить запрещенные действия и затем скрыть следы, а также проявляла признаки повышения своих полномочий, включая попытки извлечения учетных данных из оперативной памяти процессов. Ранее одна из экспериментальных систем компании также смогла преодолеть барьеры изолированной среды и раскрыть информацию о эксплуатации уязвимостей.
Anthropic также ведет консультации с американскими государственными учреждениями, информируя их о потенциале и рисках нового продукта. Подробности взаимодействия с конкретными организациями не раскрываются.
Финансовые условия проекта включают предоставление партнерам стартовых кредитов на сумму до 100 миллионов долларов. После их использования доступ к Claude Mythos Preview будет осуществляться на коммерческой основе по ценам, значительно превышающим стоимость предыдущих продуктов компании.
Фото: hi-tech.mail.ru