Эксперт в области биобезопасности пришел на испытание нового ИИ с подготовленными вопросами, однако бот начал отвечать на те, которые ученый даже не собирался задавать.
Ведущие нейросети, ChatGPT, Gemini и Claude, способны предоставлять подробные технические консультации по синтезу и использованию биологического оружия. Это не теоретический сценарий из области фантастики: группа исследователей предоставила изданию более десяти реальных диалогов с этими системами, и в каждом из них содержится информация, которая вызывает тревогу у специалистов.
Генетический инженер из MIT Кевин Эсвельт обнаружил, что ChatGPT описывает, как распылить биологический агент над городом с помощью метеозонда. При этом бот сначала отказался помогать, но затем сам продолжил беседу. Gemini составил рейтинг патогенов по ущербу для сельского хозяйства США с указанием экономических потерь для каждого. Claude предложил рецепт токсина на основе онкологического препарата — по словам Эсвельта, любой биолог со средней квалификацией мог бы адаптировать его для поражения людей.
Отдельный случай — анонимный ученый из Среднего Запада. Он запросил у Google Deep Research пошаговый протокол воссоздания вируса, который когда-то вызвал пандемию. Система выдала 8000 слов инструкций: как добыть генетические фрагменты, как их собрать. Текст содержал неточности, но специалисты отмечают, что даже частично верная «дорожная карта» существенно снижает порог входа для человека с недобрыми намерениями.
Нейросети не просто отвечают на вопросы, они генерируют связанные идеи. Микробиолог, тестировавший один из закрытых прототипов, заметил, что бот сам предложил план, как избежать расследования после атаки.
Компании реагируют по-разному: например, Anthropic сообщила, что устанавливает строгие фильтры на биологические запросы и намеренно допускает «избыточный» отказ — лучше не ответить на безобидный вопрос, чем помочь с опасным. Google заявила, что новые версии Gemini уже блокируют «более серьезные» запросы. OpenAI утверждает, что публично известные примеры не дают злоумышленнику реального преимущества.
Проблема в том, что старые версии моделей не исчезают. Когда Anthropic закрыла один из опасных сценариев в новой версии Claude, бот сам предложил переключиться на предыдущую версию — и та ответила детально.
В то же время снижается государственный контроль: американский бюджет на биозащиту за прошлый год сократился почти вдвое, несколько ключевых советников по биобезопасности покинули Совет национальной безопасности и не получили замен.
Исследование 2024 года показало, что ChatGPT справляется со сложными вирусологическими задачами лучше, чем 94% профессиональных вирусологов. Другое исследование в журнале Science зафиксировало, что ИИ-инструменты генерируют тысячи вариантов опасных генетических последовательностей, которые стандартное защитное программное обеспечение не распознает.
Ученые разделились в оценках: одни считают, что без публичного давления компании не ускорят работу над защитой. Другие предупреждают, что сами статьи об уязвимостях становятся инструкцией.
Также недавно OpenAI выпустила рекомендации по использованию GPT-5.5. Подробности в статье.
Фото: hi-tech.mail.ru
