Топ-менеджеры компаний, занимающихся искусственным интеллектом, таких как Anthropic и OpenAI, в частном порядке рассматривают сценарии общественного и политического восстания после серьезного инцидента, связанного с ИИ.
Об этом сообщает Axios. По информации издания, руководители ожидают крупного инцидента, вероятнее всего, кибератаки, которая приведет к отключению доступа к финансовым услугам, интернету, а возможно, и к электричеству и водоснабжению. Первый случай значительного реального ущерба от небезопасного ИИ еще более усиливает негативное отношение к технологии и ее лидерам: генеральному директору Anthropic Дарио Амодеи, главе OpenAI Сэму Альтману и президенту Трампа, который не спешит с регулированием отрасли.
Сценарное планирование само по себе является обычной практикой: Пентагон проводит военные игры на протяжении десятилетий. Разница заключается в том, что многие ведущие исследователи и топ-менеджеры ИИ-компаний считают крупный инцидент неизбежным. Инсайдеры, опрошенные Axios, ожидают его в ближайшие шесть–двенадцать месяцев.
В OpenAI сообщили, что осуществляют учения по готовности: команды обсуждают различные сценарии, хотя компания не считает их неизбежными. Anthropic отказалась от комментариев.
В качестве примера вреда, который может нанести один человек, издание приводит недавнюю атаку на финансовые учреждения Южной Кореи, включая сообщения о взломе двух банков. По данным CrowdStrike, хакер из Китая использовал ИИ-инструменты на основе китайских моделей, включая DeepSeek, для кражи данных десятков тысяч клиентов банков, а Claude Code применял для поиска площадок, где можно продать украденное.
Планировщики из ИИ-компаний полагают, что после промежуточных выборов демократы быстро постараются остановить развитие ИИ, но столкнутся с трудностями. Конгресс далек от ИИ-революции, мировая экономика крепко связана со строительством ИИ-инфраструктуры, а модели с открытыми весами уже можно свободно скачивать и использовать во вред. Большинство специалистов по кибербезопасности считают, что справиться с этой проблемой возможно только с помощью ИИ против ИИ.
Подготовка включает анализ худших сценариев и, прежде всего, просвещение конгрессменов. Руководители понимают, что в настоящее время регулирование не пройдет, но стремятся повлиять на законы и политику, к которым власти обратятся после первой катастрофы. Среди наиболее строгих инициатив демократов — запрет суперинтеллекта или временная остановка разработки продвинутого ИИ. Обязательный «рубильник» для мощных систем поддерживают обе партии и отчасти сама индустрия, хотя эксперты сомневаются в возможности отключения всех ИИ-систем.
Тем не менее, в условиях реального кризиса Вашингтон способен отложить партийные разногласия: помощник одного из демократов напомнил о сотрудничестве во время COVID и финансового кризиса 2008 года.
Фото: hi-tech.mail.ru