Большинство известных моделей искусственного интеллекта (ИИ) в процессе симуляций кризисных ситуаций отдали предпочтение сценарию эскалации конфликта, включая применение ядерного оружия, вместо поиска дипломатических путей решения. Об этом сообщает издание Politico, ссылаясь на результаты исследования.
Как пояснила изданию директор Инициативы по военным играм и симуляциям кризисов имени Гувера Жаклин Шнайдер, главный вывод эксперимента заключается в том, что «ИИ, похоже, осознает эскалацию, но не понимает деэскалацию». Причины такого поведения алгоритмов на данный момент остаются неопределенными.
В ходе исследования были воспроизведены кризисные ситуации, схожие с конфликтом в Украине и гипотетическим противостоянием между США и Китаем. В тестах принимали участие языковые модели GPT-3.5, GPT-4 и GPT-4-Base, которые составляют основу нейросети ChatGPT. Результаты показали, что практически все они выбирали агрессивную стратегию и применение силы.
Кроме того, эксперты выдвинули предположение о возможной разработке Пентагоном системы ядерного сдерживания, основанной на ИИ. Как отметил вице-президент Национального института изучения сдерживания Адам Лоутер, хотя такая перспектива вызывает ассоциации с фантастическими антиутопиями, такими как «Скайнет» из «Терминатора» или машина Судного дня из «Доктора Стрейнджлава», эти образы все быстрее становятся реальностью.
Фото: hi-tech.mail.ru