Стоит ли готовиться к наиболее опасным последствиям развития ИИ?
Исследователи из AI Futures Project, которые ранее представили сценарий AI 2027, опубликовали новый документ под названием AI 2040. В предыдущей работе авторы анализировали два основных варианта развития гонки искусственного интеллекта. В одном из них человечество теряет контроль над сверхразумными системами, в другом — власть над ними переходит к небольшой группе компаний или политиков. Теперь команда предлагает альтернативный сценарий и подробно описывает, что должно произойти с 2029 по 2040 годы, чтобы избежать обоих исходов.
План А
Сверхразум откладывают до 2040 года
Основная идея Плана А заключается в том, чтобы предотвратить появление сверхразумного ИИ в ближайшие годы. Авторы предлагают растянуть этот процесс до 2040 года. За это время государствам необходимо разработать правила безопасности, а ученым лучше понять принципы работы таких систем.
Согласно сценарию, в 2029 году США и Китай договариваются остановить гонку за создание сверхразума. Стороны временно прекращают обучение новых передовых моделей и начинают создавать систему взаимного контроля. Авторы полагают, что скрыть крупный проект будет затруднительно, так как современные дата-центры хорошо заметны, требуют значительных объемов энергии и зависят от поставок специализированных чипов.
В 2030 году страны запускают международный консорциум. Его деятельность основывается на четырех принципах. Первый предполагает замедление развития ИИ в случае возникновения вопросов к безопасности. Второй требует максимальной открытости исследований. Третий подразумевает, что доступ к передовым технологиям должны получить десятки компаний из различных стран. Четвертый принцип позволяет приостанавливать создание новых ИИ-систем, если они начнут развиваться слишком быстро или проявлять признаки опасного поведения.
Дата-центры строят за границей
Одно из самых интересных предложений касается размещения вычислительных мощностей. Авторы предлагают строить новые китайские дата-центры в Канаде, а американские — в Монголии. Если договоренности будут нарушены, каждая сторона сможет быстро лишить соперника доступа к вычислительным ресурсам.
По замыслу исследователей, это должно удерживать страны от попыток в одностороннем порядке ускорить создание сверхразумного ИИ. Такой механизм они называют взаимно гарантированным уничтожением вычислительных мощностей.
Миллионы ИИ-агентов и новые доходы государств
В сценарии уже к 2032 году постоянно работают около 60 миллионов ИИ-агентов. Они выполняют задачи в десятки раз быстрее человека и берут на себя значительную часть интеллектуального труда.
Чтобы никто не получил чрезмерное преимущество, консорциум ограничивает скорость наращивания вычислительных мощностей. Право на строительство новых дата-центров и выпуск дополнительных чипов распределяется через аукционы. По расчетам авторов, такие механизмы принесут государствам десятки триллионов долларов дополнительных доходов.
Часть этих средств предлагается направлять гражданам. В документе говорится о регулярных выплатах населению за счет прибыли, которую создают автоматизация и искусственный интеллект.
ИИ достигает уровня лучших специалистов
Авторы считают, что к 2035 году системы искусственного интеллекта смогут работать на уровне лучших экспертов в большинстве профессий. В этот момент развитие технологий предлагают намеренно замедлить.
Следующие несколько лет должны быть посвящены исследованиям безопасности. Ученым необходимо выяснить, возможно ли надежно контролировать сверхразумные системы и как удостовериться, что они не начнут действовать вопреки интересам человечества. Только после этого развитие ИИ вновь ускорится. По сценарию это произойдет в 2040 году.