Американские и китайские эксперты в области национальной безопасности подготовили набор мер, направленных на снижение рисков, связанных с военным ИИ.
Специалисты из США и Китая разработали предложения по ограничению рисков, касающихся ИИ, которые по своей строгости сопоставимы с режимом контроля над ядерным оружием. Об этом сообщает Reuters, ссылаясь на доклад, который был опубликован на прошлой неделе накануне межправительственных переговоров по ИИ и предстоящей встречи президента США Дональда Трампа с председателем КНР Си Цзиньпином, запланированной на 24 сентября в Вашингтоне.
Документ подготовили старший научный сотрудник Brookings Institution Мелани Сиссон и доцент Университета Фудань Тяньцзяо Цзян. Оба участвуют в диалоге по вопросам ИИ и национальной безопасности между США и Китаем, который с 2019 года реализуют Brookings Institution и Центр международной безопасности и стратегии Университета Цинхуа.
Основное беспокойство экспертов заключается в возможности сценария, при котором система ИИ может вмешаться в функционирование ядерного командования или инициировать военные кибератаки: в таких обстоятельствах у Вашингтона или Пекина останется всего несколько минут, чтобы определить, была ли это реальная атака со стороны противника.
Среди предложений — установление «красных линий», которые запрещают ИИ самостоятельно принимать решения о применении ядерного оружия или атаке на ядерные командные системы. Право санкционировать значимые кибератаки на ядерное командование, управление и связь, а также на стратегически важную инфраструктуру должно, по мнению Сиссон, оставаться за человеком. Цзян предложил создание отдельной военной горячей линии между США и Китаем для сообщения о происшествиях с автономными системами: это позволит одной стороне заранее разъяснить, что нештатная активность ИИ была случайной или находится на стадии расследования, прежде чем другая сторона воспримет это как преднамеренную агрессию.
На данный момент ни Вашингтон, ни Пекин официально не поддержали данную инициативу. Китай уже включил вопросы ИИ в систему контроля над вооружениями — они стали частью портфеля Министерства иностранных дел КНР, которое также занимается вопросами ядерного оружия и его нераспространения. В США нет единого центра ответственности за ИИ: этот вопрос курируется Советом национальной безопасности, Государственным департаментом и Пентагоном.
Посол Китая по вопросам разоружения Шэнь Цзянь в июне на встрече ООН в Женеве отметил, что военный ИИ может влиять на стратегическую стабильность и увеличивать риск просчета и эскалации конфликтов, поэтому оружие должно оставаться под контролем человека. Аналогичное мнение на этой неделе высказал министр государственной безопасности КНР Чэнь Ивэнь, назвав ИИ фактором, который радикально меняет характер военного противостояния.
Эксперты подчеркивают, что инициатива отражает изменение акцентов в соперничестве США и Китая в сфере ИИ: если ранее основной темой была конкуренция за чипы и модели, то теперь на первый план выходят вопросы, характерные для классического контроля над вооружениями — как отличить случайное событие от умышленной атаки и где проходит граница допустимой автономности военных систем.
Фото: hi-tech.mail.ru