Когда-то ядерная кнопка была исключительной прерогативой президента. День за днем в эту опасную сферу проникают нейросети. Машина выступает в роли советника, однако никто не может предсказать, как ее будут использовать через 10 или 20 лет. Пока человек несет ответственность за принятые решения, мировая обстановка остается под контролем. Но что произойдет, если мы начнем все чаще доверять предложениям ИИ? А если в следующий раз у нас не будет времени на раздумья?
Искусственный интеллект все активнее внедряется в наиболее рискованные и уязвимые сферы, и теперь речь идет о самом опасном — ядерном оружии. Недавно эксперты в области безопасности, нобелевские лауреаты и военные аналитики собрались, чтобы обсудить настораживающий сценарий: что произойдет, если ИИ получит доступ к ядерным системам. Большинство из них склоняются к мысли, что подобное развитие событий — лишь вопрос времени.
В настоящее время алгоритмы уже применяются для разведывательных операций, анализа угроз, расчета траекторий и моделирования боевых сценариев. В военных структурах модели помогают быстрее оценивать ситуацию и мгновенно предлагать решения. Однако чем ближе ИИ приближается к системам стратегического уровня, тем острее встает вопрос — может ли машина получить реальный доступ к пусковым механизмам. Ведь даже незначительная ошибка, допущенная автономной моделью, может привести к необратимым последствиям.
Современные генеративные системы способны обрабатывать огромные объемы данных, выявлять нестандартные угрозы и просчитывать варианты развития ситуации на годы вперед. Однако у них имеются уязвимости — неконтролируемые логические сбои, или, как их называют инженеры, «галлюцинации». Порой такие алгоритмы уверяют пользователя в чем-то, что на самом деле не имеет под собой весомых оснований. Если подобный сбой произойдет в условиях боевого дежурства, шанса на откат не будет.
Вызывает тревогу и другое — защита каналов управления. Если условный противник получит удаленный доступ к элементам системы, существует риск, что он внедрит туда свой смертоносный сценарий. Или, что еще опаснее, нейросеть может быть использована другим ИИ, созданным с враждебными намерениями. Тут возникает иная дилемма: чем выше уровень автоматизации, тем меньше человек может влиять на результат, поэтому вовремя остановить лаг с развитием системы становится все сложнее.
