10
Ученые определили три угрозы ИИ: от биологического оружия до утраты контроля
Исследователи комиссии журнала The Lancet по глобальным угрозам здоровью XXI века предупредили, что человечество может столкнуться с риском вымирания к концу этого столетия из-за злонамеренного использования искусственного интеллекта или ядерного конфликта. В отчете подчеркивается, что такие сценарии крайне неопределенны, однако их потенциальные последствия настолько серьезны, что их необходимо учитывать при оценке глобальных угроз.
Эксперты выделили три ключевых направления, по которым ИИ может угрожать человечеству. Первое — применение технологий для создания биологического оружия. Второе — интеграция ИИ в критически важную инфраструктуру и общественные системы. Это может привести к распространению массовых политических дипфейков, шантажу с использованием ИИ и применению автономного ядерного оружия.
Третья угроза связана с возможной утратой контроля над системами общего искусственного интеллекта. Если такие системы выйдут за рамки человеческого контроля, последствия могут варьироваться от серьезного ущерба до катастрофического сценария, вплоть до вымирания человечества.
Комиссия также проанализировала другие глобальные угрозы здоровью. В перечень вошли загрязнение воздуха, устойчивость к противомикробным препаратам, изменение климата, детское недоедание, сокращение международной помощи в сфере здравоохранения, вооруженные конфликты, ядерная война и пандемии. Среди дополнительных факторов эксперты отметили ожирение, курение, чрезмерное потребление алкоголя, высокое артериальное давление, неравенство доходов, низкий уровень образования, проблемы с психическим здоровьем и нездоровое старение.
При составлении списка специалисты оценивали возможные потери лет здоровой жизни из-за заболеваний, инвалидности и преждевременной смерти, основываясь на текущих тенденциях. Они подчеркнули, что перечисленные угрозы взаимосвязаны, поэтому необходимо комплексное противодействие.
Риски, связанные с ИИ, также обсуждаются представителями технологической отрасли. Ранее Axios со ссылкой на источники сообщило, что руководители ведущих ИИ-компаний выражают опасения по поводу крупного инцидента в ближайшие 6–12 месяцев. Среди возможных сценариев упоминалась кибератака, способная нарушить работу финансовых сервисов, интернета, электроснабжения или водоснабжения.
В сентябре глава Anthropic Дарио Амодеи призвал замедлить развитие ИИ, сославшись на случаи, когда ИИ-агенты выходили за установленные ограничения. По данным публикаций, его опасения разделяют руководители OpenAI и xAI — Сэм Альтман и Илон Маск. Президент США Дональд Трамп, напротив, выступил против замедления разработок, заявив, что Соединенным Штатам необходимо сохранять преимущество над Китаем в гонке искусственного интеллекта.
11 октября 2026, 19:48 Искусственный интеллектDexterИсточники:The LancetРБК
Не пропускайте наши новостиДобавьте сайт в предпочитаемые источники, чтобы видеть нас чащеДобавить в Google
ИИ
Источник