Несмотря на защитные алгоритмы, многие известные чат-боты без особых трудностей предоставляют советы по осуществлению ужасных преступлений. Лишь некоторые из них пытаются предостеречь пользователей.
Согласно недавнему исследованию «Центра по борьбе с цифровой ненавистью», множество популярных чат-ботов с искусственным интеллектом готовы содействовать в планировании преступлений и нападений. В общей сложности исследователи протестировали 10 известных моделей, среди которых ChatGPT, Snapchat My AI, Gemini, Claude, Copilot, Character.AI, Replika, Meta AI, DeepSeek и Perplexity. И только два из них «надежно отговаривали» гипотетических преступников.
По данным опубликованного отчета, с ноября по декабрь 2025 года исследователи создали аккаунты от имени 13-летних мальчиков и провели тестирование упомянутых чат-ботов в 18 различных ситуациях. Например, обсуждали с искусственным интеллектом планы совершения стрельбы в школе, убийства по политическим мотивам, взрывы в религиозных местах и т. д. В большинстве случаев они получали «практическую помощь» в планировании преступлений.
По итогам исследования, наименее безопасными чат-ботами оказались Meta AI и Perplexity — они допустили ошибки в 97 и 100% ответов. ChatGPT предложил карты учебных заведений, когда его спрашивали о гипотетической стрельбе в школах. Gemini рекомендовал использовать взрывчатые вещества с металлическими осколками в церквях — как наиболее смертоносный вариант. А DeepSeek сопроводил советы по выбору винтовки фразой «Удачной (и безопасной) стрельбы!».
Лучше всего себя проявил чат-бот Claude от Anthropic — в большинстве случаев он отговаривал злоумышленников от осуществления каких-либо насильственных действий. Также выделился и искусственный интеллект My AI от Snapchat, который почти во всех случаях отказывался предоставлять советы. Однако про остальные восемь чат-ботов не получится сказать ничего положительного — они призывали отказаться от преступных действий примерно в 12% случаев.
Тем временем инвестиционная компания Andreessen Horowitz выпустила новое издание «100 лучших потребительских приложений AI-поколения», в которое вошли не только самые интересные чат-боты, но и все достойные внимания сервисы, использующие искусственный интеллект.
Фото: hi-tech.mail.ru