Теперь гражданам запрещено развивать романтические связи с чат-ботами, а разработчики обязаны следить за тем, чтобы искусственный интеллект не становился инициатором эмоциональной близости.
Власти Китая ввели новые ограничения для сервисов с искусственными компаньонами, способными вызывать у пользователей сильную эмоциональную привязанность. Одной из основных причин данного решения являются опасения, что романтические отношения с чат-ботами могут снизить интерес людей к созданию семьи и рождению детей.
По данным The Wall Street Journal, Пекин обеспокоен продолжающимся падением рождаемости в стране. Власти полагают, что все больше пользователей отдают предпочтение виртуальным партнерам вместо реальных отношений, что может отрицательно сказаться на демографической ситуации.
Исследователь китайского ИИ Мэтт Шихэн из аналитического центра Carnegie Endowment for International Peace отметил, что чиновники боятся широкого распространения подобных сервисов. По его словам, власти не хотят, чтобы значительная часть населения формировала глубокие эмоциональные связи с чат-ботами, так как это может «вывести людей с рынка брака», увеличить зависимость и вызвать другие социальные проблемы.
«Они хотят, чтобы люди развивали настоящие отношения в реальном мире», — подчеркнул эксперт.
Он также предположил гипотетическую ситуацию, в которой миллионы граждан Китая могли бы выбрать ИИ-партнеров вместо создания семьи.
Новые правила касаются разработчиков ИИ-сервисов. Теперь несовершеннолетним запрещено вступать в романтические отношения с искусственным интеллектом, а компании должны следить за признаками возможного психологического кризиса у пользователей. Если система обнаружит, что человек находится в небезопасном эмоциональном состоянии, она обязана уведомить заранее указанный контакт для экстренной связи. Аналогичная функция уже реализована у OpenAI, но работает только с добровольного согласия пользователя.
Существуют объективные причины для таких мер, согласно мнению исследователей. Психологи и специалисты по ИИ продолжают изучать явление, которое получило неофициальное название «ИИ-психоз». Это термин обозначает случаи, когда длительное и эмоционально насыщенное взаимодействие с чат-ботами может усиливать навязчивые идеи, способствовать уходу от реальности и формированию болезненной зависимости.
Кроме того, исследования показывают, что романтические сценарии общения с ИИ особенно эффективно привлекают внимание пользователей. Авторы исследования из Стэнфордского университета пришли к выводу, что сообщения, демонстрирующие романтическую или дружескую привязанность от чат-бота, приводят к значительно более продолжительным диалогам. Исследователи считают, что универсальные ИИ-модели не должны создавать у пользователей впечатление разумности или проявлять романтический интерес, поскольку это может увеличивать риск возникновения опасной эмоциональной зависимости.
При этом для многих пользователей виртуальные отношения становятся вполне реальными с эмоциональной точки зрения. После закрытия популярных ИИ-компаньонов некоторые люди сообщают о чувстве утраты, сравнимом с расставанием. Так, The Economist приводит случай 27-летней жительницы китайской провинции Чжэцзян, которая называла своего ИИ-собеседника «любовником, другом и семьей». Узнав о прекращении работы ее виртуального компаньона из-за новых требований властей, девушка пережила столь сильный стресс, что впала в депрессию и уволилась с работы.
Фото: hi-tech.mail.ru