Китайские специалисты работают над проектом нормативных актов, который устанавливает стандарты для ключевых аспектов разработки искусственного интеллекта. Это не касается запрета технологий, а больше контроля над их эмоциональными проявлениями. Новый набор требований, вынесенный на общественное обсуждение до 25 января, впервые в мире нацелен на «антропоморфные» ИИ-сервисы — чат-ботов, которые выдают себя за людей. Основная задача, как указано в документе Управления киберпространства, заключается в «предотвращении негативного эмоционального воздействия». Проще говоря, государственные органы стремятся защитить граждан от потенциального психологического вреда, который может исходить от слишком убедительного и манипулятивного виртуального собеседника.
Если предыдущие нормы контролировали, что говорит ИИ, то новые правила следят за тем, как он это говорит. Это переход от безопасности контента к эмоциональной безопасности, — поясняет Уинстон Ма, профессор права Нью-Йоркского университета.
Под строгим контролем окажутся любые сервисы, которые имитируют человеческую личность через текст, голос или видео. Им будет категорически запрещено:
- Генерировать контент, способствующий самоповреждению;
- Использовать вербальное насилие или методы эмоционального шантажа;
- Создавать материалы, связанные с азартными играми, насилием или порнографией.
Однако самый строгий пункт касается процедуры экстренного реагирования. Если пользователь прямо укажет на намерение причинить себе вред, система обязана немедленно переключить диалог на живого оператора и уведомить родственников или доверенных лиц. Специальные меры предусмотрены для несовершеннолетних. Детям для общения с ИИ-компаньоном потребуется согласие родителей. Платформы должны будут определять возраст «вслепую», основываясь на поведении, и автоматически включать максимальную защиту. Кроме того, они должны напоминать о необходимости перерыва после двух часов непрерывного общения. Крупные сервисы с аудиторией от 1 миллиона пользователей или 100 тысяч активных пользователей в месяц ожидает обязательная государственная проверка безопасности. По мнению специалистов, этот шаг может задать тренд для всего мира. Китай, часто подвергаемый критике за избыточный контроль, на этот раз формально защищает психическое здоровье нации. Законодатели намерены оградить население от манипуляций со стороны ИИ и сделать нейросети безопасным справочником, полностью обезличив технологию. Суть новых норм однозначна: эмоции — это прерогатива человека, даже если это сделает ИИ менее интересным.
Фото: hi-tech.mail.ru
