Управление киберпространством Китая представило проект новых правил, целью которых является регулирование антропоморфных сервисов искусственного интеллекта (ИИ).
Главная цель данной инициативы — избежать негативного эмоционального воздействия чат-ботов, которое может привести к ущербу здоровью пользователей. Согласно представленному документу, новые меры будут касаться ИИ-продуктов, которые имитируют человеческую личность и взаимодействуют на эмоциональном уровне через текст, изображения, аудио или видео.
По словам адъюнкт-профессора юридического факультета Нью-Йоркского университета Уинстона Ма, эти правила станут первой в мире попыткой регулирования ИИ с человеческими чертами. Эксперт подчеркивает, что если нормы 2023 года в основном касались безопасности контента, то текущие предложения обозначают переход к обеспечению «эмоциональной безопасности». Обсуждение проекта будет проходить до 25 января.
Законопроект устанавливает строгие рамки для разработчиков: чат-ботам запрещено создавать контент, способствующий членовредительству, а также применять вербальное насилие или методы эмоциональных манипуляций, наносящие вред психическому здоровью.
Если пользователь прямо укажет на намерение причинить себе вред, технологическая компания должна немедленно переключить общение на живого оператора и связаться с опекуном или доверенным лицом клиента. Кроме того, под запрет попадает создание контента, связанного с азартными играми, насилием и непристойными материалами.
Особое внимание в документе уделяется защите несовершеннолетних. Для использования ИИ-компаньонов детям потребуется согласие родителей, а время взаимодействия будет строго ограничено. Платформы должны будут уметь определять возраст пользователя даже без его прямого указания и включать защитные настройки по умолчанию в сомнительных случаях. Дополнительно правила требуют от сервисов напоминать пользователям о необходимости делать перерывы после двух часов непрерывного общения.
Чат-боты с аудиторией более миллиона зарегистрированных пользователей или 100 тысяч активных пользователей в месяц должны будут проходить обязательную государственную проверку безопасности.
При этом власти КНР не только вводят ограничения, но и поощряют использование «человекоподобного» ИИ в социально значимых сферах, таких как распространение культуры и помощь пожилым людям.
Фото: hi-tech.mail.ru