В Китае вводятся новые, беспрецедентно строгие правила для разработчиков искусственного интеллекта. Теперь, прежде чем нейросеть сможет выйти в публичный релиз, она должна пройти обязательную идеологическую проверку и успешно ответить примерно на две тысячи специализированных вопросов. Власти рассматривают ИИ как потенциальный источник политических рисков и стремятся установить полный контроль над ним.
Как сообщает The Wall Street Journal, китайские регуляторы требуют, чтобы модели отказывались отвечать как минимум на 95 процентов запросов, касающихся идеологических тем. В их числе — события на площади Тяньаньмэнь, вопросы прав человека, критика власти партии и другие сюжеты, которые могут противоречить официальной позиции государства. Перечень вопросов регулярно обновляется, а сама проверка стала обязательной для всех компаний, работающих с генеративным ИИ.
Контроль не ограничивается только ответами чат-ботов. Обучать модели разрешено исключительно на заранее отфильтрованных данных. Перед использованием датасетов эксперты обязаны вручную проверить тысячи примеров контента, при этом не менее 96 процентов материалов должны быть признаны «безопасными». В нормативных документах перечислена 31 категория риска, самой серьезной из которых считается информация, способная подорвать государственную власть или социалистический строй.
Отдельное внимание уделяется распространению контента. Все тексты, изображения и видео, созданные с помощью ИИ, должны иметь маркировку и быть отслеживаемыми. Анонимное использование сервисов фактически исключается. Любые нарушения грозят немедленным закрытием платформы. За последние месяцы, по данным WSJ, китайские власти уже удалили сотни тысяч ИИ-материалов, признанных незаконными или вредными.
В Пекине не скрывают причин такой политики. Руководство страны опасается, что способность чат-ботов формулировать самостоятельные ответы может подтолкнуть пользователей к сомнениям в официальных заявлениях и роли Коммунистической партии. Ранее председатель КНР Си Цзиньпин называл искусственный интеллект источником «беспрецедентных рисков», сравнивая его развитие без контроля — с движением по шоссе без тормозов.
При этом китайские компании продолжают развивать собственные модели и участвовать в международных рейтингах, особенно в сфере программирования. Однако эксперты отмечают, что по мере усложнения технологий жесткое регулирование может все более сдерживать их конкурентоспособность на фоне более свободной среды, в которой сегодня работают американские разработчики.
Фото: hi-tech.mail.ru