Законопроект, разработанный Минцифры, вводит запрет на применение искусственного интеллекта для манипуляции решениями и поведением пользователей с учётом их слабых мест.
Создатели систем искусственного интеллекта (ИИ) обязаны информировать пользователей о недопустимости применения нейросетей для манипуляции поведением и эксплуатации слабостей человека. Это указано в законопроекте об искусственном интеллекте, который подготовлен Минцифры и в настоящее время проходит межведомственное согласование. «Известия» ознакомились с этим документом.
Под эксплуатацией слабостей в законе подразумевается использование различных состояний человека (возрастных, социально-экономических, психологических и других) для «целенаправленного воздействия на поведение, принятия решений или несанкционированного доступа к информации».
«Запрет в первую очередь касается операторов и разработчиков систем ИИ — то есть организаций и компаний, которые внедряют такие системы в сервисы, приложения или продукты. По сути, «объяснить» это роботу можно так: система ИИ не должна разрабатываться или использоваться таким образом, чтобы намеренно подталкивать человека к решениям, которые он не принял бы без скрытого давления или манипуляции», — считает ведущий эксперт в области ИИ «Университета 2035» Ярослав Селиверстов.
По мнению эксперта, ИИ может оказывать влияние на поведение человека через анализ данных о нём и персонализацию контента — например, предлагая сообщения, рекомендации или интерфейсы, которые увеличивают вероятность желаемого действия. Такие технологии могут применяться в рекламе, политических коммуникациях, рекомендательных системах или чат-ботах для повышения уровня доверия, срочности или эмоциональной реакции, утверждает Селиверстов.
Фото: hi-tech.mail.ru