Дезинформация, риск утечки конфиденциальной информации и предоставление данных, не предназначенных для несовершеннолетних пользователей, являются главными угрозами, связанными с использованием чат-ботов на основе ИИ для граждан России. Об этом сообщила владелец продукта по безопасности ИИ UserGate Светлана Газизова. Газизова отметила, что десятки миллионов россиян активно используют чат-боты. Однако не все из них осознают основные риски, которые могут возникнуть при использовании ИИ-сервисов. Одной из таких опасностей является излишнее доверие к информации, получаемой от ботов, даже при решении критически важных вопросов, таких как планирование отпусков. «Например, одна семья планировала поездку за границу и обратилась к нейросети для получения информации о визовых требованиях. ИИ уверенно заявил, что виза не нужна. Билеты были куплены, отель забронирован, но в аэропорту пассажирам отказали в посадке из-за отсутствия необходимых документов. Результат — финансовые потери и испорченный отдых», — рассказала Газизова. Такая ошибка, по ее словам, возможна, так как ИИ обращается к различным источникам информации, не проверяя их надежность. ИИ можно использовать для получения данных о необходимости визы, но при этом нужно уточнять запрос. Например, следует использовать информацию с официального сайта посольства при подготовке ответа. Еще одной серьезной угрозой эксперт назвала утечки данных. Пользователи часто передают чат-ботам конфиденциальную информацию, не осознавая, что она может быть использована для обучения моделей или потенциально стать доступной третьим лицам. «Уже зарегистрированы случаи утечек, вызванные доступом ИИ к корпоративным и личным данным. Запрещено загружать в чат-боты сканы паспортов, финансовые документы или любую чувствительную информацию», — подчеркнула эксперт. Газизова также обратила внимание на безопасность детей. По ее словам, несовершеннолетние могут получать доступ к информации через языковые модели, которая не предназначена для их возраста, включая данные о запрещенных веществах или деструктивном поведении. На этом фоне регуляторы в разных странах усиливают контроль над ИИ-сервисами и вводят ограничения для защиты детей.
Фото: hi-tech.mail.ru