В браузере ChatGPT Atlas от OpenAI была обнаружена значительная уязвимость, связанная с prompt injection: скрытые инструкции на веб-страницах могут побуждать ИИ-агента выполнять нежелательные команды, включая действия, которые могут привести к компрометации личных данных.
Источник: Unsplash
Одним из практических сценариев атаки стал clipboard injection. В данном случае агент автоматически помещает в буфер обмена вредоносную ссылку, что может направить пользователя на фишинговый сайт и создать риск утечки паролей и кодов двухфакторной аутентификации. Специалисты подчеркивают, что в текущей версии важным элементом защиты остается контроль со стороны пользователя за действиями ИИ-ассистента.
ChatGPT Atlas предлагает множество продвинутых функций, включая browser memories — сохранение контекста использования — и agent mode, который позволяет ИИ самостоятельно взаимодействовать с веб-контентом. Однако увеличение автономности повышает риски и требует более внимательного отношения к вопросам конфиденциальности и безопасности.
По мнению экспертов, появление таких ИИ-агентов создает качественно новый вектор угроз: вредоносные команды могут быть встроены не только в текст, но и в изображения или другие элементы страниц, что делает традиционные средства защиты менее эффективными.
В OpenAI отмечают, что компания вкладывает значительные ресурсы в развитие систем безопасности и разработку методов противодействия prompt injection. Тем не менее, разработчики признают, что эта проблема остается актуальной и потребует постоянного улучшения защитных механизмов по мере эволюции и распространения агентных технологий.
Фото: hi-tech.mail.ru