В ответах ChatGPT начали появляться ссылки на мошеннические интернет-магазины, которые скрываются под сайтами известных брендов.
В ответах ChatGPT начали появляться ссылки на мошеннические интернет-магазины, которые скрываются под сайтами известных брендов.
Согласно данным расследования, пользователи, запрашивая информацию о товарах, получали рекомендации с переходами на фальшивые сайты, которые визуально почти не отличались от официальных страниц ритейлеров. В результате покупатели оформляли заказы, теряли деньги, а их платежные данные попадали к злоумышленникам.
Сервис по выявлению мошенничества Ask Silver сообщил, что в выдаче ChatGPT были найдены клонированные сайты, имитирующие магазины брендов Russell & Bromley и Dunelm. Некоторые пользователи переходили по таким ссылкам и воспринимали их как официальные, ориентируясь на ответы ИИ с описаниями товаров и «рекомендованными» ценами.
Эксперты указывают на возможную причину так называемого «отравления ИИ»: мошенники заранее создают в интернете фейковые страницы, которые затем попадают в обучающие и поисковые данные моделей. Ситуация усугубляется тем, что некоторые бренды, как отмечается в статье, изменяют структуру владения — например, Russell & Bromley была поглощена группой Next, и злоумышленники используют путаницу вокруг официального сайта.
Представители National Trading Standards предупреждают: сам факт рекомендации от ИИ не обеспечивает подлинность ресурса. Мошенники быстро адаптируются и используют любые новые каналы для поиска жертв.
В компании OpenAI заявили, что часть обнаруженных фейковых ссылок была исключена из индекса, однако проблема не решена полностью: пользователи все чаще доверяют ИИ при онлайн-покупках, что означает, что риски таких атак остаются актуальными.
Фото: hi-tech.mail.ru