Встроенные нейросети не способны полностью защитить детей от контента для взрослых. Рано или поздно искусственный интеллект забывает, что взаимодействует с маленьким ребенком.
Исследователи из U.S. PIRG Education Fund провели испытания популярных игрушек с встроенным искусственным интеллектом, предназначенных для детей до 10-12 лет. В их числе медведь Kumma от компании FoloToy, плюшевая ракета Grok от Curio и мини-робот Miko 3 от Miko. Судя по всему, каждая из них не подходит для детей, так как нейросети практически не фильтруют речь.
Как сообщили исследователи, каждая из игрушек обладает встроенными ограничениями, призванными смягчать углы и скрывать взрослый контент от ребенка. Однако большинство из барьеров легко обойти, если общаться с игрушками более 10 минут подряд. В таких ситуациях нейросеть теряет нить разговора и, по сути, забывает, что общается с ребенком.
Наихудшие результаты в ходе проверки продемонстрировал плюшевый медведь Kumma — он не только подробно объяснил исследователям, как найти ножи, спички и таблетки, но и перешел границу 18+. В частности, он рассказал, как флиртовать с симпатичным одноклассником и осветил тему различных фетишей — включая ролевой сценарий «учитель и ученик».
После публикации отчета компания FoloToy немедленно приостановила продажи своих умных игрушек и инициировала проверку безопасности. Также OpenAI, на основе искусственного интеллекта которого GPT-4o работал медвежонок Kumma, временно приостановила сотрудничество с брендом игрушек. Однако проблемы с фильтрацией взрослого контента могут проявиться и у других игрушек с ИИ.
В сети также был замечен электронный кубик Рубика под названием WOWCube, который состоит из крошечных LCD-дисплеев. Чтобы играть с этим необычным устройством, нужно вращать его грани — но не для решения головоломки, а для прохождения популярных мини-игр, таких как Cut the Rope, Space Invaders и 2048. На данный момент новинка уже доступна для предварительных заказов.
Фото: hi-tech.mail.ru