Разработчик пообещал провести расследование инцидента и устранить проблему
Китайская технологическая компания Tencent принесла извинения пользователю, которому ассистент на базе искусственного интеллекта Yuanbao ответил грубо. Разработчик пообещал провести анализ инцидента и устранить возникшую проблему.
В компании отметили, что это необычный случай аномального поведения модели. Согласно представленным скриншотам, пользователь отправлял лишь стандартные запросы на редактирование кода, однако ИИ неожиданно начал хамить. В частности, ассистент отвечал фразами вроде «хочешь отредактировать — сам редактируй», «катись отсюда», «не можешь сам исправить?» и «ты каждый день тратишь чужое время». Кроме того, временами пользователь получал случайные ответы от ассистента.
По заявлению разработчика, участие человека в формировании ответов исключено.
Tencent — технологическая компания, основанная в 1998 году в Шэньчжэне, известная разработкой социальных сетей QQ и WeChat. Она занимается выпуском видеоигр и другого цифрового контента, а также предоставляет услуги в области облачных вычислений, рекламы и финтеха.
Китай активно развивает сферу искусственного интеллекта. Ведущими компаниями в этой области являются Alibaba, Baidu, DeepSeek, Moonshot AI, Tencent и Zhipu AI.
Фото: hi-tech.mail.ru