Искусственный интеллект в настоящее время способен создавать тексты, вести беседы и даже помогать в написании программного кода. Однако новое исследование показало, что даже самые совершенные языковые модели могут ошибаться в отношении того, что кажется совершенно безобидным — смайлом, а точнее, его текстовым представлением — эмотиконом.
Современные языковые модели — такие системы искусственного интеллекта, как ChatGPT, Claude, Gemini и другие — уже стали обычными помощниками для миллионов пользователей. Они отвечают на запросы, создают тексты и даже генерируют компьютерный код. Однако у этих технологий есть неожиданная уязвимость: их можно запутать простыми смайликами.
Группа международных ученых из университетов Сиань, Наньян и Массачусетса выяснила, что языковые модели часто неправильно понимают текстовые эмотиконы — те самые наборы символов, такие как 🙂 или :-P, которые люди используют в переписке уже много лет.
«Эмотиконы широко применяются в цифровом общении для выражения эмоций, однако их влияние на безопасность больших языковых моделей практически не исследовалось», — отмечают авторы исследования Вэйпэн Цзян и Сяоюй Чжан.
Для проверки своей гипотезы исследователи разработали почти четыре тысячи тестовых заданий по программированию, которые включали различные ASCII-эмотиконы. Эти задания охватывали 21 реальный сценарий, в которых пользователи обычно обращаются к ИИ за помощью с кодом, и были написаны на четырех языках программирования. Затем они протестировали шесть популярных языковых моделей: Claude-Haiku-4.5, Gemini-2.5-Flash, GPT-4.1-mini, DeepSeek-v3.2, Qwen3-Coder и GLM-4.6.
Результаты оказались настораживающими: в среднем более 38% ответов содержали ошибки, которые возникли из-за неправильного восприятия эмотиконов. Но еще более тревожным было другое: свыше 90% этих ошибок представляли собой «тихие сбои». Это означает, что сгенерированный код выглядел вполне корректным, успешно выполнялся, но не выполнял то, что запросил пользователь. Такие скрытые ошибки особенно опасны, так как их трудно заметить при поверхностной проверке кода.
Почему это происходит? Вероятно, модели воспринимают символы эмотиконов как часть команды и пытаются «выполнить» их буквально, что искажает смысл запроса.
