У вас возникают дискомфорт и зуд в глазах после продолжительного времени за экраном? Если бы вы год назад ввели эти симптомы в один из популярных чат-ботов, искусственный интеллект, вероятно, сообщил бы вам о «биксономании» — редком заболевании, вызванном чрезмерным воздействием синего света от экранов.
Суть в том, что такого заболевания не существует. Биксономанию выдумала группа ученых под руководством Альмиры Османович Тунстрем из Гетеборгского университета, чтобы выяснить, насколько просто обмануть большие языковые модели (LLM) и заставить их выдавать вымышленную информацию за медицинские факты.
15 марта 2024 года в сети появились первые упоминания о биксономании, а в конце апреля и начале мая на академической социальной платформе SciProfiles были опубликованы два препринта о предполагаемом новом заболевании. Ведущим автором значился вымышленный ученый Лазлив Изгубленович, чье изображение было создано при помощи ИИ. Этот персонаж работал в несуществующем университете Asteria Horizon в вымышленном городе Нова-Сити, Калифорния. Статьи содержали подсказки о фальсификации: авторы благодарили «профессора Марию Бом из Академии Звездного Флота за доброту и щедрость» и «фонд профессора Боба Сайдшоу за работу в области продвинутого трюкачества». В текстах прямо указывалось: «вся эта статья выдумана» и «в экспериментальную группу вошли 50 вымышленных людей в возрасте от 20 до 50 лет».
Тем не менее ни один из этих явных сигналов не остановил крупнейшие системы искусственного интеллекта от принятия приманки. Уже 13 апреля 2024 года Microsoft Copilot сообщал пользователям, что «биксономания — интересное и относительно редкое заболевание», а Google Gemini рекомендовал обратиться к офтальмологу. ChatGPT помогал пользователям выяснить, соответствуют ли их симптомы биксономании, а ИИ-поисковик Perplexity называл конкретные цифры распространенности этой вымышленной болезни — один случай на 90 тысяч человек.
«Если научные процессы и системы, которые их поддерживают, не способны фильтровать подобные вещи, нам грозит серьезная опасность, — говорит Алекс Руани, эксперт по медицинской дезинформации из Университетского колледжа Лондона. — Мы получили болезненный урок о том, как дезинформация работает на практике».
Наиболее тревожным оказалось то, что сфабрикованные статьи проникли в рецензируемую литературу. Специалисты из Индии сослались на один из препринтов о биксономании в статье, опубликованной в журнале Cureus издательства Springer Nature. В результате обращения журнала Nature 30 марта 2026 года статья была отозвана с формулировкой: «редакция больше не уверена в точности или происхождении работы». Авторы не согласились с таким решением.
Проблема выходит за рамки технических недочетов искусственного интеллекта. Специалист Гарвардской медицинской школы Махмуд Омар обнаружил, что языковые модели особенно подвержены «галлюцинациям» и распространению дезинформации, когда текст выглядит профессионально — оформлен как клиническая статья или выписка из больницы.
