8 декабря 2025Источник: РБКТехнологииНейросети не отрицают наличие «свиных крылышек» и предлагают способ их приготовления. Руководитель бизнес-группы поисковых услуг и искусственного интеллекта «Яндекса» отмечает, что подобные «галлюцинации» устраняются, однако полностью избежать их не удастся
Проблемы с неверными ответами и «выдумками» нейросетей действительно имеют место, однако с каждым годом они значительно уменьшаются, заявил в интервью Радио РБК Дмитрий Масюк, руководитель бизнес-группы поисковых сервисов и искусственного интеллекта «Яндекса».
Он прокомментировал случай с вопросом к «Алисе» и другим нейросетям о «свиных крылышках». Искусственный интеллект прямо не отрицает, что они существуют, и предлагает рецепты их приготовления. Как отметил Масюк, добиться полного отсутствия таких «галлюцинаций» невозможно.
«Что касается «свиных крылышек», я только что посмотрел. «Алиса» ссылается на реальный источник. В действительности в интернете можно найти статьи, описывающие такие рецепты. Это не оправдывает ее, поскольку она могла бы заявить, что это абсурд, но, тем не менее, она действительно обращается к существующим источникам и не выдумывает это сама», — подчеркнул он.
Существуют механизмы дообучения, когда нейросеть «наказывают» за «придумки» и мотивируют ее «ближе к источникам». Масюк также рассказал о трех этапах обучения ИИ:
На первом этапе используется «более-менее весь интернет, очищенный от заведомо бессмысленных данных» — это десятки терабайтов информации. На втором этапе нейросети предоставляют сотни тысяч вопросов и ответов, подготовленных редакторами. Таким образом, она учится понимать, «что следует комментировать, а что — нет». Третий этап, по словам Масюка, «самый хитрый». «Мы создаем отдельную нейросеть, которая оценивает ответы основной. В это время основная нейросеть работает, а ее оценивает та самая отдельная нейросеть-судья», — пояснил он. Несмотря на усилия по дообучению ИИ, «Яндекс» не наблюдает, что недостатки нейросетей являются критично важными для пользователей. Масюк согласился с тем, что люди хотят одновременно и живого общения с некой фантазией у ИИ, и при этом четких фактов.
«Люди стремятся к живому общению. Да, это именно так», — добавил он.
Фото: hi-tech.mail.ru