МГУ продемонстрирует решения для борьбы с «галлюцинациями» и токсичностью искусственного интеллекта

Работу над технологиями планируют завершить к концу 2026 годаМГУ имени М. В. ЛомоносоваИсточник: Unsplash

СИРИУС /федеральная территория/, 27 ноября. /ТАСС/. Исследовательский центр в области искусственного интеллекта МГУ имени М. В. Ломоносова в срок до конца 2026 года завершит разработки технологий, уменьшающих количество ошибок в системах ИИ за счет улучшения методов обучения и архитектуры этих моделей. Об этом сообщил директор центра Григорий Боков на V Конгрессе молодых ученых.

«Термин “галлюцинации” используется в ситуациях, когда нейросеть допускает ошибки. Например, если это большая языковая модель, то это может проявляться в виде выдуманных фактов или ссылок на несуществующие научные публикации. С развитием ИИ-систем и расширением их применения риск “галлюцинаций” будет возрастать, так как даже одна ошибка такого интеллектуального помощника может нанести значительный ущерб компании. Это затрагивает как бизнес, так и банковский сектор, а также государственные услуги. Мы создаем комплекс инструментов, направленных на снижение количества ошибок за счет применения нескольких подходов. Результаты будут представлены в конце 2026 года», — отметил Боков.

Ученый подчеркнул, что в рамках проекта разрабатываются новые методы обучения нейросетей, которые подразумевают создание систем, способствующих развитию моделей — своего рода «ИИ-учителей». МГУ также представит способы улучшения архитектур таких решений, недостатки которых часто становятся причиной ошибок.

Исследовательский центр в области искусственного интеллекта был основан на базе МГУ в 2025 году в рамках федерального проекта «Искусственный интеллект» нацпроекта «Экономика данных и цифровая трансформация государства». Как один из победителей третьей волны отбора, проводимого Минэкономразвития, центр получил грант на развитие проектов в размере 645 млн рублей. Поддержка рассчитана на два года.

Новое подразделение станет важным элементом развиваемой вузом экосистемы ИИ, которая включает Институт искусственного интеллекта, Научно-образовательную школу по этому направлению, факультет ИИ МГУ, фонд «Интеллект» и Центр хранения и анализа больших данных, а также суперкомпьютер «МГУ-270», позволяющий решать сложные задачи в области искусственного интеллекта, медицины и материаловедения.

О конгрессе

Событие в рамках Десятилетия науки и технологий в России организуют Фонд Росконгресс, Минобрнауки РФ и Координационный совет по делам молодежи в научной и образовательной сферах Совета при президенте РФ по науке и образованию. Оператор Десятилетия науки и технологий — АНО «Национальные приоритеты».

ТАСС — генеральный информационный партнер конгресса.

Фото: hi-tech.mail.ru

Оцените статью
Dfiles.ru