Исследователь из России создал математическую теорему и алгоритм на её основе, который дает возможность заранее оценить, насколько точно искусственный интеллект может использовать знания, полученные при решении одного класса задач, для решения новых. 
Данный подход улучшит надежность ИИ, используемых в медицине, транспорте и робототехнике. «Разработанный математический аппарат может стать основой для создания более устойчивых систем ИИ, особенно в тех областях, где ошибки недопустимы. В дальнейшем этот метод может применяться для проверки алгоритмов ещё до их внедрения в реальные системы, что позволит сделать технологии искусственного интеллекта более предсказуемыми и безопасными», — объяснил сотрудник Института новых материалов НИТУ МИСИС Никита Никитин.
Как поясняет ученый, более широкому внедрению различных систем машинного обучения препятствует то, что обычно нейросети и другие формы ИИ нацелены на решение определенных задач и анализ конкретных наборов данных. Для их использования в других областях науки и техники часто применяются сложные методы переобучения, которые позволяют обучить модель использовать уже имеющиеся знания для решения новых классов задач, однако до настоящего времени инженеры не могли заранее оценить точность переобученного ИИ.
Чтобы решить эту задачу, Никитин разработал теорему, описывающую условия, при которых знания можно корректно переносить между моделями машинного обучения. В отличие от традиционных методов, которые в основном основаны на экспериментальных проверках, новый подход позволяет заранее получить формальное математическое доказательство того, что перенос будет корректным.
В основе работы используется аппарат математической логики, который широко применяется для проверки правильности сложных компьютерных систем. Ученый адаптировал его для задач искусственного интеллекта, соединив процесс переноса знаний с логикой Хоара, одним из наиболее известных методов формальной верификации программ. Это дало возможность не только экспериментально оценивать работу модели, но и доказывать, при каких условиях она сохранит свои свойства после обучения на новых данных.
Эффективность данного подхода Никитин проверил на нейросети, способной распознавать рукописные цифры. Обучив эту систему на одном наборе данных, ученый оценил, насколько успешно она справится с распознаванием схожих, но других рукописных изображений с разными числами пикселей и элементов. Разработанная им теорема значительно повысила точность работы адаптированной версии системы ИИ с новым типом данных, что указывает на большие перспективы её практического применения, подытожил ученый.
Фото: hi-tech.mail.ru