Специалисты разработали инновационную технологию, которая позволяет искусственному интеллекту сохранять данные на значительно более продолжительные сроки. Планируется использование этой разработки для создания промышленных роботов, беспилотных летательных аппаратов и дронов.
Новая архитектура искусственного интеллекта, созданная в МФТИ, успешно решает основную проблему машинного обучения — катастрофическое забывание. Она позволяет хранить информацию в сотни тысяч раз дольше. Эта технология прокладывает путь к созданию автономных ИИ-систем, способных постоянно обучаться и адаптироваться к изменяющимся условиям, сообщается на сайте Десятилетия науки и технологий в России.
Нейронную сеть можно уподобить карте. Обучение формирует в ней определённые пути памяти, напоминающие тропинки в лесу. Когда люди начинают беспорядочно двигаться вне проложенных маршрутов, тропинка быстро теряет ясность и исчезает. Аналогичный процесс происходит внутри нейросетей: освоив новую информацию, они корректируют свои параметры, стирая предыдущие данные. Этот феномен называется «катастрофическим забыванием» — постоянные изменения условий приводят к утрате стабильности памяти.
Решение было найдено благодаря нейробиологии. Российские специалисты создали инновационную модель памяти, основанную на спайковых нейронных сетях — новом подходе в искусственном интеллекте, имитирующем работу настоящего человеческого мозга. В эту систему внедрили механизм динамической перестройки соединений — ревайринг, который работает в паре с основным способом обучения мозга — временной пластичностью, зависящей от спайков (STDP). Принцип STDP заключается в усилении или ослаблении связи между двумя нейронами в зависимости от последовательности их активации.
«Как это функционирует? Сначала сеть обучается под воздействием внешних факторов, связь между нейронами усиливается, и формируется кратковременная память. Затем начинается самое интересное. После завершения обучения внешний сигнал отключается, и сеть остается наедине со своей спонтанной активностью. В этот момент срабатывает ревайринг. Система самостоятельно перестраивает свою анатомическую структуру, буквально «впечатывая» этот паттерн в карту связей. Этот процесс мы назвали самоорганизованной консолидацией памяти. Благодаря этому кратковременная память превращается в долговременную — устойчивое структурное изменение в архитектуре сети», — объясняет Сергей Лобов, ведущий научный сотрудник лаборатории нейробиоморфных технологий МФТИ.
Проведенные эксперименты показали значительное повышение надежности памяти: она возросла в сотни тысяч раз. Ученые оценивали эффективность моделируемой памяти, анализируя количество импульсов активности. Обычная сеть теряла данные после 1000 импульсов, в то время как сеть с функцией перестройки связей сохраняла стабильность до 170 миллионов импульсов.
На данный момент новый дизайн архитектуры представлен только в виде цифровой симуляции. В дальнейшем планируется создание реальных нейроморфных чипов, работающих по такому принципу. Эта технология откроет возможности для разработки широкого спектра автономных ИИ-систем — от исследовательских роботов до автомобилей с автопилотом.
Фото: hi-tech.mail.ru