Современная наука недостаточно понимает, что такое сознание и каким образом оно формируется, поэтому существует риск не заметить момент, когда «безмозглый робот» превращается в самостоятельную личность.
Искусственный интеллект может неожиданно обрести сознание, отмечает профессор Кембриджского университета Том Макклелланд в недавней статье для Mind & Language. Ученый подчеркнул, что на данный момент считается, что у ИИ нет, к примеру, чувств и субъективного опыта, однако его быстрое развитие делает этот вопрос все более актуальным. По его мнению, однажды может возникнуть настолько продвинутая нейросеть, что она начнет осознавать себя, но доказать это будет невозможно.
Исследователь напомнил о известной «трудной проблеме сознания»: в науке отсутствует четкое понимание, почему определенные процессы в мозге связаны с субъективным опытом. Например, почему человек испытывает страдание при получении ранения или даже без физических травм: робота можно научить реагировать на повреждения, но страдать он от этого не станет.
В области науки о сознании существуют два противоборствующих направления: одни ученые утверждают, что сознание имеет «функциональную архитектуру» и может быть воспроизведено в достаточно сложной вычислительной системе, другие уверены, что для его возникновения необходима биологическая основа, то есть оно возможно только у живых существ. Ни у одной стороны нет достаточных доказательств своей правоты.
Том Макклелланд предложил рассмотреть гипотетический сценарий, при котором нейросеть приобретает признаки сознания, которые наблюдаются у людей и животных: способность испытывать эмоции, осознавать свои действия, делать выводы и так далее. Проблема заключается в том, что, наблюдая за поведением робота, мы не сможем уверенно оценить, действительно ли он осознает себя.
Поэтому единственной разумной позицией в этом вопросе он считает агностицизм, то есть признание нашего непонимания и, вероятно, невозможности установить истинное положение дел. Возникает вопрос о том, как в таком случае взаимодействовать с искусственным интеллектом: с точки зрения этики, использование мыслящей личности в собственных интересах для этой личности может означать рабство.
Ученый полагает, что наилучшим решением будет вообще не доводить развитие ИИ до стадии осознания и разума, а остановиться на его использовании как инструмента, то есть на создании узконаправленных, специализированных систем для выполнения конкретных задач.
Фото: hi-tech.mail.ru