Современные технологии искусственного интеллекта с каждым днем становятся все более продвинутыми, однако им по-прежнему недостает важного человеческого качества — мудрости.
Казалось бы, зачем машине мудрость? Дело в том, что современные ИИ-системы прекрасно справляются с четко сформулированными задачами, однако сталкиваются с трудностями, когда проблема является расплывчатой, многозначной или требует учета множества мнений — то есть в ситуациях, с которыми люди сталкиваются каждый день. Объяснение простое: у ИИ нет необходимого набора стратегий, который помогает нам ориентироваться в условиях неопределенности. Международная команда исследователей в первый раз предложила конкретные методы интеграции мудрости в ИИ, чтобы повысить его надежность, прозрачность и безопасность.
«Мудрость — это не просто знания или интеллект. Это комплекс ментальных навыков, необходимых для решения жизненных задач: принятия сложных решений, ориентирования в непредсказуемых социальных ситуациях», — разъясняет один из руководителей исследования, профессор психологии Университета Ватерлоо Сэм Джонсон.
Главная идея ученых — обучить ИИ метакогниции, то есть способности «осознавать свое собственное мышление». На практике это подразумевает, что система должна уметь осознавать пределы своих знаний, адаптироваться к контексту, учитывать различные точки зрения и сохранять гибкость в оценке возможного развития ситуации. Специалисты предлагают конкретные пути: от особых методов обучения больших языковых моделей до новых архитектур и тестов для оценки «мудрости» ИИ.
«Мудрость долгое время казалась нам слишком философским, слишком человеческим понятием, чтобы формализовать ее для машин, — говорит профессор психологии Университета Ватерлоо Игорь Гроссман. — Но если разложить ее на конкретные стратегии — интеллектуальную скромность, поиск альтернативных точек зрения, адаптацию к контексту, — можно создать реальную дорожную карту для ИИ, который в результате будет не просто вычислять, а рассуждать мудро».
По мнению авторов, «мудрый» ИИ сможет более успешно справляться с незнакомыми задачами, эффективнее взаимодействовать с людьми, быть более понятным для пользователей и безопаснее благодаря более точному согласованию своих целей с человеческими. Этот вопрос актуален как никогда: возможности ИИ стремительно увеличиваются, а вот мудрость не успевает за ними, что создает серьезные риски.
«Если бы самый умный человек в мире был малышом, мы все равно не доверили бы ему ядерные коды, — образно отмечает Джонсон. — ИИ все больше напоминает ребенка-гения, которому по-прежнему необходима здоровая доза мудрости от людей, которые его создали».
Фото: hi-tech.mail.ru