Чем больше задач берет на себя ИИ-ассистент, тем реже люди планируют свои действия, следят за ходом мыслей и размышляют о результате. Такой эффект был продемонстрирован в четырех экспериментах с участием 728 человек, проведенных психологами из Шанхайского педагогического университета и Шаньдунского университета. Статья с результатами исследования опубликована в журнале Frontiers in Psychology. Участники брали на себя роль изобретателей и создавали устройство для умного дома, сервис для жителей городского квартала, а также проект по обновлению общественного пространства. Работать им предстояло в чате с ИИ-ассистентом, который одной группе предоставлял готовые решения и комментировал черновики, а другой — отвечал только на справочные вопросы. Готовые предложения оценивали независимые эксперты, выставляя баллы за новизну, полезность и реализуемость проектов. Группа с активным ассистентом уступала той, что думала самостоятельно, по всем трем критериям. В анкетах участники признались, что редко планировали решения, не следили за правильностью своих рассуждений и не анализировали итоговые результаты. В психологии такое состояние обозначают как метакогнитивное отключение. Способность осмысливать собственное мышление, планировать, отслеживать и оценивать его у человека сохраняется, но он перестает ее использовать. Человек по-прежнему читает и редактирует ответы нейросети, но перестает их сомневаться и сравнивать с альтернативами, а гладкий текст создает иллюзию отсутствия ошибок. Эксперименты также показали, какие проекты страдают от нейросетей наиболее сильно. На сложных задачах, таких как программа льгот для компании с пятьюстами сотрудниками, качество падает особенно заметно, поскольку запутанные проблемы требуют постоянного самоуправления. Защитой служит грамотность в области ИИ. Участники, понимающие, как работают генеративные модели и где они могут ошибаться, сохраняли критическую дистанцию и значительно меньше теряли в качестве идей. Люди давно привыкли перекладывать память на записную книжку, а арифметические вычисления — на калькулятор. Теперь же человек переносит не само запоминание, а мышление, выводы и оценки на ИИ. Авторы предлагают внедрять в ассистентов «метакогнитивные триггеры», которые перед генерацией будут спрашивать пользователя о его предположениях, предлагать сравнить результат с альтернативой и напоминать проанализировать, что должно оставаться под контролем человека. Ключевые элементы решения, советуют исследователи, стоит продумывать самостоятельно, оставляя ИИ роль помощника.
Фото: hi-tech.mail.ru