Ученые предложили рассматривать распространение ИИ как своеобразную эпидемию.
По их мнению, избыточная зависимость от нейросетей может привести к постепенной утрате человеком способности самостоятельно решать задачи, а на уровне общества — спровоцировать резкий переход к массовой когнитивной зависимости.
К такому выводу пришли исследователи из Испании, Италии, США и Японии. В публикации, размещенной на arXiv, они сопоставили распространение больших языковых моделей с вирусным процессом и использовали математические методы, аналогичные тем, что применяются для моделирования эпидемий. При этом речь не идет о биологическом вирусе в прямом смысле: ученые используют аналогию для описания распространения определенного способа взаимодействия человека с технологией.
Авторы выделили пользователей на три группы. В первую входят люди, которые почти не прибегают к ИИ для решения когнитивных задач. Во вторую — те, кто регулярно использует нейросети, но сохраняет свою автономность: продолжает читать, писать, рассуждать, проверять информацию и обращаться к другим источникам. Третья группа — пользователи, которые постепенно передают языковой модели большую часть мыслительной работы.
Именно последний сценарий исследователи считают потенциально угрожающим. Если нейросеть не дополняет возможности человека, а заменяет их, пользователь получает меньше практики в самостоятельном анализе, написании текстов, поиске решений и верификации информации. В результате эффективность работы с ИИ может увеличиваться, но способность человека выполнять ту же задачу без него — уменьшаться.
Особенность модели ученых заключается в том, что зависимость рассматривается не только на уровне отдельного пользователя. Человек может заимствовать привычки использования ИИ у коллег, друзей и других людей, а организации и социальные нормы способны дополнительно укреплять такую практику. Поэтому распространение нейросетей, согласно модели, может иметь нелинейный характер: после достижения определенного порога общество может быстро перейти от преимущественно самостоятельной работы к широкомасштабному использованию ИИ для решения когнитивных задач.
В модели также предусмотрен обратный процесс. Если люди продолжают развивать самостоятельное мышление, проверять ответы нейросетей и осознанно сохраняют необходимость выполнять часть работы без ИИ, зависимость может ослабевать. Авторы называют это своеобразной «когнитивной иммунизацией».
Исследование не утверждает, что нейросети сами по себе делают людей менее сообразительными. Ученые прямо указывают, что ИИ способен расширять возможности человека — помогать в поиске информации, обучении, исследовательской деятельности и повышении продуктивности. Ключевым фактором является способ использования технологии: нейросеть может выступать как инструмент, который помогает человеку мыслить, или как замена, выполняющая эти функции за него.
Важно, что работа представляет собой теоретическую математическую модель, а не эксперимент, который бы доказал неизбежное ухудшение интеллекта у пользователей ИИ. Даже предложенная авторами связь между зависимостью и снижением когнитивной компетентности является модельным сценарием, а не универсальным утверждением о последствиях использования всех нейросетей.
Поэтому главный вывод исследования звучит скорее как предостережение: опасность может представлять не сам факт взаимодействия с ИИ, а ситуация, когда человек прекращает использовать собственные когнитивные навыки и полностью передает их выполнение машине.
Фото: hi-tech.mail.ru