Современные системы искусственного интеллекта способны не только отвечать на вопросы и создавать тексты, но и все заметнее влияют на то, как мы пишем и мыслим. Ученые уже начинают беспокоиться: массовое применение генеративного ИИ может незаметно «выравнивать» культуру и мышление, делая их более однородными.
Аспирант из Университета Южной Калифорнии Живар Суорати отмечает, что, просматривая новые научные статьи, он часто ловит себя на мысли: «Я уже видел эту работу». По его мнению, тексты становятся все более схожими — и он предполагает, что причина кроется в повсеместном использовании больших языковых моделей, таких как ChatGPT.
Эта интуитивная идея все чаще подтверждается в проведенных экспериментах. Ряд исследований показывает, что ИИ действительно способен увеличивать оригинальность отдельных идей, но одновременно снижает общее разнообразие. В одном из экспериментов людей и языковые модели просили предложить нестандартные применения для обыденных предметов. Модели в среднем предлагали чуть более «оригинальные» варианты, чем участники, однако их ответы были значительно более схожи друг с другом, в отличие от ответов людей.
Схожий эффект наблюдался в заданиях на написание коротких рассказов и мозговом штурме. Участники, которым разрешили сначала проконсультироваться с моделью, создавали истории и идеи, которые оценивались как более интересные и удачные. Тем не менее, эти тексты становились подозрительно схожими между собой. Метаанализы нескольких подобных исследований показывают, что наиболее сильное «сжатие разнообразия» происходит именно на этапе генерации идей, особенно в сложных или строго ограниченных задачах.
Признаки выравнивания заметны и за пределами лаборатории. Анализ более 400 тысяч научных публикаций показал, что после появления ChatGPT количество публикаций на автора возросло, но стилистическое и содержательное сходство между работами также усилилось. В другом исследовании ученые проанализировали местные новости, препринты и посты на Reddit и обнаружили снижение вариативности языка после внедрения доступных ИИ-сервисов. Когда те же тексты прошли через языковую модель «для исправления грамматики», из них исчезли некоторые индивидуальные речевые особенности, связанные с личностью, ценностями и происхождением автора.
Генеративный ИИ также стирает культурные различия. В одном из экспериментов участники из Индии и США описывали важные для них ритуалы, героев и символы, а также писали письма, отражающие их ценности. Половина из них пользовалась инструментом автодополнения, который подсказывал слова. В результате индийские авторы стали звучать более «по-американски», а тексты обоих народов сблизились и утратили уникальные культурные детали, такие как описание местных праздников.
Однако особую тревогу вызывает возможность влияния ИИ на убеждения. В одном из экспериментов перед выборами в США языковые модели проявляли предвзятость в пользу Джо Байдена и в политических обсуждениях реально смещали мнения сторонников Дональда Трампа. В других опытах люди, создававшие тексты с помощью ИИ, незаметно адаптировали свои последующие ответы под «позицию», заложенную в модели, и сохраняли такой сдвиг даже спустя недели.
Ученые объясняют это явление как техническими, так и психологическими причинами. Модели обучаются предсказывать наиболее вероятные варианты продолжения текста и дополнительно «дорабатываются» под вкусы оценщиков, которым чаще важнее ясность и вежливость ответа, чем его новизна. На стороне человека действует доверие к ИИ как к «знающему» и эффект якоря: увидев подсказку, мы склонны продолжать думать в том же направлении, а затем начинаем воспринимать этот выбор как свой собственный.