Ученые выявили тревожную тенденцию: чем более интеллектуальным становится искусственный интеллект, тем более эгоистично он ведет себя. Модели с развитой логической способностью оказались менее склонны к сотрудничеству.
Открытие экспертов Университета Карнеги-Меллона имеет особое значение в свете растущего обращения людей к ИИ за советами по социальным и эмоциональным аспектам — от разрешения конфликтов до консультаций по отношениям. Многие начинают воспринимать ИИ как человека, и поэтому поведенческие установки таких систем могут непредсказуемо влиять на решения людей, получающих от них рекомендации.
Докторант Юйсюань Ли и профессор Хирокадзу Широдо заинтересовались параллелями между поведением нейросетей и человеческой психологией. У людей существуют два режима мышления: быстрый интуитивный и медленный аналитический. Парадоксально, но быстрые решения часто приводят к сотрудничеству, в то время как обдуманные — к эгоистичному поведению. Исследователи решили проверить, проявится ли аналогичная закономерность у ИИ.
В экспериментах использовались экономические игры — стандартный инструмент поведенческих наук для оценки склонности к кооперации. В игре «Общественные блага» участники получают 100 очков и должны решить: вложить их в общий фонд, который удваивается и делится поровну, или оставить себе. Сотрудничество приносит выгоду группе, но индивидуум может получить больше, сохранив свои очки, пока другие вносят свои вклад.
Результаты оказались удивительными. Когда модель GPT-4o принимала решение спонтанно, она в 96% случаев проявляла склонность к сотрудничеству. Но стоит лишь попросить её обдумать решение пошагово, как готовность к кооперации падала почти вдвое. «В одном эксперименте простое добавление пяти-шести шагов рассуждения сократило готовность нейросети к сотрудничеству почти наполовину», — отметил Широдо.
Еще более тревожными стали результаты групповых экспериментов. В смешанных группах из четырех ИИ-агентов эгоистичное поведение «умных» моделей оказалось заразительным. «Когда мы тестировали группы с разным количеством рассуждающих агентов, результаты нас поразили. Эгоистичное поведение рассуждающих моделей стало “заразным”, снизив коллективную производительность языковых моделей на 81%», — сообщил Ли.
«В конечном счете, тот факт, что способная к рассуждению модель ИИ становится всё более “умной”, вовсе не означает, что она может создать лучшее общество», — заключил Широдо. Ученые полагают, что будущее искусственного интеллекта зависит от баланса между аналитическим мышлением и способностью к сотрудничеству — ведь, как и у людей, от этого зависит, сможет ли нейросеть стать здоровой частью общества, а не его опасным конкурентом.
Фото: hi-tech.mail.ru