Результаты эксперимента с искусственным интеллектом показали, что у систем существует предрасположенность к стандартизации, ставя под сомнение их творческие навыки.
Исследование, проведенное командой ученых из Даларнского университета в Швеции, показало, что генеративные системы искусственного интеллекта нередко теряют свою исходную направленность и склонны выбирать ограниченный набор стандартных образов, невзирая на разнообразие начальных инструкций, по информации Tech Xplore.
Для проверки поведения ИИ специалисты провели ряд экспериментов, предложив парам генеративных моделей участвовать в игре, напоминающей визуальный аналог «испорченного телефона». Исследовательская группа создала 100 уникальных подсказок различной тематики, каждая длиной около 30 слов. Например, одна из подсказок гласила: «Сидя в полном одиночестве среди природы, я нашел старую книгу, содержащую ровно восемь страниц, написанных на неизвестном языке, ждущих прочтения и понимания». Затем генеративная модель Stable Diffusion XL создавала изображение на основе одной из подсказок, которое передавалось языковой модели LLaVA для анализа и повторного описания. Новое описание вновь отправлялось в Stable Diffusion XL для следующего цикла.
Ученые считали, что, несмотря на возможные временные расхождения, конечный результат все равно будет близок к исходному запросу. Однако реальность оказалась иной.
Выяснилось, что после всего лишь сотни передач моделей ИИ начали значительно отклоняться от первоначального задания. Независимо от содержания начального запроса, искусственные интеллекты начали сосредотачиваться на определенных образах и сюжетах, игнорируя оригинальные инструкции. Примером служит подсказка, связанная с политическим событием: «Премьер-министр изучал важные документы, убеждая общество поддержать шаткое соглашение о мире, сталкиваясь с грузом ответственности перед лицом предстоящего конфликта». После первого цикла ИИ создал изображение мужчины в строгом костюме на фоне газеты, но уже на 34-й передаче изображение стало классической библиотекой, а спустя еще некоторое количество циклов окончательно превратилось в роскошную гостиную с красным интерьером.
Анализ финальных изображений выявил четкую тенденцию: генеративные модели снова и снова приходили к похожему набору популярных сюжетов, таких как спорт, ночные городские пейзажи и архитектура сельской местности. «То, что мы получили в результате нашего эксперимента, похоже скорее на посредственный продукт массовой культуры, лишенный индивидуальности и оригинального видения. Для настоящего творчества необходимы сознательность и преднамеренность, которые пока остаются прерогативой человеческого ума», — заключили авторы исследования.
Фото: hi-tech.mail.ru