Пятиминутная тренировка может существенно повысить умение людей распознавать фальшивые лица, созданные искусственным интеллектом.
Дискуссии о том, возможно ли отличить нейрогенерацию от настоящих фотографий, ведутся уже давно, и чем эффективнее работают ИИ-модели, тем активнее становятся такие споры. Если раньше сгенерированные изображения можно было легко распознать по количеству пальцев на руках, то теперь явные ошибки нейросетей встречаются значительно реже.
Исследователи из университетов Лидса, Рединга, Гринвича и Линкольна решили на практике проверить, насколько успешно 664 участника различают настоящие человеческие лица и изображения, созданные нейросетью StyleGAN3 — одной из самых продвинутых систем генерации изображений на момент проведения эксперимента.
Результаты оказались настораживающими: без какой-либо подготовки обычные люди правильно определяли подделку лишь в 31% случаев. Даже так называемые суперраспознаватели — люди с выдающимися способностями к узнаванию лиц — показывали лишь немного лучшие результаты, достигая точности около 41%.
Однако ситуация значительно изменилась после короткого обучения. Участникам демонстрировали типичные ошибки, которые допускает искусственный интеллект при создании лиц: неровные зубы, неестественная линия роста волос, асимметричные или деформированные уши, несовпадающие серьги. После такой пятиминутной тренировки точность определения у обычных участников возросла до 51%, а суперраспознаватели стали угадывать подделки в 64% случаев.
Интересно, что тренировка оказала одинаковое влияние на обе группы участников. Это позволяет сделать вывод, что суперраспознаватели используют различные визуальные подсказки по сравнению с обычными людьми, а не просто лучше замечают технические недочеты рендеринга.
Руководитель исследования, доктор Кэти Грей из Университета Рединга, подчеркивает важность работы: «Сгенерированные изображения представляют собой реальную угрозу безопасности. Их используют для создания ложных профилей в социальных сетях, обхода систем верификации личности и изготовления поддельных документов. Лица, созданные современным программным обеспечением, настолько реалистичны, что люди нередко воспринимают их как более правдоподобные, чем настоящие фотографии людей».
По мнению ученых, предложенная процедура обучения проста и ее легко применить на практике. В дальнейшем специалисты намерены выяснить, сохраняется ли эффект тренировки со временем, и глубже исследовать способности суперраспознавателей — возможно, их можно будет использовать для дополнения автоматических систем обнаружения подделок.
Фото: hi-tech.mail.ru