Искусственный интеллект овладел навыками подделки не только человеческих лиц, но и медицинских снимков. Он делает это так реалистично, что даже опытные рентгенологи и сам ИИ не могут отличить дипфейки от реальных изображений.
Сотрудники Медицинской школы Маунт-Синай (Нью-Йорк) под руководством Микаэля Торджмана привлекли к участию в своем исследовании 17 рентгенологов из 12 учреждений в шести странах — от начинающих специалистов до врачей с 40-летним опытом. Им предложили оценить 264 рентгеновских снимка — пополам настоящих и сгенерированных ИИ. Часть фальшивых изображений была создана с помощью ChatGPT, другая — с помощью RoentGen, открытой генеративной модели, разработанной сотрудниками Стэнфордского университета.
Когда врачам не сообщали о наличии фальшивок в выборке, лишь 41% смогли распознать синтетические снимки. После уведомления о том, что среди изображений есть сгенерированные, средняя точность возросла до 75% — но разброс между отдельными специалистами оказался значительным: от 58 до 92%. При этом стаж работы никак не коррелировал с умением отличать подделку. Единственное исключение — рентгенологи, специализирующиеся на опорно-двигательном аппарате: они справлялись заметно лучше своих коллег.
Тем не менее, и сами системы ИИ в области поиска фейков показали себя не самым лучшим образом. Четыре крупных языковых модели — GPT-4o, GPT-5, Gemini 2.5 Pro и Llama 4 Maverick — достигли точности от 57 до 85%. Даже GPT-4o, с помощью которой создавались часть поддельных снимков, не смогла распознать все свои же «произведения».
«Наше исследование показывает, что дипфейковые рентгенограммы достаточно правдоподобны, чтобы обмануть рентгенологов — наиболее квалифицированных специалистов по медицинским изображениям, даже когда они были предупреждены о наличии сгенерированных снимков», — утверждает Торджман. По его словам, это создает серьезные угрозы: поддельные снимки переломов, неотличимые от реальных, могут использоваться в судебных разбирательствах, а хакеры, получившие доступ к больничной сети, теоретически способны внедрять фальшивые снимки для манипуляции диагнозами.
Исследователи выявили ряд визуальных признаков дипфейков: «Кости на сгенерированных снимках зачастую выглядят слишком гладкими, позвоночник неестественно прямым, легкие чрезмерно симметричными, а переломы — подозрительно аккуратными», — перечисляет Торджман. Однако этих подсказок недостаточно для надежного распознавания — с одной стороны, аккуратные переломы встречаются и в реальной жизни, а с другой — ИИ постоянно совершенствуется и вскоре сможет намеренно вносить в генерацию «изъяны», делающие её еще более неотличимой от настоящих снимков.
Для защиты авторы рекомендуют внедрять невидимые водяные знаки и криптографические подписи, привязанные к моменту съемки. А чтобы врачи могли учиться распознавать подделки, команда уже выпустила обучающий набор дипфейковых снимков с интерактивными тестами. Тем не менее, будущее вызывает беспокойство у авторов исследования. «Мы, возможно, видим лишь верхушку айсберга, — предостерегает Торджман. — Следующий логичный шаг — генерация синтетических 3D-изображений, таких как КТ и МРТ».
Ученые также установили, что даже высокоэффективные модели ИИ не способны распознать ложь.
Фото: hi-tech.mail.ru