Проверка источника видео, обратный поиск по фото и специализированные сервисы могут помочь избежать стать жертвой розыгрыша, преступления или информационной операции, осуществленных с использованием ИИ, отметили в управлении по организации борьбы с противозаконным использованием информационно-коммуникационных технологий МВД РФ.
«С помощью ИИ-инструментов подростки создают реалистичные изображения неопрятного мужчины, будто бы находящегося у них дома. Затем они рассказывают родителям, что впустили “бездомного”, чтобы он мог попить воды или отдохнуть. Реакция родителей — испуг, тревога, крики — фиксируется на видео и размещается в соцсетях», — говорится в документе.
В ведомстве подчеркивают, что в таких розыгрышах нет злого умысла, однако это важный признак времени — сейчас создание дипфэйков требует минимальных ресурсов.
«Современные нейросети автоматически подгоняют выражения лиц и голос под заданный текст. Видео выглядит правдоподобно, но именно это создает риски: под предлогом шутки могут распространяться фейковые новости, заявления от имени известных личностей или мошеннические призывы к инвестициям», — отмечается в документе.
В МВД советуют не стать жертвой подобного розыгрыша, преступления или информационной операции, необходимо проверять источник — видео без ясного происхождения — повод для сомнений, поэтому стоит исследовать официальные аккаунты, сайты или Telegram-каналы. Также следует обращать внимание на мелкие артефакты: неровные контуры лица, «дрожащие» тени, необычные движения губ и глаз, иногда звук немного запаздывает — именно такие сбои выдают синтетическую природу видео.
«Контекст. Если человек в ролике говорит необычно для себя — стоит проверить, соответствует ли это реальной ситуации и публичной позиции. Если фото с бездомным приходит от ребенка — стоит насторожиться. Обратный поиск. Кадр или фрагмент можно проверить с помощью Яндекс или Google Images — это поможет выяснить, не взят ли он из другого видео», — рекомендуют в управлении.
Кроме того, можно использовать специализированные сервисы, которые анализируют видео и показывают вероятность синтетического монтажа.
Также, как сообщают правоохранители, российские лаборатории кибербезопасности уже тестируют нейросети-детекторы дипфейков, включая face-swap в видеозвонках.
«Важно: ни одна технология не дает стопроцентной гарантии. Алгоритмы оценивают вероятность, а окончательное решение — за человеком», — подытожили в управлении.
Фото: hi-tech.mail.ru