Журналист зарегистрировался в Wizz как 16-летний, и алгоритмы «возрастной верификации» просто не сработали.
Французская платформа Wizz позиционировалась как безопасное место для общения подростков от 13 лет с механикой свайпов, как в Tinder. Приложение обещало разделять пользователей по возрасту с помощью современных алгоритмов ИИ, но реальность оказалась иной: взрослые мужчины легко обходили систему и выходили на связь с детьми. Теперь Wizz удаляют из магазинов приложений, а Конгресс США разрабатывает закон о ответственности платформ за безопасность несовершеннолетних.
Идея звучала обоснованно: подросткам нужен способ найти сверстников без давления взрослых соцсетей, а ИИ должен проверять возраст и блокировать нарушителей. Разработчики хвалили «сложные алгоритмы безопасности», но тесты и криминальные дела показали обратное. Журналисты The Hill зарегистрировали аккаунт 28-летнему сотруднику под видом 16-летнего, и система пропустила анкету без каких-либо вопросов.
Реальные последствия оказались серьезными. На Гавайях 19-летний морпех познакомился в Wizz с 11-летней девочкой, выдав себя за 15-летнего, и совершил надругательство — алгоритмы не заметили подмены. В Пуяллапе 23-летний мужчина притворился 14-летним и напал на девочку того же возраста. В Чикаго 27-летний под видом 16-летнего мальчика заманил нескольких несовершеннолетних на встречи с теми же последствиями. Такие случаи множатся, а ежегодно обман в сети затрагивает сотни миллионов детей по всему миру.
Давление на Wizz усиливается от СМИ и защитников прав потребителей. Конгресс США объединяет республиканцев и демократов вокруг Kids Online Safety Act (KOSA). Закон вводит «обязанность заботы»: платформы обязаны доказать безопасность для детей или рискуют штрафами и запретами. The Hill подчеркивает уникальность IT: это единственная отрасль без ответственности за вред продукта, в отличие от автопроизводителей или фармацевтических компаний.
KOSA требует от платформ изначально строгих настроек конфиденциальности для несовершеннолетних, родительского контроля над временем онлайн и покупками, отключения алгоритмов рекомендаций для детей. Родители получат прямой канал для жалоб на вредный контент: суицидальные идеи, расстройства пищевого поведения, наркотики, эксплуатацию. Крупные сервисы (10+ млн пользователей) обязаны публиковать ежегодные отчеты о рисках и мерах защиты, проходить аудиты. Обещания о том, что ИИ защитит, не работают без реальной верификации. Платформы либо внедрят биометрию, ручную модерацию и аудиты, либо
Фото: hi-tech.mail.ru