Сотрудник TikTok, занимающийся модерацией контента, рекомендует родителям немедленно удалить это приложение с устройства своего ребенка.
Несколько инсайдеров из Meta* и TikTok передали журналистам внутренние документы и скриншоты корпоративных систем. Описание ситуации, которую они представляют, не совпадает с тем, что обе компании утверждают публично, сообщает Mint.
Технически рекомендательный алгоритм не анализирует тексты и не просматривает видео. Для него любая публикация представляет собой лишь числовой идентификатор. Система фиксирует лишь одно: как долго пользователь остается на конкретной публикации и реагирует ли он на пост. Злость, возмущение и тревога удерживают внимание гораздо лучше, чем нейтральный контент, и алгоритм делает вывод, что пользователю «нравится» именно такое.
Внутренние документы Facebook* указывают на то, что система «предполагает, что пользователь хочет видеть больше подобного» и продолжает предлагать раздражающий контент. Один из документов описывает эту логику как «путь, который максимизирует прибыль за счет благополучия аудитории».
В 2020 году Meta* запустила в Instagram* Reels в ответ на стремительный рост TikTok. По словам бывшего старшего исследователя компании, продукт вышел без необходимого уровня защиты. Данные внутренних проверок показали, что комментарии содержали травлю и харассмент на 75% чаще, чем в обычной ленте Instagram*, ненависть по признаку группы — на 19% чаще, призывы к насилию — на 7% чаще.
Пока команда безопасности пыталась выделить хотя бы несколько специалистов по защите детей, на развитие Reels* компания наняла 700 человек. Бывший инженер сообщил, что решение убрать ограничения на спорный контент (законный, но вредный контент) было принято одним из топ-менеджеров, который подчиняется Цукербергу. Причиной этого стало падение акций, и необходимо было срочно восстановить 2-3% выручки у конкурента.
TikTok подвергся отдельной критике. Бывший сотрудник модерации продемонстрировал журналистам внутреннюю систему приоритезации жалоб. В одном из случаев политик, которого в ролике сравнили с курицей, получил более высокий приоритет обработки, чем две реальные жертвы: 17-летняя девушка из Франции, которую преследовали и выдавали себя за нее, и 16-летняя из Ирака, чьи фото 18+ распространялись по платформе.
По словам инсайдера, логика приоритезации политических случаев проста: компания опасается регуляторных угроз и ценит отношения с властью больше, чем безопасность пользователей.
Оба случая описывают одну и ту же модель: алгоритм настроен на вовлеченность, поскольку она лучше работает на негативе, а негатив приносит финансовую выгоду. Инструменты, которые платформы предлагают для фильтрации нежелательного контента, подростки считают неэффективными. Британские аналитики фиксируют рост «нормализации» антисемитских, расистских и насильственных материалов в лентах соцсетей, и люди все меньше реагируют на жесткий контент как на нечто аномальное.
Также поступила информация о том, что сотни миллионов iPhone могут быть взломаны. Подробности в статье.
*Деятельность компании Meta и ее продуктов признана в России экстремистской и запрещена
Фото: hi-tech.mail.ru