Пользователи Android выразили недовольство по поводу приложения Android System SafetyCore, которое Google устанавливает на устройства без явного согласия и которое может классифицировать изображения на смартфоне.
Согласно данным Cybernews, после удаления приложение в некоторых ситуациях устанавливается вновь. Google заявляет, что обработка контента осуществляется исключительно на смартфоне, и данные не передаются на сервера компании.
SafetyCore также применяется для функции Sensitive Content Warnings в Google Messages. Она предупреждает пользователей о потенциально нежелательных изображениях и может автоматически размывать их. Google уверяет, что фотографии с обнаруженной наготой не отправляются на серверы компании, а классификация выполняется с использованием модели машинного обучения непосредственно на устройстве.
Вокруг SafetyCore ранее возникали нарекания из-за того, что приложение появлялось на смартфонах без предварительного уведомления, не имело заметного значка и не объясняло пользователям принцип работы. Некоторые пользователи по-прежнему пытаются удалить его, а некоторые участники Reddit сообщали о повторной установке приложения.
В настоящее время Google разрабатывает API ContentSafetyManager, который позволит сторонним приложениям использовать функцию классификации контента на устройстве. API сможет принимать изображения и другие типы медиаданных и возвращать один из четырех результатов: разрешено, предупреждение, заблокировано или не классифицировано. При этом документация не утверждает, что API напрямую использует SafetyCore, и не выделяет наготу в отдельную категорию.
Исследователь в области информационной безопасности Cybernews Раса Юргутите предупредила, что сторонние приложения могут потенциально злоупотреблять такими возможностями. В сочетании с чрезмерными разрешениями вредоносное ПО теоретически может использовать классификацию для анализа большого объема пользовательского контента. Это, по оценке исследователя, может привести к нарушению приватности или профилированию пользователей.
Фото: hi-tech.mail.ru