Проверяющим предоставляется не только текст, но и изображения, которые пользователи загружают в чат-бот.
Сотни подрядчиков, которых Microsoft привлекла для усовершенствования чат-бота Copilot, анализируют запросы пользователей на редактирование изображений и загруженные фотографии. Многие из собеседников выражают недовольство по поводу того, что им часто встречаются откровенные и тревожные запросы.
По словам подрядчиков, лица на фотографиях не скрываются. «Лица всегда без цензуры, и многие запросы имеют сексуальный характер, причем согласие изображенных вызывает сомнения», — рассказал один из них.
Среди прочего, им приходилось оценивать просьбы изменить одежду или внешность женщин, а также картинки с персонажами детских мультфильмов. Некоторые работники также видели материалы, пропагандирующие анорексию, и изображения, которые напоминали жертвоприношение животных.
Задача проверяющих состоит в том, чтобы оценить, насколько эффективно ИИ выполнил запрос пользователя. Согласно материалам, доступным журналистам, Microsoft рекомендовала полагаться на «интуицию». Подрядчики отмечают, что их не предупреждали заранее о наличии тяжелого контента. Некоторые даже задавались вопросом, не стала ли генерация порнографии основным сценарием использования Copilot.
Фактически Microsoft не скрывает, что с разговорами работают люди. В разделе вопросов о приватности компания утверждает, что обученные специалисты могут просматривать беседы с Copilot для повышения точности и безопасности моделей. Перед обучением из данных удаляются имена, телефоны, адреса и другие сведения, позволяющие установить личность.
Загруженные файлы хранятся до 18 месяцев, а отказаться от проверки человеком, если сервис заподозрил нарушение правил, невозможно. Однако пользователь, который вошел в аккаунт, может запретить использование своих переписок для обучения моделей.
Microsoft в этом не одинока. Незадолго до этого сообщалось, что OpenAI привлекла множество подрядчиков, которые анализируют запросы пользователей ChatGPT и оценивают ответы бота. У сервиса более 900 миллионов пользователей, и большинство из них вряд ли понима
Фото: hi-tech.mail.ru