Разработчики стремятся сделать чат-бот более безопасным для детей.
Компания OpenAI внедрила в свой чат-бот ChatGPT функции родительского контроля. Об этом разработчики сообщили 29 сентября.
Согласно официальному заявлению, новая опция доступна всем пользователям. С ее помощью родители смогут связать свою учетную запись с профилем ребенка, чтобы определить параметры для безопасного использования.
Как указано в OpenAI, в этом случае профиль ребенка автоматически получит дополнительные меры защиты. В частности, она усиливает цензуру и вводит ограничения, связанные с насилием, сексуальным или романтическим контентом, а также нереалистичными стандартами красоты. Родители могут отключить эти функции, но сами дети этого сделать не смогут.
Среди прочих функций присутствует возможность ограничения времени использования ChatGPT, отключение голосового режима и «памяти», чтобы чат-бот не сохранял данные из диалогов. Также можно запретить создание или редактирование изображений и отказаться от обучения моделей на основе разговоров подростков. Разработчики подчеркивают, что такие меры помогут защитить детей, однако не обеспечивают полной гарантии. По их словам, запреты могут быть обойдены, если намеренно попробовать это сделать.
Кроме того, в ChatGPT была добавлена система, способная выявлять признаки того, что подросток может задумываться о причинении себе вреда. Если нейросеть обнаруживает такую ситуацию, ее проверяют «специально обученные специалисты». В случае »
Фото: hi-tech.mail.ru