А иногда и то, и другое одновременно
Как сообщает BBC, последние версии ChatGPT, доступные для широкой публики, способны генерировать изображения сексуального характера или представлять сцены насилия с помощью простых запросов.
Британская компания Mindgard, работающая в области безопасности с применением искусственного интеллекта, обнаружила способ заставить ChatGPT создавать графические изображения, немного изменив общепринятую инструкцию, изначально разработанную для получения юмористических ответов.
После запроса от BBC, компания OpenAI, разработчик ChatGPT, сообщила, что предприняла шаги для предотвращения генерации таких изображений чат-ботом в ответ на запросы.
«В результате анализа этой ситуации мы внедрили дополнительные защитные меры для обработки таких запросов», — отмечается в заявлении.
Также в пресс-релизе упоминается о многоуровневой системе защиты, которая препятствует созданию пользователями контента, нарушающего условия использования.
Тем не менее, эксперты в области безопасности ИИ заявили, что даже после внесения некоторых корректировок, проблемные запросы все еще приводили к созданию тревожного контента.
Даже при отсутствии детализированных инструкций система производила изображения, которые основатель Mindgard, Питер Гаррахан, охарактеризовал как «очень пугающие, иногда с сексуальным подтекстом, а иногда и то, и другое одновременно». Он добавил, что его особенно беспокоит, что в запросе не было указано направление изображений, но ИИ самостоятельно создал ряд кровавых и сексуализированных изображений.
Источник