Модель искусственного интеллекта Grok от компании xAI создавала контент порнографического характера, который размещался на её странице в соцсети X в ответ на запросы пользователей.
«Недостатки в системе безопасности» привели к генерации изображений порнографического содержания с несовершеннолетними, которые он (Grok. — «Газета.Ru») опубликовал в соцсети X", — говорится в сообщении агентства.
Указывается, что в последние дни Grok создавал изображения, нарушающие правила допустимого использования сервиса. По информации компании, весь запрещённый контент уже удалён.
На странице Grok в соцсети X уточняется, что специалисты срочно работают над устранением обнаруженных уязвимостей. Разработка ИИ-модели Grok осуществляется компанией xAI, которая представила её в ноябре 2023 года. В марте 2024 года xAI открыла исходный код системы.
Незадолго до этого социальная сеть X внедрила встроенный ИИ-редактор изображений, основанный на модели Grok. Однако некоторые пользователи остались недовольны новшеством. Оно вызвало резкую критику со стороны художников и дизайнеров. Представители креативного сообщества выразили мнение, что такая механика позволяет обрабатывать изображения без согласия авторов и фактически открывает путь к несанкционированному использованию работ.
Фото: hi-tech.mail.ru
