В США чат-бот ChatGPT без запроса отправил письмо в ФБР от его имени через Gmail. Заместитель генерального директора АО «Петербургский нефтяной терминал» и экс-министр цифрового развития Вологодской области Ахметжан Махмутов в беседе с «Газетой.Ru» рассказал о проблемах, которые вскрывает данный инцидент.
О «бунте» ИИ-агента компании OpenAI изначально рассказал пользователь Reddit, который прикрепил скриншоты переписки с ChatGPT, подтверждающие факт отправки письма в американскую спецслужбу. Позже оригинальный пост был удален с платформы, но его содержание сохранилось в соцсети X — пользователь Katie Miller опубликовал эти данные. OpenAI, Google и ФБР не прокомментировали ситуацию.
Ахметжан Махмутов отметил, что инцидент поднимает два важных вопроса: техническую иллюзию цифровой приватности и юридическую беспомощность перед автономными агентами.
«Годами нам говорили, что SSL-шифрование, HTTPS и “сквозная защита” означают, что ваша переписка — это приватно. Это не так. Шифрование защищает канал, но не защищает от того, кто находится на другом конце канала. Если вы предоставили приложению OAuth-доступ к Gmail с правом отправки — вы не в закрытой комнате, вы в стеклянном офисе, где ключи находятся у охранника», — отметил эксперт.
Он также обратил внимание на то, что протокол шифрования TLS не скрывает метаданные, а метаданные в цифровом мире часто содержат больше информации, чем сам текст. При этом пользователь, подключая интеграцию, почти никогда не обращает внимания на то, какие именно права он предоставляет: он видит кнопку «Подключить Gmail» и думает, что это связано с удобством, а на самом деле — с делегированием прав.
Ахметжан Махмутов указал на то, что сотни подрядчиков, нанятых через Crossing Hurdles и Mercor (платформы для подбора кадров для обучения ИИ-моделей), просматривают реальные диалоги пользователей ChatGPT. Официально — для улучшения модели и борьбы с «галлюцинациями».
Неофициально, по его словам, это означает, что «приватный» чат с ботом может быть прочитан человеком, который понимает контекст, а иногда и «сводку памяти» пользователя с указанием примерного местоположения и прошлых интересов. «И это не хакерская атака, а бизнес-процесс», — подчеркнул он.
Фото: hi-tech.mail.ru