Более половины российских предприятий выражают опасения по поводу утечки данных в связи с внедрением искусственного интеллекта (ИИ). Автоматизация увеличивает риски компрометации как личной информации, так и коммерческой тайны. Специалисты отмечают, что при отсутствии шифрования данных утечка может оказаться необратимой.
Согласно исследованию МТС Web Services, 59% компаний определяют угрозу утечки личных данных как наиболее серьезную. На втором месте находится риск утечки коммерческой тайны, который обозначили 56% участников опроса. При масштабировании ИИ-решений IT-отделы ставят приоритет на вопросы безопасности, чем на ожидаемую выгоду в части оптимизации рутинных задач и повышения эффективности бизнес-процессов с помощью ИИ.
При этом, по данным компании McKinsey, уровень внедрения ИИ-систем в мире составляет 88%. Генеративные нейросети активно применяются в области маркетинга, а также в разработке IT-решений.
Сергей Юдин, глава отдела технологий Content AI, отметил, что высокий риск утечки данных при использовании нейросетей связан с самой природой этой технологии. Если традиционное программное обеспечение лишь обрабатывает данные без их сохранения или анализа вне рамок конкретной задачи, то ИИ-системы, основанные на больших языковых моделях, фактически «поглощают» информацию и используют ее для внутреннего понимания контекста. А в случае публичных сервисов — для дообучения.
«Проблема заключается в том, что, попав в открытую ИИ-систему, информация почти не подлежит удалению. Она может быть сохранена в логах, использована в обучающих выборках или случайно раскрыта третьим лицам. В итоге утечка становится необратимой», — поясняет Юдин.
В таком случае важным шагом для защиты данных является формирование внутренней политики использования ИИ. Сотрудников необходимо обучать, какие данные допустимо передавать в нейросеть, а какие категорически нельзя.
Например, публичные ИИ-сервисы часто не скрывают, что сохраняют историю диалогов и используют ее для улучшения моделей. Даже если данные агрегируются анонимно, существует риск их реконструкции или несанкционированного доступа. Поэтому компании, внедряя ИИ-системы в операционные процессы, разрабатывают комплексную стратегию безопасного взаимодействия с технологией.
«Одним из рекомендованных способов защиты данных является использование “плейсхолдеров”, когда вместо реальных имен, сумм, банковских реквизитов или названий компаний применяются вымышленные. Это позволяет сохранить логику и структуру задачи и получить релевантный ответ от ИИ без риска раскрытия конфиденциальной информации», — рассказал Юдин.
К обязательным мерам безопасности также относится настройка приватности в используемых сервисах: отключение опции, позволяющей использовать диалоги для обучения моделей, регулярное удаление истории переписок и разделение аккаунтов для личных и рабочих задач.
В пресс-службе ГК «Солар» сообщили, что в нейросети загружается большой объем данных из корпоративных систем государственных и коммерческих организаций. Это могут быть файлы, содержащие как общедоступную информацию о компании, так и чувствительные данные: например, чертежи оборудования с подробными расчетами или закрытые финансовые показатели. Для безопасного внедрения ИИ в свою операционную деятельность компании могут использовать различные комплексы решений.
«В будущем можем увидеть, что ИИ-технологии будут использоваться в продуктах по информационной безопасности для автоматизации процессов и отражения кибератак. Это связано с тем, что злоумышленники уже применяют различные ИИ-инструменты для вторжения в инфраструктуру. Таким образом, ИИ будет работать против самого себя», — заключают в компании.
Фото: hi-tech.mail.ru