Анализ медицинских данных с применением нейросетей может привести к утечке этих данных, отметил старший юрист MWS AI (входит в ERION, объединяющую нетелеком-активы МТС) Кирилл Дьяков.
«Применение больших языковых моделей, таких как ChatGPT, которые предоставляют пользователям возможность анализа медицинской информации, может привести к утечке этих данных», — отметил Дьяков.
Он пояснил, что такие ИИ-сервисы способны запоминать данные пользователей, обучаться на основе них и в дальнейшем воспроизводить информацию о пользователе, включая медицинские данные. Это может привести к компрометации личной информации. Кроме того, создатели ИИ-моделей обязаны в некоторых случаях раскрывать данные пользователей по решению суда, что создает дополнительные риски для конфиденциальности.
Также неспециализированные модели могут допускать ошибки в ответах при некорректно сформулированных запросах, добавил Дьяков.
«Наилучшим вариантом является либо использование в нейросетях обезличенных данных (например, с удалёнными или замаскированными ФИО), либо применение специализированных систем, например, в клиниках — в закрытом контуре организации, без доступа к внешним ресурсам, что делает их менее уязвимыми к атакам и утечкам по сравнению с публичными сервисами», — добавил эксперт.
Фото: hi-tech.mail.ru