В Центре биометрических технологий подчеркнули, что искусственный интеллект приносит не только преимущества.
Генеративный искусственный интеллект (ИИ) без надлежащего регулирования представляет риски утраты управляемости для предприятий и критически важных объектов. Такую точку зрения высказал заместитель генерального директора Центра биометрических технологий (ЦБТ) Евгений Семенов на форуме «Цифровые решения» в рамках сессии «Будущее кибербезопасности в эпоху ИИ».
Семенов считает, что в настоящее время бизнес не выработал необходимых этических норм и процессуальных рамок для взаимодействия с ChatGPT и другими нейросетями. «Многие сектора еще не научились формировать модели рисков и не умеют правильно управлять. Сотрудник может применять эти инструменты для обработки персональных данных, и таким образом мы можем передавать владельцам инфраструктуры конфиденциальную информацию, в том числе о состоянии наших критически важных объектов. Это очень рискованно», — отметил Семенов.
Заместитель главы ЦБТ также указал на основную угрозу. По его мнению, ввиду особенностей функционирования ИИ высшие уровни управления могут перестать осознавать, что происходит на нижних уровнях. «Эта обратная связь будет нарушаться. Верхний уровень будет видеть, что все в порядке, а выявить проблему будет невозможно», — пояснил эксперт.
В то же время Семенов отметил и положительный потенциал технологии. «Если специалист подготовлен, этот инструмент существенно ускорит его работу. Например, для анализа инцидентов в области кибербезопасности это будет действительно замечательно», — добавил он.
«Цифровые решения» — самый крупный ИТ-форум России, который проходит с 12 по 15 ноября. На форуме также выступил премьер-министр России Михаил Мишустин.
Фото: hi-tech.mail.ru