Специалист выделил основные ошибки в области кибербезопасности, возникающие при интеграции искусственного интеллекта

Более 50% кибератак начинаются с фишинга.безопасность, замокИсточник: Freepik

Даже при наличии современных систем защиты ключевым фактором остаётся человеческий: сотрудник активирует вредоносное письмо, и заражение происходит внутри корпоративной сети. О том, как предотвратить угрозы и защитить корпоративные данные, рассказал 5 ноября заместитель директора департамента металлургии и материалов Сергей Грачев.

«63% компаний не проводят оценку безопасности новых технологий перед их внедрением — это касается и ИИ-агентов, и других цифровых решений, которые все больше входят в корпоративные процессы. Формирование этики и культуры кибербезопасности включает несколько основных элементов: лидерство и вовлеченность руководства, системное обучение сотрудников, распределение ответственности на всех уровнях и интеграцию киберзащиты в каждый бизнес-процесс», — отметил эксперт.

Грачев также выделил возрастающие риски, связанные с использованием искусственного интеллекта. По его словам, более 60% компаний уже применяют ИИ, но 77% из них не соблюдают базовые требования безопасности. Эксперт предупредил, что многие организации внедряют ИИ-модели, не учитывая источники данных и возможные уязвимости.

«К типичным угрозам относятся утечки конфиденциальных данных, “галлюцинации” моделей (генерация ложных ответов), искажения прогнозов, ошибки в управлении оборудованием и производственными процессами. Особенно это критично для секторов с высокой степенью автоматизации — нефтегаза, энергетики, логистики. Главный вывод: внедрение инноваций без учета киберрисков — это прямая дорога к потерям и репутационным рискам. Безопасность должна стать не “дополнением”, а неотъемлемой частью цифровой трансформации компании», — подчеркнул специалист.

Кроме того, он отметил, что основной ошибкой многих организаций является привлечение специалистов по информационной безопасности слишком поздно, когда готовая система уже не соответствует требованиям защиты данных.

В мае сообщалось, что количество фишинговых атак продолжает увеличиваться: в 2024 году, по сравнению с 2023-м, их число возросло на 33%, а с 2022 года — на 72%. Чаще всего в прошлом году подверглись атакам государственные учреждения (15%), промышленные предприятия (10%) и IT-компании (9%). Такие действия хакеров могут привести к различным последствиям: краже конфиденциальной информации (63%), нарушению деятельности организаций (28%), ущербу интересам государства (6%) и прямым финансовым потерям (5%).

Фото: hi-tech.mail.ru

Оцените статью
Dfiles.ru