Наталья Воеводина, СЕО Кибериспытание: роль эксперта в ИИ-безопасности трансформируется с рутинного наблюдателя в стратегического «дизайнера рисков»

Тему применения искусственного интеллекта и связанных с ним угроз обсудили на дискуссии «Информационная безопасность 2030» в рамках ИТ-форума «Цифровые решения».

Свое выступление Наталья Воеводина посвятила вопросу применения ИИ в информационных системах компаний и использованию AI-решений службами информационной безопасности.

«В традиционной кибербезопасности акцент ставится на контроле известного: управление доступом, защита периметра, обновление патчей, выявление известных уязвимостей через сигнатуры и реагирование на инциденты. В ИИ-системах эта модель недостаточна — здесь критично понимать «поведение» модели на уровне данных и алгоритмов, особенно что касается скрытых рисков, таких как отравление данных (data poisoning) или манипуляция через инъекции подсказок (prompt injection)» — отметила Наталья Воеводина.

По данным исследования, проведенного VK и агентством Progressio, до 70% российских компаний уже используют искусственный интеллект в своих бизнес-процессах. Также AI и ML активно применяются в решениях для обеспечения ИБ, в разных классах: от SIEM до автопентестов (BAS).

«Специалисты отвечают за качество данных, метрики этичности, владение методами объяснимого ИИ и выстраивание процессов непрерывного тестирования, включая симуляции атак новых типов. Это обеспечивает устойчивость и способность адаптироваться к быстро меняющейся угрозной среде» — отметила Воеводина.

Вместе с тем, типовые сценарии атак на российский бизнес пока реализуются не из-за внедрения ИИ-систем, а из-за наличия типовых уязвимостей, слабых паролей, недостаточного уровня осведомленности сотрудников и других «гигиенических проблем».

Так, по результатам исследования АО «Кибериспытание», из 100 участников две трети компаний не смогли противодействовать атакам белых хакеров, несмотря на выделяемый бюджет на ИБ и используемые защитные меры.

Форум «Цифровые решения» – самый масштабный ИТ-форум России, на котором обсуждают цифровую трансформацию страны. Это площадка для диалога между государством и бизнесом: здесь определяют новые точки роста, оценивают ход реализации национального проекта «Экономика данных» и разрабатывают стратегии внедрения информационных технологий в разные сектора экономики.