Эксперт Зыбнев: без зрелых MLSecOps-практик ИИ не снизит утечки, а усугубит ситуацию
Изображение: recraft
На фоне позитивных ожиданий от внедрения искусственного интеллекта в сферу киберзащиты, ведущий специалист отдела по работе с уязвимостями ИС «Бастион» Сергей Зыбнев в комментарии для CISOCLUB заявил, что прогноз о десятикратном снижении утечек выглядит чрезмерно оптимистично. По его словам, текущие реалии показывают обратную динамику — риски только усиливаются.
«Прогнозы о десятикратном снижении утечек данных благодаря ИИ выглядят крайне оптимистично и не учитывают текущие реалии корпоративной безопасности. На практике мы наблюдаем обратную тенденцию. Основная трудность — отсутствие зрелых MLSecOps практик в большинстве компаний. Организации активно внедряют ИИ-решения, но при этом не имеют выстроенных процессов управления безопасностью машинного обучения. Это создаёт новые векторы атак и увеличивает поверхность компрометаций», — отметил Сергей Зыбнев.
Он подчеркнул, что без комплексной инфраструктуры безопасности, охватывающей весь жизненный цикл AI-моделей, ситуация вряд ли улучшится. Напротив — ИИ пока чаще становится источником уязвимостей.
«Без построения комплексных MLSecOps процессов, включающих мониторинг AI-моделей, adversarial testing, и governance frameworks для AI-систем, количество инцидентов безопасности будет только расти. Мой прогноз: в ближайшие 2–3 года мы увидим рост AI-related инцидентов безопасности, пока индустрия не выработает зрелые практики защиты. Только после этого ИИ действительно сможет увеличить метрики безопасности, а не быть источником новых угроз», — подытожил он.
