Эксперт Салпагаров: ИИ усилил кибербезопасность, но доверять ему стратегические решения нельзя

Султан Салпагаров, архитектор по информационной безопасности Getmobit, прокомментировал для CISOCLUB влияние искусственного интеллекта на развитие кибербезопасности. По его словам, нейроинструменты заметно изменили подходы к анализу кода, поиску уязвимостей и обработке данных, но одновременно создали новые риски из-за способности ИИ убедительно выдавать ошибочные результаты.

ИИ уже используется для задач, где раньше требовались значительные усилия специалистов или традиционных средств защиты. Анализ кода приблизился по эффективности к работе профессионального code review, фаззинг дополняется точечным поиском уязвимостей, а глубокая обработка логов позволяет выявлять подозрительную активность, которая может оставаться незаметной для классических SIEM- и UEBA-систем.

«Искусственный интеллект устроил настоящий переворот в кибербезопасности. Энтузиасты новых технологий видят в нейроинструментах светлое будущее. Анализ кода от гадания «фифти-фифти» статических анализаторов перешел к эффективности code-review настоящих, живых профессионалов, стохастический перебор фаззинга сменили быстрые и эффективные точечные атаки, а глубокий анализ логов обнаруживает злой умысел там, где классические SIEM и UEBA не видят ничего подозрительного», — отметил Султан Салпагаров.

При этом использование ИИ не гарантирует повышения качества защиты. По словам эксперта, уверенная подача ошибочных выводов может привести к снижению внимательности специалистов, а распространение ИИ-инструментов в разработке способно одновременно повысить эффективность атак и увеличить количество ошибок в создаваемом программном обеспечении.

«Критики указывают на то, что свои галлюцинации ИИ подает настолько убедительно, что службы кибербеза теряют бдительность и перестают замечать даже явные дыры, а всплеск эффективности взломов считают закономерным результатом того, что ИИ проник в разработку и привел к ее массовой деградации», — рассказал эксперт.

Отдельную пользу ИИ, считает Султан Салпагаров, может принести в рутинных задачах, на которые у специалистов часто не хватает времени. Речь идёт о регулярной проверке доступов, поиске аномалий в больших объёмах данных и контроле выполнения базовых требований. В таких задачах особенно востребованы агенты, способные быстро реагировать на события даже при ограниченном наборе функций.

«К слову сказать, громкие взломы Fugging Face и Aqua Security стали возможными как раз из-за забытых доступов субподрядчиков, которые просто забыли отозвать. Агенты, которые умеют мало, но быстро реагируют — неповторимая ниша, где ИИ незаменим. Пока атакующий подбирает ключ к инфраструктуре, не особо интеллектуальный агент успевает поднять тревогу и мобилизировать системы безопасности», — отметил Султан Салпагаров.

В итоге, по оценке эксперта, преимущества ИИ проявляются сразу в нескольких направлениях: инструменты защиты становятся эффективнее, автоматизация помогает контролировать рутинные процессы, а злоумышленники получают новые возможности для атак. Поэтому задача компаний заключается не в полном отказе от ИИ или безоговорочном доверии к нему, а в поиске подхода, при котором автоматизированные инструменты дополняют работу специалистов.

«Но правы все — инструменты кибербеза действительно стали эффективней, во всплеск успешных взломов одинаково вложились неизбежная деградация «галюциногенной» разработки и умная вариативность средств нападения, а рутинный базовый контроль от автоматизации только выигрывает. Важно только найти точку устойчивости на этом плавающем треугольнике. И ни в коем случае не доверять «нейронкам» общую оценку безопасности и стратегическое планирование. Потому, что «одна ошибка — и ты ошибся», а цена такой ошибки может оказаться катастрофической», — заключил Султан Салпагаров.