Эксперт Салпагаров: ИИ не создал десятки новых угроз, но серьезно изменил баланс в кибербезопасности
изображение: grok
Султан Салпагаров, архитектор по информационной безопасности Getmobit, прокомментировал для CISOCLUB исследование Gartner, в котором поиск уязвимостей с помощью искусственного интеллекта назван главной новой киберугрозой. По его мнению, самих принципиально новых направлений в ИБ появилось не так много, однако ИИ заметно перераспределил значимость уже существующих угроз и методов защиты.
«По-настоящему новых направлений появилось не так много. Это агентские системы, проблема достоверности нейросетевой генерации и когнитивная ловушка экономии мышления. Все остальное — просто перераспределение весов в модели», — отметил Султан Салпагаров.
Эксперт считает, что при этом вклад ИИ в развитие инструментов информационной безопасности нельзя недооценивать. Нейросетевые решения способны не только создавать новые риски, но и помогать их обнаруживать и снижать. В частности, они позволяют эффективнее анализировать результаты генерации кода, автоматизировать тестирование и быстрее оценивать возможность эксплуатации найденных уязвимостей.
«Проблемы вайб-кодинга из-за галлюцинаций эффективно решаются такими же нейросетевыми инструментами. Автоматизация тестирования с обратной связью эффективно снижает ошибки повторной генерации, а комплексная оценка безопасности позволяет оценить реализуемость эксплуатации уязвимости быстрее и качественнее, чем это может проделать эксперт», — рассказал Салпагаров.
Отдельное внимание он уделяет рискам, связанным с агентскими системами. В отличие от обычного чат-бота, агент получает возможность самостоятельно взаимодействовать с инфраструктурой, поэтому ошибка или компрометация такой системы потенциально затрагивает сразу несколько уровней.
«Без хорошо выстроенной защиты на всех уровнях — от промпт-инъекций до подмены сервера или клиента — они являются самой опасной подсистемой, практически “бомбой” с собственным непредсказуемым интеллектом, заложенной в самый фундамент инфраструктуры», — подчеркнул архитектор Getmobit.
По словам эксперта, именно безопасность ИИ-агентов пока остается одним из наиболее слабо исследованных и одновременно критичных направлений. При этом широкое применение ИИ уже повлияло и на традиционную модель защиты: рост атак через косвенные каналы заставляет компании пересматривать эффективность периметрового подхода.
«Обнаружение уязвимостей и моделирование атаки получили серьезный “буст” и перебалансировали весь ландшафт угроз. С другой стороны, рост количества атак “с флангов”, через косвенные каналы дискредитировал целое направление периметровой защиты, подняв значимость ZTA (Zero Trust Architecture)», — отметил Салпагаров.
В то же время он считает, что далеко не все тренды, возникшие на фоне ИИ-бума, останутся с индустрией надолго. После того как технологии перестанут восприниматься как универсальное решение, часть сегодняшних громких тенденций может исчезнуть, а компании вернутся к проверенным принципам защиты уже на новом технологическом уровне.
«Все остальное — это скорее пена после волны, которая “смешала все карты”. Как только ИИ займет свое место в инструментарии, большая часть новых трендов просто отомрет со спадом ИИ-ажиотажа. И мы просто на новом уровне вернемся к тому, что было», — заключил Султан Салпагаров.
