Эксперт Салпагаров: ИИ делает кибератаки быстрее, а защиту бизнеса — дороже

Эксперт Салпагаров: ИИ делает кибератаки быстрее, а защиту бизнеса — дороже

изображение: grok

Султан Салпагаров, архитектор по информационной безопасности Getmobit, прокомментировал для CISOCLUB рост мировых расходов на защиту от кибератак с применением искусственного интеллекта. По его мнению, ИИ пока эффективнее используется для нападения, чем для защиты: автоматизация поиска уязвимостей и перебора атакующих техник позволяет злоумышленникам действовать быстрее, чем защитные системы успевают реагировать.

«Искусственный интеллект в информационной безопасности всё ещё на «темной стороне»: успехи в нападении у ИИ заметно выше, чем в защите. Автоматический поиск известных уязвимостей, перебор атакующих техник в разных сочетаниях и высокая скорость дают абсолютное превосходство в классических сценариях безопасности», — отметил Султан Салпагаров.

Из-за этого меняется подход к устранению уязвимостей. Защитники и атакующие получают информацию об эксплойтах практически одновременно, но компаниям требуется дополнительное время, чтобы адаптировать обновления или найти компенсирующие меры. Эксперт считает, что вместо постоянной гонки за закрытием обнаруженных проблем необходимо ограничивать саму возможность взаимодействия с уязвимыми компонентами.

«Закрытие уязвимостей перестало быть превентивным — нападающие получают эксплойт одновременно с защищающимися, а с учетом «темного рынка», зачастую, и раньше. Но для первых — это готовый инструмент, а вторым еще требуется время для доработку или компенсирующие меры. Противодействие должно быть не реактивным (нашли уязвимость — закрыли «дыру» в условиях гонки), а радикальным — пресечь сам контакт с уязвимыми компонентами», — пояснил эксперт.

Дополнительные риски создают ИИ-агенты, которым компании предоставляют возможность самостоятельно выполнять действия внутри корпоративной инфраструктуры. Чем больше контекста и полномочий получает такой агент, тем полезнее он может быть для бизнеса. Но при компрометации эти же возможности превращают его в инструмент злоумышленника, способный обходить защиту, похищать данные и нарушать работу систем.

«Другим опасным фактором стало появление в инфраструктуре AI-агентов, которые способны самостоятельно выполнять действия внутри инфраструктуры. Корреляция полезности агента и его привилегий почти прямая — чем больше контекста есть у агента, тем он «умнее», а чем он самостоятельней, тем больше прав ему требуется. Для успешного нарушителя AI-агент — это готовая «пятая колонна». Правильно проинструктированный «двойной агент» сам все найдет, обойдет защиты и выведет нужную информацию. Или «подправит» бизнес-процесс так, чтобы тот остановился», — заявил Султан Салпагаров.

Меняется и роль систем мониторинга. По оценке эксперта, традиционные SIEM-платформы могут не успевать выявлять сложные цепочки событий и запускать ответные действия до того, как атакующий завершит операцию. Поэтому компаниям приходится переходить к решениям, которые способны реагировать непосредственно на конечных устройствах и ограничивать перемещение нарушителя внутри инфраструктуры.

«AI наносит удар еще по одному столпу безопасности — мониторингу. Пока SIEM-системы анализируют неочевидные связи между событиями, эскалируют инциденты и активируют реакцию, атакующий успевает пройти весь цикл от проникновения за периметр до уничтожения инфраструктуры с эксфильтрацией корпоративных тайн (извлечением похищаемой информации через периметр), оставляя службам информационной безопасности лишь расследование уже случившегося и написание отчетов об инциденте», — отметил эксперт.

В качестве ответа Султан Салпагаров выделяет несколько уровней защиты. Для ограничения доступа к уязвимым компонентам применяются технологии ZTNA, для оперативного обнаружения и пресечения атак — EDR/XDR, а на уровне приложений — архитектура нулевого доверия ZTA. В совокупности эти решения должны затруднять продвижение злоумышленника и давать системам реагирования дополнительное время.

«Защита на уровне уязвимостей решается технологиями ZTNA (Zero Trust Network Architecture, «нулевое доверие» на уровне сети). На смену классическому мониторингу приходят EDR/XDR-системы с мгновенным реагированием на местах.

На уровне приложений помогает классические технологии ZTA (Zero Trust Architecture, нулевое доверие), которые усложняют и замедляют продвижение нарушителя внутри инфраструктуры, заодно давая системам реагирования бесценное время», — пояснил Султан Салпагаров.

Для защиты самих ИИ-агентов эксперт предлагает объединять мониторинг их поведения, средства реагирования и централизованное управление доступом. При обнаружении подозрительной активности XDR может передавать команды EDR-агентам для блокировки запросов, а система авторизации — отзывать выданные полномочия. Такой подход позволяет изолировать скомпрометированного агента без опоры на пока недостаточно зрелые фильтры промптов и генерации.

«А для защиты AI-активов задействуется всё сразу. Системы мониторинга на основе UBA отслеживают аномалии поведения AI-агента и сигнализируют в XDR. Те через подключение к EDR-агентам отклоняют запросы скомпрометированного агента и таким образом его изолируют. Центр авторизации ZTA отзывает все доступы, выполняя роль «красной кнопки» kill-switch. И все это — в режиме «черного ящика», без фильтров промптов и генерации, которые сейчас в зачаточном состоянии и не гарантируют вообще ничего», — рассказал эксперт.

Комплексная защита требует значительных затрат и не даёт абсолютных гарантий. По мнению Султана Салпагарова, компаниям приходится использовать несколько уровней безопасности одновременно, что усложняет инфраструктуру и увеличивает стоимость её эксплуатации.

«Противодействие на всех фронтах долго, дорого и не гарантировано. Отсутствие гарантии, в свою очередь, требует избыточности и эшелонирования защитных мер, что еще больше усложняет и удорожает ландшафт безопасности. Что мы и наблюдаем. Безопасность осталась востребованным активом, но стала гораздо дороже», — заключил Султан Салпагаров.

Артем
Автор: Артем
Представитель редакции CISOCLUB. Пишу новости, дайджесты, добавляю мероприятия и отчеты.
Комментарии:

Как мы обрабатываем данные: политика обработки персональных данных