Эксперт Арышев: ИИ-агентам в кибербезопасности нельзя давать неограниченные полномочия
изображение: grok
Владимир Арышев, эксперт по комплексным ИБ-проектам STEP LOGIC, прокомментировал для CISOCLUB осторожное внедрение агентного искусственного интеллекта в кибербезопасность. По его словам, компаниям необходимо убедиться, что автономные системы не только ускоряют работу специалистов, но и не создают дополнительных рисков для корпоративной инфраструктуры.
В отличие от обычных ИИ-инструментов, агентные системы могут самостоятельно обращаться к различным сервисам, выбирать действия и оценивать их результаты. Это усложняет контроль за их работой и ставит вопросы о разграничении доступа, аудите операций и ответственности в случае инцидента.
«ИБ-специалисты хорошо понимают цену ошибки: если агент неверно оценит событие, заблокирует легитимный доступ или запустит некорректный сценарий реагирования, последствия могут оказаться серьёзными. Кроме того, агентный ИИ должен не просто анализировать информацию, а самостоятельно выбирать действия, обращаться к разным системам и оценивать результат, при этом его решения не всегда предсказуемы, а качество работы зависит от исходных данных, настроек и доступных инструментов», — отметил Владимир Арышев.
При этом полностью отказываться от технологии не требуется. Агентный ИИ уже можно использовать для анализа событий SIEM, обогащения информации об угрозах, первичной сортировки оповещений и поиска взаимосвязей между инцидентами. Такие задачи позволяют сократить объём рутины, не передавая системе право самостоятельно принимать критические решения.
«Можно ли безопасно использовать агентный ИИ для задач кибербезопасности? Да, если изначально проектировать его работу с учётом возможных ошибок и не предоставлять ему неограниченную самостоятельность. В таких сценариях он сокращает объём рутинной работы, а окончательное решение остаётся за человеком», — пояснил эксперт.
Наибольшая осторожность требуется при автоматизации реагирования на угрозы. Изоляция узла, блокировка учётной записи или изменение правил межсетевого экрана могут помочь остановить атаку, но ошибочное действие способно нарушить работу бизнес-систем. Поэтому уровень автономности необходимо соотносить с потенциальным ущербом: чем серьёзнее последствия ошибки, тем больше проверок и подтверждений со стороны специалиста должно требоваться.
Владимир Арышев добавил, что для внедрения агентного ИИ недостаточно продемонстрировать ускорение анализа или способность обнаруживать угрозы. Необходимо подтвердить на практике, что система работает предсказуемо, не создаёт неприемлемых рисков и действительно повышает эффективность команды.
