Эксперт Василенко: безопасность ИИ превратилась в самостоятельное направление информационной безопасности
Изображение: grok
Иван Василенко, директор по клиентской стратегии HiveTrace, прокомментировал для CISOCLUB результаты исследования Cobalt AI and Pentesting Pulse Report 2026, согласно которому бизнес внедряет искусственный интеллект быстрее, чем успевает обеспечить его защиту. По мнению эксперта, сегодня безопасность ИИ остаётся догоняющей функцией, поскольку новые технологии распространяются быстрее, чем появляются эффективные механизмы их защиты.
Он отметил, что большие языковые модели и агентные системы формируют новый слой корпоративной инфраструктуры со своими угрозами и принципиально иной поверхностью атаки.
«Сегодня безопасность ИИ остается догоняющей функцией. LLM и агентные системы это новый слой инфраструктуры с собственными угрозами и принципиально иной поверхностью атаки. Пока ИБ ищет способы защитить корпоративный ИИ, ИТ уже создает новую поверхность атаки», — заявил Иван Василенко.
По словам эксперта, дополнительную проблему создаёт массовое использование кодинговых ассистентов. Вместе с запросами к внешним языковым моделям за пределы корпоративного контура могут попадать конфиденциальные сведения.
«Кодинговые ассистенты становятся частью процесса разработки: вместе с запросами в LLM во внешний контур уходят пароли, API-ключи, токены, внутренний код и другие чувствительные данные компании», — отметил он.
Иван Василенко подчеркнул, что организации постепенно начинают уделять внимание новым классам угроз, однако зачастую это происходит уже после того, как искусственный интеллект становится частью критически важных бизнес-процессов.
«Мы видим, что организации начинают задумываться о защите от prompt injection, контроле действий AI-агентов, предотвращении утечек через RAG-системы и безопасном использовании публичных LLM. Но чаще всего эти вопросы появляются уже после того, как ИИ встроен в критичные бизнес-процессы», — рассказал эксперт.
Он также обратил внимание на проблемы надёжности современных ИИ-систем. По его словам, уже известны случаи, когда автономные агенты в процессе работы раскрывали чувствительные данные или приводили к критическим сбоям.
«Отдельного внимания заслуживает и вопрос надежности систем, уже зафиксированы случаи, когда мощные агенты во время работы случайно раскрывали пароли и очищали продакшен базу данных», — заявил Иван Василенко.
Эксперт отметил, что традиционные средства информационной безопасности не проектировались с учётом подобных сценариев и не способны полноценно контролировать взаимодействие с языковыми моделями.
«При этом классические средства информационной безопасности не были рассчитаны на такие сценарии. DLP, WAF или IAM остаются важными элементами защиты, но они не анализируют смысл взаимодействия с моделью, не контролируют ее поведение и не способны оценивать риски, возникающие непосредственно во время инференса», — подчеркнул он.
По мнению Ивана Василенко, AI Security уже сформировалось как отдельное направление информационной безопасности. В ближайшие годы компании начнут воспринимать модели искусственного интеллекта как самостоятельный объект защиты, для которого потребуются специализированные методы контроля и тестирования.
«AI Security уже сформировалось как самостоятельное направление информационной безопасности – такое же, каким когда-то стали безопасность веб-приложений, облаков или контейнеров. Компании перестанут воспринимать модели как «еще один сервис» и начнут защищать их как отдельный объект инфраструктуры: с обязательным red teaming, мониторингом поведения в рантайме, контролем агентных систем и специализированными политиками безопасности», — заключил Иван Василенко.
