Эксперт Шабалин: компаниям необходимо переходить к защите самого процесса принятия решений ИИ
изображение: grok
Юрий Шабалин, директор по развитию безопасных технологий искусственного интеллекта Swordfish Security, прокомментировал для CISOCLUB результаты исследования Cobalt AI and Pentesting Pulse Report 2026, согласно которому бизнес внедряет искусственный интеллект быстрее, чем успевает обеспечить его безопасность. По мнению эксперта, традиционные подходы к защите уже не соответствуют роли, которую ИИ играет в современной инфраструктуре.
Он отметил, что к 2026 году искусственный интеллект перестал быть экспериментальной технологией и начал напрямую управлять производственными и логистическими процессами. При этом механизмы защиты по-прежнему ориентированы преимущественно на сетевой периметр, а не на поведение самих моделей.
«К 2026 году ИИ перестал быть экспериментом и превратился в автономного агента, напрямую управляющего логистикой и производственными линиями, а защита по-прежнему строится вокруг периметра сети, а не поведения модели», — заявил Юрий Шабалин.
По словам эксперта, сегодня можно выделить несколько наиболее опасных направлений атак на системы искусственного интеллекта. Среди них непрямые инъекции промптов, джейлбрейки, компрометация RAG-систем, атаки на цепочку поставок моделей машинного обучения и состязательные атаки.
«Мы фиксируем пять ключевых векторов атак: от непрямых инъекций промптов и джейлбрейков до компрометации RAG-систем и отравления цепочки поставок ML», — отметил он.
Отдельное внимание Юрий Шабалин уделил угрозам для промышленных предприятий, где воздействие на системы компьютерного зрения способно привести к сбоям в производстве.
«Особенно опасны состязательные атаки, где физическая наклейка на маркировке может исказить работу компьютерного зрения и привести к браку или остановке конвейера», — рассказал эксперт.
По его мнению, компаниям необходимо отказаться от точечных мер защиты и перейти к комплексному подходу, охватывающему весь жизненный цикл систем искусственного интеллекта.
«Поэтому бизнесу уже сейчас нужно переходить от точечных решений к полноценной стратегии MLSecOps: внедрять AI-шлюзы для фильтрации трафика, контролировать жизненный цикл артефактов и проводить регулярный Red Teaming», — подчеркнул Юрий Шабалин.
Эксперт также обратил внимание на эффективность автоматизированных методов проверки защищённости. По его словам, современные исследования показывают преимущество таких подходов по сравнению с полностью ручным аудитом.
«Исследования показывают, что автоматизированное тестирование на 20% эффективнее ручного аудита, и это уже не опция, а условие непрерывности», — заявил он.
В завершение Юрий Шабалин отметил, что безопасность искусственного интеллекта перестала быть исключительно задачей ИТ-подразделений и стала частью общей стратегии обеспечения устойчивости бизнеса и соблюдения требований регуляторов.
«Безопасность ИИ — это теперь вопрос не ИТ-отдела, это вопрос безопасности всего производства и соответствия требованиям регуляторов, таким как ФСТЭК и ГОСТ. Так что мы наблюдаем не просто отставание, а смену парадигмы: защищать нужно не данные, а сам процесс принятия решений моделью», — заключил Юрий Шабалин.
