Профессор Владимир Нелюб: ИИ нельзя защищать по тем же принципам, что и обычные корпоративные приложения
изображение: grok
Владимир Нелюб, управляющий партнер АСТРА ИИ КОД, член Правления, директор по науке и ИИ ПАО «Группа Астра», д.т.н., профессор., прокомментировал для CISOCLUB результаты исследования Cobalt AI and Pentesting Pulse Report 2026, согласно которому бизнес внедряет искусственный интеллект быстрее, чем успевает выстраивать его защиту. По мнению эксперта, такая ситуация является закономерным этапом развития рынка, однако привычные подходы к информационной безопасности в случае ИИ уже не работают.
Он отметил, что компании стремятся как можно быстрее использовать преимущества больших языковых моделей для автоматизации процессов, разработки программного кода, обработки документов и поддержки пользователей, тогда как вопросы безопасности зачастую откладываются на более поздний этап.
«Сегодня бизнес действительно быстрее внедряет ИИ, чем учится его защищать. Это естественный этап зрелости рынка: компании видят быстрый эффект от автоматизации, генерации кода, анализа документов, поддержки пользователей и начинают масштабировать такие решения. Но при этом безопасность часто рассматривается как дополнительный слой, который можно «добавить потом». Для ИИ такой подход не работает», — заявил Владимир Нелюб.
По словам эксперта, системы искусственного интеллекта принципиально отличаются от традиционных приложений, поскольку работают с корпоративными данными, взаимодействуют с другими информационными системами и способны получать доступ к критически важной информации.
«ИИ-система — это не просто очередное приложение. Она работает с корпоративными данными, принимает решения на основе контекста, взаимодействует с внутренними системами и может становиться точкой доступа к критически важной информации», — отметил он.
Владимир Нелюб подчеркнул, что защищать необходимо не только саму модель, но и всю окружающую инфраструктуру, включая данные, интеграции, механизмы управления доступом и процессы эксплуатации.
«Поэтому защищать нужно не только модель, но и весь контур: данные, среду выполнения, интеграции, права доступа, журналы действий, каналы обмена и процессы эксплуатации», — рассказал эксперт.
По его мнению, основные угрозы связаны не с ошибками самих моделей, а с отсутствием правил их использования внутри организаций. Это может приводить к передаче конфиденциальной информации внешним сервисам, предоставлению ИИ чрезмерных полномочий и использованию результатов работы моделей без должной проверки.
«Главные риски сегодня связаны не с тем, что ИИ «ошибается», а с тем, что его начинают использовать без понятных правил. Например, сотрудники могут передавать во внешние сервисы чувствительные данные, модели могут получать избыточные права, а результаты работы ИИ — использоваться без проверки», — заявил Владимир Нелюб.
Эксперт также обратил внимание на угрозу промпт-инъекций, позволяющих злоумышленникам обходить ограничения моделей и получать доступ к информации.
«Отдельная зона риска — промпт-инъекции, когда злоумышленник через текстовый запрос пытается обойти ограничения системы или получить доступ к данным», — отметил он.
По словам Владимира Нелюба, для корпоративного и государственного сегментов базовым принципом должно стать развёртывание ИИ исключительно в доверенной инфраструктуре с полноценным контролем всех процессов.
«Для корпоративного и государственного сегмента базовый принцип должен быть простым: ИИ внедряется в защищенном контуре, на доверенной инфраструктуре, с управлением доступами, аудитом и контролем жизненного цикла моделей. В Группе Астра мы исходим именно из этой логики: ИИ должен быть не внешним экспериментом, а управляемым элементом корпоративной ИТ-архитектуры», — подчеркнул эксперт.
В завершение Владимир Нелюб отметил, что грамотно выстроенная архитектура безопасности не мешает внедрению искусственного интеллекта, а наоборот, создаёт условия для его дальнейшего масштабирования.
«Важно, что безопасность не должна тормозить внедрение ИИ. Наоборот, правильно выстроенная архитектура позволяет масштабировать такие решения быстрее: бизнес понимает, где находятся данные, кто и как использует модели, какие действия выполняют ИИ-агенты и кто несет ответственность за результат. Без этого массовое внедрение ИИ действительно может привести не к росту эффективности, а к новым классам инцидентов», — заключил Владимир Нелюб.
Практический взгляд на то, как выстраивается защита ИИ-моделей, представлен в видеоинтервью «Точки отказа» с участием экспертов «Лаборатории Касперского» и Сбера.
