60% российских компаний используют облачные LLM-модели
Изображение: grok
Крупные российские компании в среднем используют около восьми ИИ-моделей в своей корпоративной среде: половина из них – зарубежные (например, ChatGPT и DeepSeek), половина – российские (например, GigaChat и YandexGPT). При этом примерно 60% моделей размещены в облаке (сторонние SaaS), а 40% развернуты внутри инфраструктуры. Эксперты “Кросстеха” и INFERA Security предупреждают, что несмотря на очевидные преимущества такого подхода, он сопровождается дополнительными рисками, главные из которых — зависимость от подрядчика и атаки на цепочки поставок.
Специалисты указывают, что in-house AI-модели также подвержены угрозам кибербезопасности: prompt injection, выдача чувствительной информации, отравление обучающих данных. При использовании публичных моделей риски становятся выше, так как ИИ-модель не может полностью контролироваться бизнесом. Внутренние модели (on-prem) можно проверить сканером ML Red Teaming, тестировать сценарии атак, исправлять или дообучать модель, внедрять фильтры и ограничения. Внешние модели (SaaS/OpenSource) напрямую исправить не получится, так как они обновляются и управляются провайдером. Единственное, что остаётся – контролировать взаимодействие с моделью: фильтрация запросов и ответов через AI Firewall, ограничение доступа по ролям, аудит сторонних библиотек и мониторинг аномалий. Для CISO это означает необходимость комплексной проверки любых ИИ-моделей перед их внедрением и в процессе эксплуатации.
Главным риском эксперты “Кросстеха” и INFERA Security называют зависимость от цепочек поставок и атаки на них. В первом случае речь идет о ситуациях, когда процессы внутри бизнеса завязаны на облачном сервисе, в данном случае ИИ-модели, из-за чего стабильность работы сервисов, возможность их масштабирования и технологического развития зависят от провайдера. Более 50% российских компаний используют иностранные ИИ-решения, для которых существуют дополнительные риски — ограничения на оплату и доступ к сервисам в России, блокировки российских аккаунтов со стороны провайдера.
Атаки на цепочки поставок — также серьезная проблема при использовании внешних AI-моделей. Злоумышленники могут внедрить вредоносный код на этапе формирования модели или её обновления, компрометируя тем самым всех пользователей, которые доверяют этому провайдеру.
Специалисты приводят пример типового сценария атаки.Компания использует внешнюю SaaS ИИ-модель для обработки обращений клиентов и автоматизации внутренних процессов. Злоумышленники получают доступ к исходной модели через недостаточно проверенную open-source библиотеку, используемую для дообучения модели. В результате при обновлении модели в систему внедряется скрытый код, который позволяет перехватывать запросы с чувствительной информацией о клиентах и транзакциях, а также изменять отчёты для внутреннего контроля. В результате бизнес может столкнуться утечкой конфиденциальных данных клиентов и финансовой информации, нарушением соответствия нормативным требованиям (например, требования ЦБ РФ и ФЗ-152 о защите персональных данных), финансовыми потерями из-за модификации транзакционных данных.
Для защиты от подобных угроз эксперты INFERA Security и «Кросстеха» рекомендуют внедрять AI Firewall для проверки и фильтрации запросов к модели и ответов от неё, проводить аудит и тестирование сторонних библиотек перед интеграцией в корпоративную инфраструктуру, ограничивать доступ к модели с использованием многофакторной аутентификации и ролевого контроля, осуществлять мониторинг аномальных действий модели и анализ логов на признаки компрометации.
“Использование SaaS AI-моделей распространено и обосновано: развернуть собственное решение внутри инфраструктуры крайне сложно и дорого, у большинства компаний нет финансовых и человеческих ресурсов для этого. При этом использование внешних сервисов требует дополнительных мер безопасности — защиту API, анализ кода, внедрение двухфакторной аутентификации, ограничение доступа и так далее. Это важная работа, которая позволяет использовать преимущества ИИ без дополнительных рисков”, — говорит Антон Редько, руководитель группы “Безопасная разработка” “Кросстеха”.
«Сегодня любая корпоративная AI-модель – это часть критической инфраструктуры. Использование AI Firewall становится обязательным элементом защиты, позволяющим не только предотвращать утечки и атаки, но и сохранять доверие клиентов и партнеров,» – отмечает Игорь Бирюков, генеральный директор INFERA Security.
