Эксперты ГК Softline предупредили о росте утечек корпоративных данных в публичные LLM из-за «теневого ИИ»

Эксперты ГК Softline фиксируют рост инцидентов, связанных с попаданием корпоративных данных в публичные языковые модели (LLM). Для ИТ- и ИБ-директоров эта проблема становится критической, так как «теневой ИИ» позволяет обходить традиционные периметры защиты. Кирилл Лёвкин, проджект-менеджер ГК Softline (MD Audit), советует компаниям выстраивать комплексный контур для безопасного использования ИИ в периметре организации. Такой подход должен объединять технологический контроль и обучение персонала.

Почему тема утечек в ИИ-модели стала актуальной

Рост числа инцидентов в 2026 году связан не столько с целевыми хакерскими атаками, сколько с массовым и бесконтрольным использованием ИИ самими сотрудниками. Они копируют фрагменты кода, финансовые отчеты или персональные данные в публичные чат-боты для ускорения рутинных задач, тестирования гипотез или анализа документов.

По наблюдениям специалистов ГК Softline, масштаб проблемы стал очевиден именно сейчас, когда компании начали системно аудитировать практики своих команд. Бизнес стремится получить быстрый эффект от внедрения ИИ, а службы безопасности вынуждены решать проблемы постфактум, сталкиваясь с уже произошедшими инцидентами.

Какие риски для бизнеса видят эксперты ГК Softline

Многие компании до сих пор не знают, как и какие именно данные сотрудники отправляют во внешние ИИ-сервисы. Это «теневой ИИ»: инструменты используются вне корпоративных политик и ИТ-контроля. Опасность таких утечек заключается в том, что они не очевидны и не сопровождаются классическими признаками взлома, поэтому могут месяцами оставаться незамеченными.

Бизнес недооценивает данные как ключевой актив, подчеркивает Кирилл Лёвкин. Компании могут инвестировать в защиту самой ИИ-модели, но не контролируют, какие данные в нее попадают и как используются сгенерированные ответы. Игнорирование человеческого фактора усугубляет ситуацию. Без четких правил и обучения сотрудники продолжают создавать потенциальные угрозы, используя просто «удобный инструмент».

Как обеспечить свою «ИИ-безопасность»: рекомендации ГК Softline для бизнеса и госсектора

Чтобы снизить риски, необходимо выстроить защиту по принципу «корпоративные политики + обучение + технологии». В частности, нужно:

• Внедрить DLP-системы с поддержкой LLM. Необходимо контролировать каналы передачи данных и блокировать отправку чувствительной информации в неразрешенные веб-сервисы.
• Использовать ИИ-файрволы (фильтрация запросов и ответов). Специализированные шлюзы для фильтрации промптов и ответов помогают предотвратить как утечку данных, так и получение от модели токсичного или вредоносного контента.
• Развивать практики MLSecOps. Защита должна охватывать весь жизненный цикл разработки: от качества и чистоты обучающих данных до безопасности пайплайнов и самих моделей.
• Использовать методы этичного хакинга и проводить пентест ИИ-систем. Особенно это актуально для крупных компаний, чтобы выявлять уязвимости в логике работы моделей до того, как их найдут злоумышленники.
• Актуализировать внутренние политики и обучать персонал. Сотрудники должны четко понимать, какие данные можно обрабатывать с помощью ИИ, а какие категорически запрещено выносить за периметр.

Внедрение мер защиты при работе с ИИ находится в России на ранней стадии, резюмирует эксперт ГК Softline. Если крупные игроки уже активно применяют ИИ-файрволы и базовый мониторинг, то средний бизнес только начинает этот путь. Внедрение практик MLSecOps и защиты полного цикла пока встречается реже, так как требует высокого уровня зрелости процессов.

«Оптимальная модель защиты ИИ — это обязательная комбинация организационных и технических мер. Нужен строгий контроль данных, технические ограничения в виде фильтров и DLP, постоянный мониторинг и защита ML-пайплайнов. Главная ошибка бизнеса в том, что он стремится получить быстрый эффект от ИИ, а вопросы обеспечения безопасности решаются уже позже», — отмечает Кирилл Лёвкин, проджект-менеджер ГК Softline (MD Audit).

Искусственный интеллект перестал быть экспериментальной технологией и прочно вошел в бизнес-процессы. Однако безопасность не должна быть опцией, которую подключают по остаточному принципу.