Сотрудники загружают рабочие данные в публичные нейросети: чем это грозит
В 2025–2026 годах главным киберриском для бизнеса стал теневой ИИ. Сотрудники массово используют публичные нейросети в обход IT-служб ради ускорения рутины: для написания кода, анализа отчетов, подготовки коммерческих предложений и других задач.
Это создает «слепую зону» для служб безопасности, приводя к утечкам интеллектуальной собственности, прямым кибератакам через скомпрометированные модели и штрафам за утечку персональных данных.
Как происходит утечка данных через генеративный ИИ: иллюзия приватности
Большинство сотрудников ошибочно полагают, что удаление истории диалога в интерфейсе чат-бота полностью стирает информацию с серверов разработчика. На практике переданные в промптах корпоративные данные могут быть использованы для дообучения языковых моделей, если администратор не отключил эту опцию в настройках корпоративного аккаунта, что на практике делают редко.
Сценарий един: сотрудник копирует фрагмент кода, лог, договор или таблицу в веб-форму чат-бота. Это создает риск прямой компрометации: обученная на ваших секретах нейросеть может выдать конфиденциальную информацию в ответ на запросы конкурентов или злоумышленников, использующих специализированные методы извлечения данных. Кроме этого, данные, отправленные в нейросеть, по ошибке разработчиков могут стать напрямую доступными. Руководитель часто не замечает проблемы: серверы работают штатно, DLP не фиксирует взлом, а сотрудники не нарушают привычные бизнес-процессы. Однако информация постепенно покидает корпоративный контур через инструмент, который воспринимается как обычный помощник.
Как происходят утечки данных через нейросети: примеры из практики
Один из наиболее показательных случаев произошел в полупроводниковом подразделении компании Samsung в 2023 году. Инженеры использовали публичную нейросеть для анализа исходного кода и поиска ошибок. В разные эпизоды в сервис были загружены фрагменты внутреннего программного кода, содержимое базы данных и секретный алгоритм выявления бракованных чипов.
Важно обратить внимание не только на сам факт утечки, но и на ее первопричину. Это не была атака злоумышленников, компрометация учетных записей или вредоносное программное обеспечение. Причиной стали действия квалифицированных специалистов, пытавшихся быстрее решить рабочую задачу.
После инцидента компания ввела ограничения на использование внешних генеративных ИИ-сервисов и начала развивать собственные инструменты.
Однако передача данных в публичную нейросеть — не единственный сценарий, при котором конфиденциальная информация может оказаться доступной посторонним.
В июле 2026 года поисковые системы проиндексировали публичные ссылки на диалоги пользователей DeepSeek. Ссылки с функцией “Поделиться”, предназначенные для ограниченного круга лиц, попали в выдачу Google. Содержимое переписок стало доступно через обычный поисковый запрос. Этот сценарий показывает, что необходимо контролировать не только сам факт использования внешних ИИ-сервисов, но и способы публикации и обмена результатами работы с ними.
Другой инцидент продемонстрировал риск уже на стороне инфраструктуры поставщика. В январе 2025 исследователи из Wiz обнаружили общедоступную базу данных ClickHouse, принадлежащую DeepSeek. Она не требовала аутентификации и содержала более миллиона строк логов с историей чатов, секретные ключи и другие высокочувствительные данные. После уведомления доступ к базе был закрыт.
Эти случаи показывают три разных сценария риска. В первом сотрудник сам передает корпоративные данные внешнему ИИ-сервису. Во втором информация становится доступной из-за особенностей механизма публикации и индексации. В третьем чувствительные данные оказываются под угрозой из-за уязвимости инфраструктуры поставщика.
Именно поэтому теневой ИИ представляет особую сложность для ИБ-служб. Риск возникает не только когда сотрудник сознательно нарушает внутреннюю политику. Он может быть связан с самим способом использования сервиса, его настройками или уровнем защиты инфраструктуры поставщика.
Последствия использования теневого ИИ
Когда мы обсуждаем риски использования публичных нейросетей, разговор часто сводится к административным штрафам. На практике спектр последствий значительно шире и затрагивает все уровни бизнеса.
Потеря интеллектуальной собственности
Для технологических компаний главный актив — это знания: исходный код, архитектура ИТ-систем, внутренние алгоритмы, методики расчетов и накопленная экспертиза. Если бы сотрудник отправил тот же документ не в публичную нейросеть, а прямому конкуренту, оценка инцидента была бы однозначной. Разница лишь в том, что в одном случае сотрудник осознает последствия, а в другом искренне считает, что использует современный рабочий инструмент.
Юридические риски по 152-ФЗ
Загрузка персональных данных клиентов (ИНН, реквизиты, телефоны) в зарубежные нейросети расценивается как нецелевая обработка и незаконная трансграничная передача. Это прямое нарушение Федерального закона № 152-ФЗ «О персональных данных». Даже при отсутствии формальных нарушений компания рискует получить претензии от контрагентов, если условия договоров запрещают передачу информации третьим лицам.
Финансовые санкции и уголовная ответственность
Согласно актуальному законодательству, за первичную утечку компаниям грозит фиксированный штраф от 3 до 15 миллионов рублей в зависимости от объема скомпрометированных записей. При повторных инцидентах применяются оборотные штрафы от 1% до 3% годовой выручки (до 500 млн рублей). Кроме того, введена статья 272.1 УК РФ, которая предусматривает для руководителей до 10 лет лишения свободы за неправомерный доступ к охраняемой информации.
К этому добавляются затраты на внутреннее расследование, перестройку архитектуры защиты, обновление регламентов и обучение персонала. Часто эти «скрытые» издержки оказываются выше официальных штрафов и отвлекают ИТ- и ИБ-команды от стратегических проектов.
Как выявить теневой ИИ
Обнаружить использование публичных нейросетей сложнее, чем классическую передачу файлов по почте. Разработчик копирует в браузер 20 строк кода, затем еще 30, после чего вставляет лог системы. Вручную переносит ответ обратно. Ни одно из этих действий по отдельности не нарушает традиционные политики безопасности.
На уровне внутренних систем главную роль играют DLP (Data Loss Prevention), которые сканируют сетевой трафик и буфер обмена на наличие критичных паттернов (номера карт, фрагменты NDA, строки кода) при попытке их отправки в ИИ-сервисы. Современные DLP уже умеют распознавать характерные запросы к популярным моделям.
Если данные все же покинули компанию, факт утечки часто устанавливается постфактум: через новости о появлении слитых баз на теневых форумах, по жалобам клиентов, нашедших свою информацию в открытых ответах ChatGPT, или через уведомления от партнеров. Однако такой подход недопустим для критической инфраструктуры — выявление должно быть проактивным.
Как построить безопасную работу с ИИ: архитектура и регламенты
Полностью исключить использование генеративного ИИ уже невозможно. Гораздо эффективнее сделать его управляемым. Мы в SoftMediaLab рекомендуем крупным заказчикам комплексный подход, сочетающий организационные меры и технологическую архитектуру.
Этап 1. Аудит и политики
Первый шаг — понять масштаб проблемы. Необходимо определить, какие подразделения используют ИИ, для каких задач и какие категории данных передаются. После этого разрабатываются понятные правила. Вместо общего запрета определяются конкретные категории:
| Допустимо | Недопустимо |
| Общие вопросы по программированию | Исходный код корпоративных продуктов |
| Обезличенные примеры документов | Договоры с клиентами и поставщиками |
| Публичная документация | Проектная документация под NDA |
| Общие вопросы по аналитике | Персональные данные сотрудников и клиентов |
Этап 2. Выбор архитектуры
Мы предлагаем три основных подхода, которые можно комбинировать:
- Использование исключительно локальных LLM, развернутых внутри периметра компании. Это самый надежный вариант: данные физически не покидают контур. Это оправдано для организаций с высоким уровнем секретности (финансы, госсектор, медицина), но требует значительных вычислительных ресурсов, а для решения специализированных запросов — дообучение модели.
- Корпоративные AI-порталы с прокси слоем для проверки и анонимизации передаваемых данных. Все запросы сотрудников идут через единый шлюз, который маскирует чувствительные данные перед отправкой в публичную LLM. По сравнению с локальными, облачные LLM гораздо “умнее”, поэтому для решения сложных задач этот вариант подходит для сложных задач, с которыми не справляются локальные модели, но есть вероятность, что шлюз пропустит чувствительные данные в LLM.
- Установка систем контроля трафика для мониторинга используемых облачных сервисов. Этот вариант полезен в случае, когда в компании выработана четкая политика по используемым инструментам и необходимо обеспечить контроль за ее выполнением.
Чек-лист для CTO и CISO
- Знает ли компания, какие именно публичные нейросети и с какой периодичностью используют сотрудники?
- Утверждена ли внутренняя политика использования ИИ?
- Определены ли четкие категории данных, которые категорически запрещено передавать во внешние сервисы?
- Предложена ли сотрудникам безопасная корпоративная альтернатива?
- Настроен ли мониторинг передачи корпоративной информации в ИИ-сервисы?
- Закреплена ли зона ответственности за развитие и безопасность ИИ за конкретным сотрудником?
Итог — управляемый процесс вместо запретов
Вопрос уже не в том, будут ли сотрудники использовать нейросети. Для большинства компаний этот этап пройден. Главный вопрос: останется этот процесс неконтролируемым или станет частью корпоративной архитектуры?
Компании, которые уже сегодня формируют понятные правила, внедряют корпоративные ИИ-сервисы и обучают персонал, получают двойное преимущество. Они сохраняют рост производительности, который дает ИИ, и одновременно снижают риск утечки информации, которая для многих организаций остается главным активом. Инновации должны работать на рост бизнеса, а не на его банкротство.
Автор: Максим Горшков, CTO SoftMediaLab
