UDV Group: ИИ-чат-боты стали теневым каналом утечек данных

ИИ-сервисы вошли в рабочие процессы быстрее, чем компании успели описать правила их использования. Сотрудники просят чат-ботов сократить текст, подготовить письмо, разобрать документ, помочь с коммерческим предложением, объяснить код или собрать отчет. Для пользователя это выглядит как удобный инструмент для рутинных задач. Для ИБ-службы — как внешний сервис, куда могут попасть данные компании.

По данным исследования, в 42% российских компаний сотрудники хотя бы раз передавали в ИИ-сервисы конфиденциальные или чувствительные данные. Это хорошо показывает разрыв между практикой и контролем: нейросети уже стали частью повседневной работы, но во многих организациях их использование до сих пор не описано, не ограничено и не отслеживается.

Полный запрет ИИ уже плохо работает. Большинство ИБ-специалистов оценивают риск утечки через нейросети как высокий или средний, но полностью запрещают такие сервисы только 8% компаний. Еще 36% организаций их не контролируют, а 28% специалистов говорят, что им не хватает инструментов для контроля передачи данных в ИИ.

Мы в UDV Group видим здесь не проблему самого инструмента, а проблему слепой зоны. Сотрудники все равно будут использовать ИИ, если он помогает быстрее выполнять задачи. Если компания не дает понятных правил и безопасных сценариев, работа уходит в личные аккаунты, публичные чат-боты, браузерные расширения и мобильные приложения.

Главный риск в том, что сотрудник часто не воспринимает такую передачу данных как утечку. Он не отправляет документ конкуренту и не публикует файл в открытом доступе. Он просто просит чат-бота переформулировать пункт договора, сократить письмо клиенту, найти ошибку в коде или выделить главное из длинного текста. Но для компании это все равно передача информации во внешний контур.

В ИИ-сервисы могут попадать не только персональные данные. Сотрудники загружают фрагменты договоров, клиентские базы, внутренние регламенты, коммерческие предложения, технические описания, исходный код, переписку с партнерами, финансовые сведения и данные о внутренних процессах. По отдельности такие фрагменты могут казаться безобидными. Вместе они дают представление о клиентах, условиях сделок, архитектуре систем, рабочих процессах и внутренней логике компании.

Особенно опасны именно фрагментарные утечки. Один сотрудник отправил в чат-бот кусок договора, другой — таблицу с клиентами, третий — описание системы, четвертый — переписку по проекту. Формально каждый решал рабочую задачу. На практике компания теряет контроль над данными, которые раньше оставались внутри ее периметра.

С точки зрения ИБ ИИ-чат-бот нужно рассматривать как внешний облачный сервис. Компания должна понимать, кто им пользуется, какие данные туда передает, с какого устройства, через какой аккаунт и для какой задачи. Без этого ИБ-служба видит не управляемый процесс, а новую теневую ИТ-зону.

Проблема в том, что стандартный контроль не всегда закрывает такие сценарии. DLP может не видеть часть браузерных запросов, личных аккаунтов и мобильных приложений. Прокси и шлюзы фиксируют обращение к сервису, но не всегда понимают смысл передаваемых данных. Если сотрудник использует не корпоративный, а личный инструмент, уровень контроля становится еще ниже.

Поэтому компаниям нужно не просто запрещать ИИ, а описывать допустимые сценарии. Можно разрешить работу с публичными материалами, обезличенными текстами и черновиками без чувствительных данных. Но загрузку персональных данных, клиентских баз, коммерческих условий, исходного кода, внутренних регламентов и непубличной переписки нужно прямо запретить.

В UDV Group мы считаем, что политика работы с ИИ должна стать частью общей системы защиты данных. Нейросети нужно учитывать так же, как другие внешние сервисы: с классификацией информации, правилами доступа, журналированием действий, контролем передачи данных и понятной ответственностью.

Одного обучения сотрудников недостаточно, но без него технический контроль тоже не сработает. Люди должны понимать, почему нельзя отправлять в публичный чат-бот договор с клиентом, таблицу с персональными данными или фрагмент внутреннего кода, даже если цель кажется безопасной. Нужны короткие инструкции, понятные примеры запрещенных сценариев и разрешенная альтернатива.

Для бизнеса это вопрос не только ИБ, но и управляемости. Если сотрудники массово используют ИИ, а компания не знает где, как и для каких данных, появляется новый теневой контур. Он может повышать личную продуктивность, но одновременно создает риски утечки, нарушения договорных обязательств, раскрытия коммерческой тайны и неконтролируемой обработки данных.

ИИ-чат-боты уже нельзя воспринимать как эксперимент отдельных энтузиастов. Они становятся рабочим инструментом, а значит, должны попасть в правила, мониторинг и процессы защиты информации. Иначе использование нейросетей будет расти быстрее, чем способность компании понимать, какие данные уже вышли за ее периметр.