Сотрудники компаний передают нейросетям корпоративные документы ради экономии пары минут

Массовое проникновение искусственного интеллекта в офисную работу привело к появлению нового типа утечек данных, где виновником оказывается сам сотрудник, а не внешний злоумышленник. Стремясь быстрее подготовить письмо, отчет или презентацию, работники передают чат-ботам служебные файлы с внутренними данными и персональной информацией, воспринимая цифрового ассистента почти как обычный электронный блокнот.

По данным Check Point Research, за минувший год количество запросов к нейросетям с корпоративными или чувствительными персональными данными увеличилось вдвое. Подобные сведения обнаруживаются примерно в каждом 25-м обращении. От 87% до 93% организаций периодически фиксируют пользовательские запросы к ИИ, которые аналитики относят к высокорисковым, рассказал изданию РИАМО руководитель направления по анализу безопасности компании «Криптонит» Борис Степанов.

Одна из причин таких инцидентов кроется в человеческой психологии. Работник полагает, что переданный документ нужен исключительно для решения текущей задачи и никого более не заинтересует. Менеджеру срочно требуется довести презентацию до ума перед совещанием, и вместо длительной ручной правки он отправляет файл нейросети с просьбой привести материал в надлежащий вид.

Для сотрудника это лишь рабочий слайд-документ. Для внешнего сервиса внутри файла может находиться намного больше ценного. Там могут оказаться внутренние наименования продуктов, данные о разработчиках, еще не обнародованные бизнес-показатели и прочие сведения, которые организация не собиралась выпускать за периметр.

Обработанный набор данных потенциально может остаться в инфраструктуре платформы, попасть третьим лицам или использоваться при дальнейшем обучении модели — все зависит от условий конкретного сервиса. Борис Степанов назвал одним из главных факторов беспечности «цифровую лень». Работнику хочется получить готовый результат прямо сейчас, поэтому возиться с исходным файлом, удалять лишнее и отдельно готовить обезличенный вариант кажется ненужной тратой сил.

От подобных инцидентов частично защищают DLP-системы корпоративного контура. Они умеют выявлять передачу чувствительной информации и блокировать сомнительные операции. Но у такой защиты имеются четкие пределы.

Иллюзию безопасности порождает и другое заблуждение. Некоторые пользователи полагают, что файл становится безопасным после удаления из него названия организации и фамилий работников. На практике этого недостаточно — контекст восстанавливается по внутреннему шифру, редкой должности, специфическим терминам или характерной структуре материала:

• при использовании личного ноутбука или иного гаджета за пределами корпоративного контура средства контроля уже не смогут остановить передачу файла;
• сознательный обход защитных механизмов ради того, чтобы быстрее скормить документ чат-боту, может расцениваться как грубое нарушение трудовой дисциплины и обернуться увольнением;
• даже текст без фамилий и имени фирмы сохраняет коммерчески значимые сведения через уникальную архитектуру базы данных, внутреннюю логику продукта или ноу-хау.

Полностью отказываться от нейросетей на рабочем месте не требуется. Разумнее заранее уточнить, предлагает ли работодатель собственный защищенный вариант ИИ-помощника, функционирующий внутри контролируемой инфраструктуры. С файлами, имеющими грифы конфиденциальности, секретности или прочих ограничений, стоит обращаться с максимальной осторожностью.

Если без нейросети не обойтись, документ желательно предварительно обезличить, заменив названия компаний, должности и конкретные цифры нейтральными обозначениями вида «Компания Б». Полезно проверить настройки сервиса и отключить сохранение переписки и использование пользовательских материалов для обучения модели, если платформа дает такую опцию. Самая продвинутая нейросеть не освобождает работника от проверки результата — ИИ умеет ошибаться, придумывать несуществующие факты и уверенно выдавать неверные заключения.