Эксперт объяснил, чем оборачивается для компаний использование нейросетей сотрудниками
изображение: recraft
Отправка внутренних документов и служебных сведений в популярные ИИ-сервисы создаёт для компаний серьёзные риски утечки. Даже привычная просьба сократить текст, подготовить отчёт или отредактировать документ иногда приводит к потере контроля над корпоративной информацией.
Ведущий специалист группы по анализу защищённости мобильных и веб-приложений компании «Бастион» Сергей Зыбнев рассказал «Ленте.ру», что самая серьёзная проблема возникает в тот момент, когда данные покидают защищённую инфраструктуру организации. Если работник загружает документы или другую внутреннюю информацию в сторонний ИИ-сервис, компания уже не может полностью контролировать, где эти сведения будут храниться, каким образом обрабатываются и кто потенциально способен получить к ним доступ.
Многие сотрудники, по словам Сергея Зыбнева, воспринимают нейросети как привычного цифрового помощника и не задумываются о том, что фактически передают рабочие материалы внешнему поставщику услуг. В облачные сервисы могут попасть финансовая документация, сведения о внутренних проектах, коммерческие секреты, персональные данные клиентов и работников, а также иная конфиденциальная информация, изначально не предназначенная для передачи за пределы компании.
Подобные сведения способны представлять большой интерес для злоумышленников. Полученная информация нередко используется для подготовки фишинговых кампаний, создания убедительных поддельных писем от имени организации, изучения внутреннего устройства корпоративной инфраструктуры и поиска потенциально слабых мест, которые впоследствии могут стать отправной точкой для новых атак.
Среди сведений, чаще всего попадающих во внешние ИИ-сервисы вместе с рабочими запросами, Сергей Зыбнев выделил:
- финансовую документацию и отчётность;
- сведения о внутренних проектах и коммерческие секреты;
- персональные данные клиентов и сотрудников;
- фрагменты договоров, писем и служебной переписки.
Эксперт также обратил внимание, что многие ошибочно считают безопасной отправку документов после их сокращения, частичного редактирования или перефразирования. По его оценке, подобные действия далеко не всегда скрывают конфиденциальные сведения. Даже фрагменты текста или отдельные элементы документа способны содержать информацию, позволяющую восстановить содержание исходных материалов либо получить представление о внутренних процессах компании.
Организациям, по мнению Сергея Зыбнева, необходимо заранее определить правила использования сервисов искусственного интеллекта в рабочих процессах. Сотрудники должны понимать, какие материалы разрешено передавать внешним платформам, а какие сведения обязаны оставаться исключительно внутри корпоративной инфраструктуры. Без подобных ограничений даже повседневное использование нейросетей превращается в источник серьёзных рисков для информационной безопасности бизнеса.
Развитие искусственного интеллекта открывает компаниям новые возможности для автоматизации работы, подготовки документов и обработки информации. Специалисты напоминают, что удобство подобных сервисов не отменяет необходимости соблюдать требования по защите корпоративных данных. Чем активнее нейросети входят в повседневную работу, тем внимательнее организациям приходится относиться к тому, какие сведения сотрудники доверяют внешним цифровым платформам.
