Аналитик Головин: риск утечек через ИИ можно контролировать сочетанием DLP и внутренних регламентов
изображение: grok
Андрей Головин, ведущий аналитик «СёрчИнформ», прокомментировал для CISOCLUB результаты исследования УЦСБ и ГК «Солар», согласно которым каждая вторая российская компания уже столкнулась с утечками корпоративных данных или подозревает их через сервисы искусственного интеллекта. По мнению эксперта, подобная статистика стала закономерным следствием стремительного распространения нейросетей в бизнесе, однако такие риски вполне поддаются контролю.
Он отметил, что современные DLP-системы уже способны отслеживать взаимодействие сотрудников с большими языковыми моделями и анализировать содержимое передаваемых запросов.
«Статистика, что каждая вторая российская компания подозревает утечки данных через инструменты искусственного интеллекта, – логичное следствие роста популярности нейросетей, которые используют как в «быту», так и в бизнесе для оптимизации и ускорения процессов. Однако этот риск можно контролировать. Выявлять коммуникации пользователя с большими языковыми моделями (LLM) умеют современные системы защиты от утечек информации (DLP)», — заявил Андрей Головин.
По словам эксперта, благодаря анализу сетевого трафика такие решения позволяют выявлять передачу конфиденциальной информации и при необходимости блокировать подобные действия в режиме реального времени.
«Благодаря анализу трафика они понимают, что именно передается искусственному интеллекту. Система фиксирует эти процессы в реальном времени и при необходимости блокирует исходящие запросы к ИИ, содержащие конфиденциальную информацию, даже замаскированную под безобидную беседу», — отметил он.
Андрей Головин подчеркнул, что одних технических средств недостаточно. Без внутренних правил использования искусственного интеллекта и понятных регламентов компании не смогут обеспечить эффективную защиту данных.
«Но полагаться исключительно на технологии было бы ошибкой. Без разработки организационных политик и регламентов взаимодействия с ИИ технические средства защиты не дадут того эффекта, который ожидает бизнес», — рассказал эксперт.
Он также считает обязательным регулярное обучение сотрудников принципам безопасной работы с нейросетями и предоставление им защищённых альтернатив публичным сервисам.
«Кроме того, необходимо проводить обучение сотрудников цифровой гигиене при работе с ИИ-моделями. Нужно объяснять людям, какие данные нельзя передавать в публичные нейросети, и предлагать удобную безопасную альтернативу. Если этого не делать, они все равно найдут способ обойти запреты», — заявил Андрей Головин.
В завершение эксперт отметил, что надёжная защита корпоративной информации возможна только при сочетании организационных мер, обучения персонала, DLP-систем и использования собственных языковых моделей внутри корпоративного периметра.
«Поэтому стратегия защиты строится на следующих элементах: внедрение четких политик работы с ИИ, обучение пользователей безопасной работе, своевременный контроль системами защиты от утечек информации (DLP) и использование собственных языковых моделей внутри периметра для критичных данных. Только так разрыв между подозрениями и реальной защитой можно закрыть», — заключил Андрей Головин.
