Эксперт Ледяева: утечки через ИИ происходят незаметно во время обычной работы сотрудников
изображение: grok
Алина Ледяева, эксперт компании StopPhish, прокомментировала для CISOCLUB результаты исследования УЦСБ и ГК «Солар», согласно которым каждая вторая российская компания уже столкнулась или подозревает утечки корпоративных данных через сервисы искусственного интеллекта. По мнению эксперта, главная особенность подобных инцидентов заключается в том, что они происходят во время выполнения привычных рабочих задач.
Она отметила, что сотрудники нередко используют нейросети для подготовки документов, отчётов и анализа информации, не задумываясь о том, что одновременно передают внешним сервисам конфиденциальные данные компании.
«Главная опасность утечек через ИИ-сервисы в том, что они происходят в ходе выполнения обычных рабочих задач. Стремясь сэкономить время на рутине – составлении письма, формировании отчета или анализе договора, сотрудники добровольно передают сторонним сервисам внутренние документы и чувствительные данные», — заявила Алина Ледяева.
По словам эксперта, такие утечки значительно сложнее выявить, чем последствия классических кибератак, поскольку обмен данными происходит через легитимные сервисы, которыми сотрудники пользуются самостоятельно.
«При хакерской атаке ИБ-специалисты могут отследить подозрительную активность в системе или вредоносные вложения в письмах, а при работе с ИИ утечка данных происходит незаметно через внешний сервис, которым пользуется сотрудник», — отметила она.
Алина Ледяева считает, что попытки полностью запретить использование нейросетей не принесут желаемого результата, поскольку сотрудники продолжат искать способы применять ИИ для повышения эффективности своей работы.
«Одним запретом нейросетей проблему не решить: сотрудники все равно будут искать способы быстрее выполнять рабочие задачи с помощью ИИ, поэтому компаниям нужен комплексный подход на техническом и организационном уровне», — рассказала эксперт.
По её мнению, организациям необходимо одновременно внедрять технические механизмы защиты и повышать уровень осведомлённости персонала о безопасной работе с искусственным интеллектом.
«Важно внедрить технические фильтры, блокирующие отправку чувствительных данных в ИИ, а также обязательно нужно обучать сотрудников: какие нейросети можно использовать, какие данные нельзя загружать и в каких случаях необходимо получить разрешение перед загрузкой данных», — подчеркнула Алина Ледяева.
В завершение эксперт отметила, что только сочетание технических средств защиты и обучения пользователей позволит снизить вероятность подобных инцидентов.
«Такой подход поможет снижать риск утечек и формировать безопасную привычку работы с ИИ», — заключила Алина Ледяева.
