Эксперт Царёв: большинство компаний могут никогда не узнать об утечках данных через нейросети
Изображение: grok
Евгений Царёв, управляющий RTM Group, эксперт в области кибербезопасности, прокомментировал для CISOCLUB результаты исследования УЦСБ и ГК «Солар», согласно которым каждая вторая российская компания уже столкнулась или подозревает утечки корпоративных данных через сервисы искусственного интеллекта. По мнению эксперта, реальные масштабы проблемы могут быть значительно выше, поскольку многие организации просто не способны обнаружить подобные инциденты.
Он отметил, что, если использование нейросетей внутри компании не запрещено и не контролируется, вероятность уже произошедших утечек крайне высока.
«Если нейронки не запрещены, компания не ищет и не блокирует агенты в своей инфраструктуре, то утечки разной степени критичности скорее всего уже произошли. Узнать о факте такого инцидента большинство компаний никогда не сможет. Но это не отменяет факта утечки», — заявил Евгений Царёв.
По словам эксперта, сотрудники быстро привыкают к работе с искусственным интеллектом и всё активнее используют его в повседневной деятельности, что неизбежно увеличивает количество подобных инцидентов.
«Люди быстро адаптируются к работе с нейронками, получают реальную пользу от них, поэтому они будут создавать все больше утечек», — отметил он.
Евгений Царёв также обратил внимание на отсутствие полноценного нормативного регулирования вопросов безопасного использования искусственного интеллекта.
«Сегодня нет прямого регулирования нейросетей. Законопроект, который изначально был направлен на безопасность ИИ, был полностью переписан, принят Госдумой в третьем чтении и не раскрывает вопросы безопасности. Т.е даже формального регулирования безопасности использования ИИ не предвидится», — рассказал эксперт.
По его мнению, в существующих условиях организациям крайне сложно обеспечить безопасное применение популярных языковых моделей внутри корпоративной инфраструктуры.
«Для компаний обеспечить безопасное использование популярных моделей внутри малореально. Выбор стоит между полным допуском и полным запретом. Дело в том, что добиться безопасного использования ИИ нереально юридически и процедурно», — заключил Евгений Царёв.
