Риск утечки данных — главный барьер для внедрения генеративного ИИ в бизнесе
Изображение: recraft
Около 40% IT и ИБ-специалистов российских компаний отметили, что используют гибридный подход, когда ИИ выступает в роли аналитика и ассистента, а человек утверждает или корректирует его предложения. Но даже в таком формате главным барьером для повсеместного внедрения ИИ 42,5% респондентов из числа тех, кто пока не применяет данные технологии в рабочей среде, назвали утечку данных ключевым риском. Таковы данные совместного исследования системного интегратора УЦСБ и ГК «Солар», в котором приняли участие 102 компании из сферы телекоммуникаций, промышленности, финансов, госсектора, энергетики, транспорта, логистики, торговли, медицины и строительства.
Российские компании активно интегрируют искусственный интеллект в повседневные бизнес-процессы, но делают это крайне осторожно. 59,6% российских компаний уже используют различные формы искусственного интеллекта в своей деятельности, почти треть организаций (33,3%) уже перешли к работе с современными генеративными моделями (LLM) и их комбинациями. При этом 32,3% не применяют ИИ, но активно изучают возможности или планируют внедрение в ближайшее время. Полностью автоматизированные решения на базе ИИ применяют лишь 3% респондентов.
Среди компаний, которые пока не используют ИИ, основной причиной отказа названа высокие риски безопасности и конфиденциальности данных (утечка кода, коммерческой информации) — 42,5% ответов. На втором месте — нехватка компетенций внутри компании (35% ответов). При этом треть респондентов (32,5%) указали на отсутствие понятных и экономически обоснованных сценариев применения ИИ в их бизнесе. Высокая стоимость внедрения (20%) и регуляторная неопределенность (25%) играют менее критичную роль.
«Компании видят высокий потенциал в ИИ, но хотят четко понимать, как не потерять данные и не утратить контроль, — особенно когда генеративные модели начинают использовать в разработке и других бизнес-процессах. Сегодня бизнес остро нуждается в обучении сотрудников и внутренних политиках AI Security. Рынок созрел для управляемого использования генеративных моделей, и ждет от вендоров и интеграторов методик внедрения с гарантиями безопасности», — отметил Евгений Тодышев, руководитель направления безопасной разработки в УЦСБ.
«Опасения бизнеса в отношении генеративного ИИ оправданы. Так, только в 2025 году в 30 раз вырос объем трафика в публичные большие языковые модели, при этом только 25% компаний разработали политики ИБ для регулирования работы сотрудников с ИИ. Искусственный интеллект — это один из ключевых драйверов технологического сектора, ускоряющий технологическое развитие компаний, но и одновременно приносящий много новых угроз кибербезопасности, поэтому мы развиваем решения, закрывающие полный цикл ИИ-рисков. В первую очередь это защита от последствий использования ИИ: предотвращение утечек данных, анализ исходящего и входящего ИИ-трафика, анализ кода, написанного ИИ, обеспечение РБПО, ограничение привилегий и контроль действий ИИ. Второе направление защита самого ИИ от нарушителя: отравления данных и промпт-инъекций. Третье направление — это защита от атакующего ИИ через меры и решения по предотвращению атак и автоматизацию сценариев реагирования», — дополняет Иван Вассунов, директор Центра технологий кибербезопасности ГК «Солар».
