Corelight: мнения экспертов по поводу использования генеративного ИИ для кибербезопасности разделились

В соответствии с новым исследованием Corelight, среди европейских ИТ-экспертов по-прежнему отсутствует консенсус относительно ценности генеративного искусственного интеллекта (GenAI) в контексте кибербезопасности. Аналитики опросили 300 лиц, принимающих решения в сфере ИТ (ITDM), в Великобритании, Франции и Германии для подготовки отчёта «Генеративный ИИ в сфере безопасности: расширение прав и возможностей или разделение?».

Выяснилось, что эта технология является источником оптимизма и беспокойства почти в равной степени. Около 46% респондентов заявили, что они активно рассматривают возможность включения этой технологии в свои подходы к кибербезопасности. Однако 44% отметили, что опасения по поводу раскрытия данных и разрозненности корпоративных данных затрудняют или делают невозможным использование GenAI в сфере кибербезопасности. Ещё 37% заявили, что GenAI «небезопасно использовать в целях кибербезопасности».

Проблемы безопасности были продемонстрированы в различных случаях. Например, Samsung запретил использование ChatGPT в 2023 году после того, как сотрудники поделились личными заметками совещаний и исходным кодом с этим инструментом. Любые конфиденциальные данные клиентов или IP, переданные с помощью таких инструментов, теоретически могут быть доступны другим пользователям, что представляет явные риски безопасности, конфиденциальности и соответствия.

Однако эти проблемы не являются непреодолимыми, если инструмент GenAI и лежащая в его основе модель большого языка (LLM) правильно спроектированы с учётом конфиденциальности, утверждает Corelight. По словам аналитиков компании Corelight, их собственное коммерческое предложение NDR устанавливает «функциональный брандмауэр» между данными клиентов и функцией GenAI.

50% заявили, что наибольшее влияние GenAI на кибербезопасность может заключаться в предоставлении контекста оповещений и анализа для команд SecOps.

Полная версия отчёта доступна по ссылке.