SandboxAQ: компании массово внедряют ИИ, но игнорируют риски, не создавая специализированную защиту от новых угроз
Изображение: recraft
Компания SandboxAQ представила отчёт AI Security Benchmark Report, в котором проанализированы подходы организаций к защите информационных систем в условиях активного внедрения технологий искусственного интеллекта. В документе подчёркивается, что, несмотря на широкое использование ИИ — 79% опрошенных уже применяют такие решения в производственной среде — только 6% компаний реализовали специализированные меры безопасности, адаптированные под новые угрозы.
Как говорится в отчёте, большинство предприятий остаются уязвимыми перед атаками, к которым они не готовы ни в плане выявления, ни в плане оперативного реагирования. Исследование, основанное на данных от 102 топ-менеджеров по информационной безопасности из США и ЕС, демонстрирует высокий уровень тревожности в отрасли. В документе подчёркивается, что бизнес-структуры сталкиваются с рядом угроз, от подмены моделей и утечек информации до атак с использованием нечеловеческих идентификаторов.
В отчёте заявляется, что лишь 28% организаций провели комплексную оценку рисков, связанных с внедрением ИИ. Остальные компании продолжают опираться на классические системы защиты, которые изначально не предназначались для обеспечения безопасности автономных решений.
Как подчёркивается в документе, встроенные средства защиты, работающие как на уровне ИТ-систем, так и на уровне моделей ИИ, применяются только в 6% случаев. При этом 74% опрошенных специалистов выразили серьёзную обеспокоенность ростом числа кибератак, в которых используются алгоритмы искусственного интеллекта. Кроме того, 69% респондентов признали, что их инфраструктуры могут быть уязвимы перед новым типом угроз, которые могут быть найдены самим ИИ.
В отчёте указывается, что только 10% организаций сформировали отдельные команды, ответственные за безопасность ИИ. Остальные компании распределяют ответственность между классическими ИТ- и ИБ-подразделениями, что, как подчёркивается в документе, затрудняет формирование полноценной стратегии противодействия новым угрозам.
Документ также указывает на отсутствие методологической базы, которая помогала бы организациям оценивать риски, связанные с использованием ИИ. В отчёте подчёркивается, что без специализированных инструментов и команд компании действуют вслепую, игнорируя масштаб угроз, который продолжает расти.
