IBM: 70% компаний отдают приоритет инновациям, а не безопасности в проектах генеративного искусственного интеллекта

Согласно новому отчёту компании IBM, компании всё чаще становятся уязвимыми для ряда рисков кибербезопасности и конфиденциальности, поскольку 70% руководителей предприятий отдают приоритет инновациям, а не безопасности, когда речь идёт о проектах генеративного искусственного интеллекта. Опрос также показал, что только 24% рассматриваемых проектов генеративного ИИ реализуются.

При этом, согласно исследованию, 82% респондентов признают, что безопасный и заслуживающий доверия ИИ имеет важное значение для успеха их бизнеса.

Акиба Саиди, вице-президент по безопасности данных IBM, заявила, что крайне важно избегать ошибок, допущенных в прошлом при развёртывании облачных технологий, которые часто реализовывались без встроенных адекватных средств контроля безопасности. Она отметила, что неправильные настройки облака в настоящее время являются одним из наиболее распространённых способов проникновения злоумышленников в облачную среду. Неправильные настройки ИИ также могут стать основной причиной взломов в будущем, если организации не установят надлежащие меры безопасности на раннем этапе.

Опрошенные в отчёте руководители подчеркнули ряд проблем, связанных с внедрением инструментов генеративного искусственного интеллекта в их организациях. Более половины (51%) указали на непредсказуемые риски и новые уязвимости безопасности, возникающие в результате генеративного ИИ, а 47% отметили новые атаки, нацеленные на существующие модели, данные и сервисы ИИ.

Большинство (81%) респондентов признали, что генеративный ИИ требует принципиально новой модели управления безопасностью для смягчения типов рисков, связанных с этими технологиями. IBM отметила, что правительства по всему миру вводят ряд правил в области искусственного интеллекта. К ним относятся «Закон ЕС об искусственном интеллекте» и указ президента Джо Байдена «Содействие использованию заслуживающего доверия искусственного интеллекта в федеральном правительстве» США. По словам исследователей, это также требует комплексной стратегии управления, особенно для генеративного ИИ.

Полная версия отчёта доступна здесь.