Эксперт Невструев: безопасность ИИ пока остаётся на периферии внимания бизнеса
изображение: grok
Дмитрий Невструев, руководитель Центра искусственного интеллекта АО «РТ-ИБ», прокомментировал для CISOCLUB ситуацию с расходами компаний на внедрение и защиту ИИ. По его словам, бизнес активно наращивает использование искусственного интеллекта, но вопросы информационной безопасности пока не всегда получают сопоставимое внимание.
При внедрении ИИ компании сталкиваются с принципиально новой архитектурой рисков. ИИ-агенты могут получать доступ сразу к нескольким корпоративным системам и инструментам, поэтому потенциальная поверхность атаки оказывается шире, чем в случае с обычными пользовательскими учётными записями.
«Действительно, наблюдается такая тревожная тенденция. Общаясь с представителями бизнеса, мы видим, что при внедрении ИИ вопросы ИБ пока остаются на периферии внимания для большинства компаний», — отметил Дмитрий Невструев.
По словам эксперта, распространение ИИ-агентов сопровождается появлением новых векторов атак, которые требуют адаптации существующих подходов к защите. Среди них — промпт-инъекции, подмена контекста, небезопасные вызовы инструментов и предоставление агентам избыточных прав.
«Сейчас всё больший темп набирает тотальная «ИИвизация». Но проблема в том, что ИИ-агенты часто получают больше доступов, чем обычный сотрудник, а значит, и поверхность атаки у них шире. Это и промпт-инъекции, и подмена контекста, и небезопасные вызовы инструментов, и избыточные права, и многое другое», — сказал Дмитрий Невструев.
При этом службы ИБ пока не успевают в полной мере адаптироваться к новым угрозам. Эксперт отмечает, что злоумышленники также ещё только осваивают эту поверхность атаки, но по мере развития технологий ситуация может измениться.
«Службы ИБ пока не успевают адаптироваться к этим новым векторам угроз. К счастью, атакующие тоже пока не научились эффективно использовать эту новую поверхность. Но пройдёт год-два — и всё изменится. Мы будем постоянно слышать об атаках, ориентированных именно на ИИ-сервисы», — отметил руководитель Центра искусственного интеллекта АО «РТ-ИБ».
По мнению Дмитрия Невструева, серьёзным фактором для изменения подходов бизнеса станет крупный инцидент, связанный непосредственно с ИИ-сервисами. После него, как считает эксперт, компании и регуляторы будут вынуждены уделять защите таких систем значительно больше внимания.
«Мы уверены: перелом произойдёт после первой по-настоящему масштабной атаки, связанной с ИИ-сервисами. После этого неизбежно ужесточатся регуляторные требования и у компаний просто не останется выбора. Хотите использовать ИИ — закладывайте бюджет на ИБ как обязательную часть внедрения, а не опцию», — резюмировал Дмитрий Невструев.
