Cloud Security Alliance: автономные агенты ИИ действуют как пользователи, но остаются вне привычных правил безопасности
Изображение: recraft
Компания Cloud Security Alliance опубликовала отчёт, посвящённый проблемам защиты автономных агентов искусственного интеллекта и управлению их доступом в корпоративных средах. Документ описывает ситуацию, при которой ИИ-системы всё чаще имитируют поведение пользователей, получают доступ к данным и процессам, но при этом не подпадают под те же требования и ограничения, которые давно применяются к людям.
В исследовании «Обеспечение безопасности автономных агентов ИИ» отмечается, что существующие подходы к защите агентных систем по-прежнему строятся на статических учётных данных, разрозненных механизмах контроля и слабой прозрачности.
Такой набор инструментов плохо подходит для среды, где автономные агенты выполняют действия от имени человека и напрямую влияют на бизнес-решения. Авторы подчёркивают, что защита этих сущностей требует сопоставимого уровня строгости, отслеживаемости и подотчётности, который традиционно применялся к пользователям.
Автономные агенты ИИ получают доступ к корпоративной информации, запускают процессы и принимают решения, имеющие операционное и финансовое значение. Компании внедряют их в рабочие контуры, пилотные проекты, тестовые среды, а также в рамках крупных программ по автоматизации и развитию ИИ. В результате такие агенты распределяются по множеству сред и платформ, а их число растёт быстрее, чем системы управления идентификацией и доступом успевают адаптироваться к новым условиям.
В отчёте указывается, что расширение агентной среды часто происходит без сопоставимого развития механизмов контроля. Управление доступом и идентификацией не масштабируется вместе с ростом числа агентов, что формирует разрыв между фактическим использованием ИИ и уровнем управляемости этих процессов.
Вице-президент по исследованиям Cloud Security Alliance Хиллари Барон заявила, что агентная рабочая сила развивается быстрее, чем эволюционируют системы идентификации и безопасности. По её словам, успех в эпоху агентных систем будет зависеть от того, насколько внимательно организации подойдут к идентификации агентов, применяя к ним принципы, которые ранее относились исключительно к пользователям, и создавая условия для безопасной автономии в масштабе всего предприятия.
Уровень доверия к текущим инструментам управления идентификацией и доступом остаётся низким. Результаты опросов показывают, что архитектуры IAM, изначально спроектированные под человеческое взаимодействие, не готовы эффективно работать с автономными агентами. Это выражается в ограниченных возможностях контроля, сложностях с аудитом и отсутствии единых стандартов для таких сущностей.
