Названы пять правил, позволяющих не допустить, чтобы агенты ИИ не устроили хаос в бизнесе

Итамар Апельблат, соучредитель и генеральный директор Token Security, рассказал, какие 5 главных шагов руководители служб информационной безопасности должны предпринять сегодня для обеспечения безопасности агентов искусственного интеллекта.

По словам эксперта, агенты ИИ перестают быть экспериментами и становятся полноценными участниками цифровой экосистемы. Это автономные сущности, которые планируют, принимают решения и действуют почти без участия человека. Они пишут код, перемещают данные, выполняют транзакции, управляют инфраструктурой и взаимодействуют с клиентами с машинной скоростью, круглосуточно и одновременно в нескольких системах.

Для бизнеса это возможности, но успех возможен только при продуманной защите. Традиционные методы безопасности ИИ, ориентированные на фильтрацию запросов и контроль вывода, работают как попытка поставить ограждения после того, как агент уже получил доступ. Любая ошибка в этой фазе может привести к утечкам данных, деструктивным действиям или сбоям во взаимосвязанных системах.

Идентификация становится фундаментом безопасности. Она позволяет масштабно управлять доступом и контролировать поведение агентов. Вот пять шагов для руководителей ИБ:

• Превратить агента ИИ в объект первого класса. Каждый агент использует несколько идентификаторов — токены API, OAuth, учетные записи служб, роли в облаке, ключи доступа. Необходимо, чтобы у каждого агента были «владелец», аутентификация, права доступа и отслеживаемая активность.
• Сдвинуть фокус с ограничений на контроль доступа. Ограничения работают частично, агенты адаптивны. Контроль доступа по идентификации позволяет управлять системами, данными и действиями более точно, чем фильтры подсказок или сетевые средства.
• Убрать теневой ИИ через прозрачность идентификации. Разработчики и пользователи запускают агентов без уведомления служб безопасности. Приоритет — раскрытие идентичностей, учёт токенов и создание карты доступа.
• Сосредоточиться на намерениях, а не только правах. Два одинаковых агента с одинаковыми правами могут действовать по-разному. Без понимания задач нельзя определить допустимое поведение.
• Внедрить управление жизненным циклом агента. Права накапливаются, владельцы теряются, агенты изменяются или забрасываются. Важно отслеживать владельцев, права, соответствие задачам, ротировать секреты и выводить устаревших агентов.

Безопасность и масштабируемость идут рука об руку. Чем лучше идентификация и контроль, тем быстрее можно внедрять агентов ИИ без опасных сюрпризов.