Безопасность ИИ-систем и агентов
Компании активно внедряют искусственный интеллект в процессы разработки, информационной безопасности и бизнеса: от ИИ-ассистентов в средах разработки до автономных агентов, интегрированных с корпоративными системами, репозиториями, API и внутренними данными.
ИИ становится новым участником корпоративной инфраструктуры: получает доступы, работает с кодом и данными, вызывает инструменты, принимает решения и выполняет действия. Это расширяет поверхность атаки и создаёт новые классы рисков, которые требуют развития классических подходов AppSec, DevSecOps и управления информационной безопасностью.
Интенсив посвящён практической безопасности современных ИИ-систем: LLMприложений, RAG-сервисов, ИИ-агентов и ИИ-инструментов, интегрированных в корпоративную инфраструктуру.
Участники изучат архитектуру современных ИИ-систем, научатся проводить моделирование угроз для LLM-приложений и ИИ-агентов, проектировать безопасные интеграции, ограничивать полномочия агентов, защищать MCP-инструменты, адаптировать процессы Secure SDLC и контролировать работу ИИ-систем после внедрения. Отдельное внимание уделяется мониторингу, журналированию действий ИИ-агентов, реагированию на инциденты и формированию минимального набора организационных и технических контролей для безопасного использования ИИ в компании.
Программа построена вокруг сквозного практического кейса. В течение четырёх занятий участник проходит путь от анализа архитектуры и построения модели угроз до разработки защищённого прототипа ИИ-агента, его тестирования и подготовки требований к безопасной эксплуатации.
По итогам обучения участник разработает защищённый прототип ИИ-агента и комплект артефактов, которые можно использовать при проектировании и оценке безопасности корпоративных ИИ-систем.
Интенсив отвечает на практические вопросы:
- как оценивать безопасность ИИ-сервисов и агентов;
- какие новые угрозы возникают при внедрении LLM, RAG и агентных систем;
- как ограничивать полномочия и действия ИИ-агентов;
- как безопасно подключать агентов к API, данным и корпоративным инструментам;
- как встроить ИИ в процессы разработки, не разрушая существующие практики AppSec и DevSecOps;
- как контролировать ИИ-систему после внедрения;
- какие организационные и технические меры необходимо сформировать внутри компании.
Продолжительность: 32 ак. ч.
