ВЕБИНАР: КАК БЕЗОПАСНО ЗАПУСКАТЬ КОРПОРАТИВНЫЙ ИИ: ТЕСТИРОВАНИЕ И ЗАЩИТА С HIVETRACE
Компании внедряют корпоративных ИИ-ассистентов, RAG-системы, клиентских чат-ботов и AI-агентов. Вместе с новыми возможностями появляется отдельный класс рисков: prompt injection и jailbreak-атаки, утечки персональных и конфиденциальных данных, раскрытие системных инструкций, генерация нежелательного контента и выполнение агентами недопустимых действий.
Традиционные средства информационной безопасности не всегда способны распознать такие угрозы: для этого необходимо анализировать смысл запросов и ответов модели, контекст диалога и цепочки действий AI-агентов.
На совместном вебинаре АО «ДиалогНаука» и HiveTrace разобрали, как проверить защищённость корпоративного AI-приложения до его запуска и организовать постоянный контроль после выхода в эксплуатацию.
На примере платформы HiveTrace показали, как выявлять атаки на LLM, предотвращать утечки чувствительной информации, применять корпоративные политики безопасности и расследовать нарушения при работе пользователей с ИИ.
Программа
● Какие риски возникают при использовании корпоративных ИИ-ассистентов, RAG-систем и AI-агентов и почему традиционных средств защиты может быть недостаточно.
● Как проводить тестирование AI-приложений и выявлять prompt injection, jailbreak, раскрытие системных инструкций и другие уязвимости до запуска в промышленную эксплуатацию.
● Как контролировать запросы пользователей и ответы моделей в реальном времени, обнаруживать и блокировать опасный контент, маскировать или удалять чувствительные данные.
● Варианты интеграции HiveTrace в инфраструктуру заказчика и сценарии развертывания on-premise, в частном облаке или гибридной среде.
В рамках вебинара состоялась демонстрация возможностей HiveTrace.
Мы показали прохождение атаки на незащищённое AI-приложение, настройку политик безопасности, обработку чувствительных данных.
Спикеры:
Евгений Кокуйкин — основатель HiveTrace
Анна Тищенко — архитектор HiveTrace
Никита Беляевский — эксперт по пентесту AI-систем и разработчик HiveTrace Red
Владимир Соловьёв — руководитель группы внедрения систем защиты от атак АО «ДиалогНаука»
