Доклад «Безопасное взаимодействие с внешними LLM»

Вы уже используете ChatGPT или другие внешние языковые модели в работе? А кто гарантирует, что ваши корпоративные данные не попадут в обучающие модели злоумышленников? Вячеслав Соленик из «СберТех» рассказывает о реальных рисках использования общедоступных нейросетей: от утечки конфиденциальной информации до внедрения и подмены контекста. Узнайте, как работает шлюз безопасности ИИ, как контролировать запросы и ответы ИИ и почему LLM нужно мониторить так же строго, как сеть или почту.

00:02:03 — Три основных аспекта ИИ с точки зрения кибербезопасности
00:12:53 — Контроль контекстов запросов и ответов: LLM-мониторинг в действии
00:14:46 — Можно ли доверять ИИ? Подход «доверяй, но проверяй» для внешних моделей
00:18:48 — Зачем нужен шлюз безопасности AI: архитектура и принципы работы
00:22:31 — Обнаружение уязвимостей в коде с помощью ИИ и принятие решений по обеспечению безопасности
00:23:18 — Анонс доклада лаборатории информационной безопасности: теневая сторона искусственного интеллекта
00:27:30 — Аналогия с Zoom: как безопасность ИИ проходит тот же путь, что и другие технологии
00:28:57 — Опасности моделей с открытым исходным кодом: кто их обучал и можно ли им доверять