Пятница, 13-е. Угрозы искусственному интеллекту выходят на поверхность

13 ноября CyberThreatTech представила CTT AI ATTACK PULSE, новый продукт класса Threat Intelligence для защиты систем искусственного интеллекта.

CTT AI ATTACK PULSE был представлен как первый в России и странах СНГ специализированный коммерческий фид машиночитаемых знаний об атаках на ИИ.

Что вошло в CTT AI ATTACK PULSE?

CyberThreatTech собрала и проанализировала отчёты об атаках на искусственный интеллект, систематизировала тактики, техники и процедуры (TTP) и преобразовала их в структурированные машиночитаемые знания.

ТАЙМКОДЫ ВЕБИНАРА CTT AI ATTACK PULSE

00:00:00 Начало записи
00:02:06 Приветствие и тема вебинара
00:03:14 Темпы внедрения искусственного интеллекта
00:03:43 ИИ в России и СНГ: ограничения внедрения
00:04:27 Почему информационная безопасность не успевает за ИИ
00:05:07 Современная AI-инфраструктура
00:05:21 Восьмиуровневая архитектура AI-агентов
00:05:59 Ограничения традиционных средств защиты
00:06:52 Атаки на ИИ и атаки с использованием ИИ
00:07:15 Прямые контентные атаки
00:07:33 Мультимодальные атаки на ИИ
00:07:52 Текст, изображения и аудио как векторы воздействия
00:08:24 Вредоносные инструкции внутри изображений
00:08:54 ИИ как оркестратор кибератаки
00:09:57 Использование корпоративного ИИ злоумышленником
00:10:16 ИИ для генерации вредоносной нагрузки
00:10:56 Статистика исследований AI-атак
00:11:31 Теоретические и подтверждённые атаки
00:11:51 Рост воспроизводимых сценариев атак
00:12:38 Наиболее исследуемые AI-модели
00:13:17 Атаки на агентов, API и RAG
00:13:56 Классический Threat Intelligence: Report Hub
00:14:36 Индикаторы компрометации и TTP
00:15:45 Как работает AI Firewall
00:16:12 Семантическое обнаружение вредоносных запросов
00:16:41 Корреляция событий
00:16:47 Guardrails и контроль поведения ИИ
00:17:28 AI Threat Intelligence против традиционного TI
00:17:52 Почему ручной анализ угроз не масштабируется
00:18:38 Научная гипотеза или реальная атака?
00:19:06 ИИ как объект и инструмент атаки
00:19:15 Применимость атак к конкретной инфраструктуре
00:19:29 Полнота описания сценария атаки
00:20:00 Почему порядок шагов атаки критически важен
00:20:33 Состояние системы и признаки успеха
00:21:02 Граф атаки
00:21:28 Подход Attack Flow
00:21:45 Переход к AI ATTACK PULSE
00:21:57 Ключевые задачи нового продукта
00:22:21 Граф переходов и зависимостей
00:22:42 Использование данных средствами защиты
00:23:16 Экосистема CTT CTI Lake
00:23:41 Incident Hub
00:23:58 Report Hub и Threat KB
00:24:31 Классический Threat Feed
00:24:37 AI ATTACK PULSE внутри CTI Lake
00:25:11 Исследования и независимые эксперты
00:25:43 GitHub как источник данных об атаках
00:26:14 Агрегаторы исследовательских публикаций
00:26:25 Более 500 источников мониторинга
00:27:11 Конвейер обработки информации
00:27:28 Фильтрация нерелевантных материалов
00:28:02 Анализ PDF, HTML и GitHub
00:28:34 Связь с первоисточниками
00:29:11 Markdown и нормализация данных
00:29:51 Материалы и записи об атаках
00:30:17 Многоязычные источники и переводы
00:30:51 Несколько атак в одном исследовании
00:31:23 Воспроизводимость атак
00:31:52 Оценка опасности: scoring и severity
00:32:01 Развитие механизма скоринга
00:32:31 Артефакты и контекст их применения
00:33:21 Извлечение схем атак из изображений
00:33:46 Построение пошагового графа атаки
00:34:15 MITRE ATLAS и классификация техник
00:34:34 Артефакты в узлах графа
00:36:12 Демонстрация портала AI ATTACK PULSE
00:36:28 Ограничения существующих TI-платформ
00:36:52 Доставка данных через API
00:37:25 Поиск материалов и атак
00:38:04 Демонстрация первого сценария атаки
00:38:19 Поддельный юридический документ обходит Guardrails
00:38:57 Нарушение режима read-only в Notion
00:39:38 Переводы исследовательских материалов
00:40:07 Оригинальный документ атаки
00:40:39 Последствия и признаки успеха
00:41:10 Оценка опасности первой атаки
00:41:20 Условия применимости сценария
00:41:43 Визуальный граф первой атаки
00:42:13 Разветвления сценария
00:42:57 Mind Virus: заражение поведения других AI-агентов
00:43:41 Оценка опасности межагентной атаки
00:44:22 Граф распространения воздействия
00:44:53 Вредоносная нагрузка внутри AI-модели
00:45:28 Модификация модели с Hugging Face
00:45:55 Анализ вредоносного кода
00:46:13 Для кого предназначен AI ATTACK PULSE
00:46:27 ИБ-вендоры, AI Firewall, Guardrails и MSSP
00:46:57 Стоимость собственной AI Threat Intelligence-экспертизы
00:47:43 Использование продукта командами Red Team
00:47:55 Применение в корпоративных SOC
00:48:07 Три компонента AI ATTACK PULSE
00:48:21 REST API Attack Flow Feed
00:48:26 Attack Prompt Feed
00:48:54 Обучение защитных моделей и создание правил
00:49:03 Доступность продукта
00:49:12 Полный доступ для технологических партнёров
00:49:22 Доступ для остальных партнёров
00:49:35 Доступ для клиентов с 10 декабря
00:49:47 Завершение выступления

Реклама. ООО «Технологии Киберугроз», ИНН: 9731092317, Erid: 2SDnjeX6A5S

Технологии киберугроз
Автор: Технологии киберугроз
Технологии киберугроз – технологическая компания, специализирующаяся на решениях по анализу угроз для предприятий любого размера. Мы собираем, нормализуем, обогащаем информацию о киберугрозах со всего мира. Нашими источниками являют более 260 открытых фидов, более 100 открытых поставщиков Threat Intelligence-отчетов, открытые online sandbox, социальные сети и репозитории GitHub. Мы также предоставляем ряд сервисов по: семантическом анализу Threat Intelligence-отчетов и приведения их в машиночитаемый формат STIX 2.1, проверки IoC на потенциальные ложноположительные сработки, а также получению WHOIS-записей для доменных имен.
Комментарии:

Как мы обрабатываем данные: политика обработки персональных данных