CTT AI ATTACK PULSE — фид киберразведки об атаках на ИИ

Компания «Технологии киберугроз» (CyberThreatTech) выпустила CTT AI ATTACK PULSE, машиночитаемый фид киберразведки (Threat Intelligence) об атаках на системы искусственного интеллекта. Разработчик называет его первым в России коммерческим фидом машиночитаемых знаний об атаках на ИИ. Фид собирает сведения из отчётов об атаках на ИИ, выделяет в них тактики, техники и процедуры злоумышленников (TTP) и отдаёт их в структурированном виде, понятном средствам защиты, платформам тестирования и специалистам по ИБ. Заказчик получает не только ссылки на публикации, но и сами знания об угрозах.

Где атакуют ИИ

Компании внедряют ИИ-модели, помощников и автономных агентов, которые работают с внутренними документами и бизнес-процессами, и вместе с ними растёт поверхность атаки. В CyberThreatTech выделяют три такие зоны. К ним относятся сами большие языковые модели (LLM) со встроенными ограничениями, ИИ-приложения, которые читают документы и обращаются к корпоративным системам, и ИИ-агенты, которые сами выполняют действия в приложениях и внешних источниках данных. За угрозами для ИИ, по мнению разработчика, нужно следить так же системно, как за угрозами обычной ИТ-инфраструктуре.

Как устроен фид

Сначала собираются исследования и технические материалы об атаках на ИИ-системы, в них разбираются тактики, техники и процедуры атак на модели, приложения и агентов, а результат складывается в машиночитаемую базу знаний для средств защиты, платформ симуляции и команд Red Team.

CyberThreatTech строит свою линейку киберразведки на подходе «Озеро знаний CTI» (CTI Lake), и AI ATTACK PULSE переносит его на ИИ-инфраструктуру. Подход собирает разрозненные сведения об угрозах, обогащает их контекстом и превращает в знания, а атаки на искусственный интеллект становятся в нём отдельным слоем.

Сценарии применения

  • Настройка AI Firewall и Guardrails (ограничителей запросов и ответов модели) по актуальным сведениям о техниках атак.
  • Обучение защитных ИИ-моделей на структурированных данных об угрозах.
  • Основа для автоматических сценариев симуляции атак, которые проверяют устойчивость ИИ-приложений.
  • Контекст для исследования угроз и подготовки разрешённых проверок ИИ-инфраструктуры командами пентеста и Red Team.
  • Знания о TTP для мониторинга, аналитики и процедур реагирования в SOC.

Кому подойдёт

Фид рассчитан на руководителей служб информационной безопасности, руководителей и аналитиков SOC, разработчиков AI Firewall и Guardrails, а также команды AI Pentest и Red Team. Руководителю ИБ он помогает понять риски ИИ-инфраструктуры, разработчикам средств защиты ИИ даёт данные для собственных продуктов. Коммерческие SOC и MSSP могут использовать его как компонент управляемых сервисов для нескольких заказчиков при наличии соответствующих прав.

Подробнее на сайте CTT AI ATTACK PULSE

Технологии киберугроз
Автор: Технологии киберугроз
Технологии киберугроз – технологическая компания, специализирующаяся на решениях по анализу угроз для предприятий любого размера. Мы собираем, нормализуем, обогащаем информацию о киберугрозах со всего мира. Нашими источниками являют более 260 открытых фидов, более 100 открытых поставщиков Threat Intelligence-отчетов, открытые online sandbox, социальные сети и репозитории GitHub. Мы также предоставляем ряд сервисов по: семантическом анализу Threat Intelligence-отчетов и приведения их в машиночитаемый формат STIX 2.1, проверки IoC на потенциальные ложноположительные сработки, а также получению WHOIS-записей для доменных имен.
Комментарии:

Как мы обрабатываем данные: политика обработки персональных данных