ИИ-пентестер уволит человека или положит инфру?! | Александр Кельчин

AI security на практике: свой SIEM с ИИ, AI SOC, защита LLM от prompt injection, автопентест на агентах и что вайбкодинг делает с рынком безопасности. Гость — Александр Кельчин, CTO/CISO Medici Lab.

Александр рассказывает, как его команда вынесла обработку событий на хосты, дообучала Qwen под правила корреляции и добилась 96–97% корректных ответов, почему вторая нейросеть-«охранник» тоже уязвима к prompt injection, как устроены CaMeL и Dual LLM и почему ИИ-агенты в пентесте пока не заменяют специалиста. А ещё — XBOW в багбаунти, автопатчинг пакетов для банков с GISEC и сколько на самом деле стоит проверка кода, который написал ИИ.

Гость: Александр Кельчин — CTO/CISO Medici Lab
Ведущий: Сергей Зыбнев — основатель проекта Похек, Похек AI, AI Security R&D

00:00 Хайлайты выпуска
00:22 Знакомство: Александр Кельчин, Medici Lab
02:45 «ИИ — не твой второй мозг»
04:16 Чем сейчас занимается Medici Lab
05:15 Свой SIEM с ИИ: обработка прямо на хостах
07:28 Агент на 60 КБ и защита правил от реверса
09:20 AI SOC: почему 60% на L2 — это плохо
11:53 Qwen, fine-tuning и маленькие модели против больших
16:23 Как продавать безопасность, когда ты маленький
18:48 Как защищать ИИ: guardrails, CaMeL, Dual LLM
24:05 Как искать бэкдоры в весах моделей
25:59 LLM firewall или DLP?
27:51 Автопентест: 20 лет эволюции
29:10 EASM, VM, CTEM — в чём разница
30:48 ИИ-агенты, MCP и Burp
32:33 Твой агент клал инфру?
34:15 Вайбкодеры против безопасников
35:33 Почему безопасники подорожают вдвое
38:05 Как Александр строил свой автопентест
41:17 ИИ в анализе кода и зависимостей
43:12 XBOW и ИИ в багбаунти
46:45 Легаси, рефакторинг и ИИ
49:09 GISEC в Дубае: автопатчинг для банков
51:58 Аудит за $200 и цена пентеста
54:24 Кто размечает данные для ИИ
55:45 «Если все станут героями…»
56:36 Финал и ссылки