Евгений Кокуйкин: AI security в России, готовы ли мы?
В этом выпуске подкаста «Обсуждаем Похек» мы разбираем самый острый вопрос современной технологии: готова ли Россия к вызовам AI Security? Нашим гостем является Евгений Кокуйкин — гендиректор HiveTrace, руководитель лаборатории AI Security Lab в ИТМО, и один из главных экспертов в области безопасности искусственного интеллекта в России.
Евгений рассказывает о своем пути от разработчика в Diasoft через Microsoft и Google к созданию первой в России специализированной лаборатории по безопасности генеративного AI. Это не просто история успеха — это история о том, как инженер становится директором компании по безопасности AI-систем.
Главные темы выпуска:
Мы погружаемся в революцию MLSecOps и LLMSecOps — новые дисциплины, которые интегрируют безопасность на всех этапах жизненного цикла машинного обучения. Евгений объясняет, почему практики DevSecOps просто не работают для AI, и почему это критично для российских компаний, которые только начинают внедрять LLM.
Разбираем практические кейсы из опыта Raft/HiveTrace: как защитить чат-боты от prompt injection, как проводить Red Teaming для нейросетей, какие уязвимости скрываются в архитектуре современных LLM, и почему «отравление» обучающих данных может стать главной угрозой. Евгений делится реальными примерами инцидентов и показывает, как компании теряют миллионы из-за неправильной безопасности AI.
Обсуждаем глобальный тренд 2026 года — AI Reset, когда мир переходит от одной гигантской модели к маленьким специализированным моделям. Евгений объясняет, почему пузырь LLM лопается, почему экономика больших моделей просто не работает, и как это повлияет на российский рынок.
Особое внимание уделяется развитию AI Security в России: какие вызовы стоят перед российскими компаниями, почему нам нужны свои специалисты в MLSecOps, и как ИТМО AI Security Lab готовит новое поколение экспертов. Евгений рассказывает о курсах, исследованиях и практических проектах лаборатории, которая уже проводит аудиты LLM-решений для крупных корпораций.
Этот выпуск будет полезен:
AI Security Engineers и LLM Engineers
Специалистам по Red Team и пентесту
Руководителям компаний, внедряющим AI
Исследователям безопасности
Разработчикам, которые хотят понять, как защищать AI-системы от современных киберугроз
Всем, кто интересуется будущим AI в России и мире
Таймкоды:
00:00 Хайлайты
00:56 Введение и представление гостя
02:13 Путь к безопасности
03:05 Начало интереса к безопасности
04:02 Выступления и конференции
06:59 Развитие компании Рафт
08:32 Проблемы с чат-ботами и промт-инъекциями
09:09 Взаимодействие с университетами
09:54 Сравнение рынков
12:08 Отчёт о компаниях по безопасности
13:30 Отчёт Артёма по российскому рынку
16:33 Тестирование моделей
17:20 История инструмента GARAK
19:29 Перспективы рынка безопасности LLM
20:55 Основные направления информационной безопасности
21:23 Развитие LLM в России
22:23 Безопасность LLM
28:41 Примеры инцидентов
39:45 OWASP LLM Top 10 Excessive Agency
42:24 Перспективы рынка ИИ
44:49 Оптимизация и SLM
46:16 Агентные системы и инновации
46:53 Проблемы с бенчмарками
47:54 Риски пузыря на рынке
49:40 Заключение
