ChatGPT 10 — будущий Скайнет ？! Артем Семенов — PWN AI

Зыбнев Сергей, основатель проекта Похек и пентестер в компании Awillix, представляет свой подкаст!

У него в гостях — Артем Семёнов, основатель PWN AI. PWN AI (пывнэйай) — это телеграм канал, в котором Вы познаете (нет нет — не буддизм), как можно применить ИИ в нашей нелёгкой работе безопасника, а также много почитать об угрозах и проблемах безопасности этого самого ИИ.

Подкаст будет интересен:
— Специалистам по кибербезопасности
— Владельцам бизнеса
— Всем, кто хочет узнать больше о применении нейросетей, LLM и машинного обучения в работе и для собственных нужд

В этом подкасте мы обсудили:
— Кибербезопасность: актуальные угрозы ИИ, ИИ в ИБ, ИБ в ИИ.
— RedTeam: как взламывают нейросети, LLM
— Red Team: как нейросети и LLM взламывают сайты и IT инфраструктуру.
— PWN AI: представление канала, чем славится
— Исследования: Разработчики нейросетей понимают, как работает их же продукт?!

Таймкоды:
00:00 — Введение
00:51 — Представление Артема Семенова
03:10 — Атаки на ИИ
04:58 — Классификаторы и их уязвимости
07:12 — Обучение моделей
09:05 — История о взломе банка
09:55 — Адвер тестирование
10:44 — Сложности рекомендаций
11:43 — Обучение нейросетей
13:40 — Личное использование ИИ
14:38 — Отчеты и уязвимости
16:46 — Применение ИИ в разработке
18:27 — Автопомощники для пентеста
19:40 — Проблемы языковых моделей
20:34 — Интеграция языковых моделей в защиту
22:20 — Эффективность языковых моделей
23:52 — Применение ИИ в атрибуции
24:46 — Использование ИИ злоумышленниками
26:29 — Автоматизация уязвимостей
27:54 — Оценка уязвимостей
29:12 — Проблемы интерпретации данных
30:58 — Лидеры в области LLM
32:09 — Проблемы и перспективы
33:09 — Безопасность моделей
34:36 — Примеры багов в моделях
37:41 — Уязвимости и атаки
41:27 — Внедрение безопасности в бизнес
45:54 — Инциденты и безопасность машинного обучения
49:37 — Регулирование безопасности ИИ
51:30 — Заключение и вопросы