LLM под атакой: учебный кейс | Innostage

Александр Лебедев, старший разработчик систем ИИ в Innostage, рассказал, как в университете учили LLM ломать. Учебный курс и хакатон по практической безопасности ИИ:

— какие модели угроз применялись;
— какие фреймворки использовали для редтиминга и защиты;
— какие стратегии атак и защиты использовали команды.