Эксперт по безопасности GenAI-моделей
Требуемый опыт: От 1 года до 3 лет
Адрес: Екатеринбург улица Малышева 122
Чем предстоит заниматься
- Выявлять и расследовать инциденты ИБ в рамках ASOC
- Настраивать системы управления ИБ
- Организовывать защиту персональных данных и тайны связи Компании
- Проводить проверки
- Контролировать доступ пользователей в информационных системах • Разрабатывать и создавать работающие примеры атак (PoC) для демонстрации уязвимостей разработчикам, участвовать в коммуникации с ними для митигации угроз
- Улучшать уже имеющиеся инструменты для тестирования моделей и приложений на устойчивость к новым методам атак и при необходимости создавать новые
- Оценивать защищенность существующих моделей и приложений, разрабатывать предложения по улучшению
Что для этого нужно
- Высшее образование профильное образование
- Опыт работы в сфере информационной безопасности 1-3 года
- Знание организационных и технических способов и методов защиты информации
- Наличие сертификации в областях ИБ, участие в соревнованиях по ИБ является преимуществом
- Понимание — что такое пентесты
- Готовность к графику работы: 5/2
- Участие в соревнованиях по атакам на модели/агентов GenAI
- Опыт программирования на скриптовых языках (Shell, Python)
- Понимаете основы процессов обучения и дообучения современных LLM/MLLM, а также трудности с safety/security этих моделей и (мульти-)агентных систем на их основе
- Знание основ безопасности GenAI и умение ориентироваться в базовых документах, таких как OWASP Top 10 for LLM, MITRE ATLAS
- Опыт осознанного использования инструментов программирования с помощью ИИ
- Навыки работы с Open Source или облачными ML-платформами будут плюсом (Kubeflow, MLFlow, AWS, GCloud и так далее)
