HR-департаменты все чаще становятся жертвами prompt injection
изображение: recraft
Атаки на ИИ-системы в 2026 году становятся все более распространенными из-за расширения области применения искусственного интеллекта в компаниях, а также роста общего числа предприятий, внедривших подобные системы в свою инфраструктуру. HR-департаменты — одна из главных целей атак типа prompt injection, по оценкам специалистов «Кросстеха», до 30% таких инцидентов приходится именно на подразделения, работающие с сотрудниками.
Эксперты указывают, что популярность HR как цели для prompt injection атак, обусловлена несколькими факторами: активным использованием ИИ со стороны HR-специалистов, большим объемом чувствительных данных и простым доступом к сотрудникам департаментов.
Наиболее распространенный способ prompt injection атак — внедрение вредоносного промпта в файлы с резюме. Команда, провоцирующая ИИ на нелегитимные действия, может быть вшита как в текст, так и в графические элементы — фото соискателя, инфографику. В результате исполнения вредоносной команды модель может изменить свое поведение и пропускать резюме, которые должны отсеиваться, а при наличии доступа к внутренним базам или API отправлять чувствительные данные на внешний сервер.
Специалисты «Кросстеха» подчеркивают, что защита от prompt injection требует комплексного подхода. Во-первых, модель должна четко разделять системный и пользовательский промпт и всегда отдавать приоритет именно системному промпту. Во-вторых, загружаемые в модель данные должны проходить предварительную фильтрацию на наличие подозрительных фраз, например, «игнорируй все предыдущие указания». В-третьих, модель, в которой обрабатываются внешние данные, должна существовать независимо от внутренних баз и не иметь связей с основной инфраструктурой через API. Это позволит максимально ограничить возможность утечки корпоративной информации.
«Защита ИИ становится все более актуальным вопросом для российских компаний, во многом проблема становится острее из-за внедрения моделей опережающими темпами. HR-департаменты стали одними из пионеров внедрения ИИ-систем, поэтому злоумышленники часто целятся именно на них. Компаниям необходимо прорабатывать вопросы защиты до внедрения ИИ, чтобы избежать дополнительных киберрисков», — говорит Антон Редько, руководитель группы «Безопасная разработка» «Кросстеха».
