Метод Bad Likert Judge: угроза для безопасности LLM
Изображение: unit42.paloaltonetworks.com
В последнее время растёт обеспокоенность по поводу безопасности больших языковых моделей (LLM), особенно в свете новых методов, направленных на их обход. Одним из таких методов является «Bad Likert Judge», разработанный для генерации вредоносных ответов. Исследование показало, что этот подход может значительно повысить вероятность успешного атаки (ASR), что представляет собой серьёзную угрозу кибербезопасности.
Обзор метода
Находясь под постоянным давлением со стороны мероприятий по защите, LLM обычно имеют механизмы, направленные на предотвращение злоумышленников от получения доступа к вредоносному контенту. Однако, с внедрением методов джейлбрейка, таких как Bad Likert Judge, эти меры могут быть успешно обойдены.
Ключевые результаты исследования
В ходе исследования метод Bad Likert Judge был протестирован на шести современных системах генерации текста. Результаты показали, что:
- Вероятность успешной атаки (ASR) увеличилась в среднем более чем на 60% по сравнению со стандартными запросами.
- При применении этого метода ASR варьировался от 32% до 81% в различных моделях и категориях.
- Модель 4 продемонстрировала наибольшее улучшение, тогда как модель 6 показала более слабые меры безопасности.
Тактики обхода безопасности
Методы джейлбрейка могут быть одноэтапными или многоэтапными. Для обхода защит применяются:
- Контрабанда токенов
- Метод crescendo
Злоумышленники также могут использовать механизм привлечения внимания LLM для внедрения небезопасных подсказок.
Конкретные примеры атак
В исследовании упоминаются такие атаки, как «Обманчивое наслаждение» и «Крещендо», продемонстрировавшие эффективность метода Bad Likert Judge.
Заключение и рекомендации
Оценка ответов LLM показала, что модели могут различать вредоносный контент от доброкачественного, но это не снижает угрозы, которую представляет метод Bad Likert Judge. Специальные рекомендации включают:
- Оценка контента, связанного с созданием вредоносных программ.
- Отправка полученных результатов в Хакерский альянс (CTA) для защиты клиентов и противодействия вредоносным кибератакам.
Таким образом, метод Bad Likert Judge подчеркивает необходимость пересмотра существующих мер безопасности в LLM, чтобы минимизировать риск злоупотреблений.
Отчет получен из сервиса CTT Report Hub. Права на отчет принадлежат его владельцу. Ознакомиться подробнее с отчетом можно по ссылке.
