Уязвимость Pickle: новая угроза для Hugging Face
Недавние исследования, проведенные исследователями RL threat, выявили серьезную уязвимость в области кибербезопасности, касающуюся платформы Hugging Face. Новая технология атаки, названная nullifAI, использует уязвимости модуля Pickle в Python, что делает эту платформу особенно привлекательной целью для хакеров. Hugging Face известен своей ролью в облегчении совместной работы в проектах машинного обучения (ML), что подчеркивает актуальность данной проблемы.
Уязвимости модуля Pickle
Уязвимости в модуле Pickle дают возможность выполнять произвольный код во время десериализации, что создает значительные риски. На практике исследователи выявили, что вредоносные модели, использующие PyTorch, были сжаты с помощью Pickle и формата 7z, что позволило обойти инструмент безопасности Hugging Face, названный Picklescan.
- Инструмент Picklescan использует метод «черного списка», что неэффективно для выявления новых угроз.
- Недостаток возможностей обнаружения было видно в случае компрометированных моделей, не поддающихся обычным методам анализа.
Механизм атаки
Атака осуществляется через процесс десериализации, при котором вредоносная полезная нагрузка внедряется в начале потоков Pickle. Несмотря на возможные ошибки при обработке поврежденных файлов, многие средства безопасности не способны распознать выполнение вредоносных функций до момента обнаружения повреждения:
- Десериализация Pickle позволяет выполнить вредоносный код даже до фиксации ошибок.
- Обнаруженные вредоносные программы включают в себя обратные оболочки, предназначенные для подключения к заранее заданным IP-адресам.
Реакция на угрозу
RL активно работает над совершенствованием своих процессов обнаружения вредоносных программ, особенно для файлов формата ML model. Продукт Spectra Assure уже способен выявлять код на Python в сериализованных данных Pickle, что может привести к выполнению произвольных команд.
Важно отметить, что любые действия, требуемые при загрузке моделей искусственного интеллекта, должны быть четко отделены от данных сериализации модели. Это поможет снизить риски безопасности.
После обнаружения уязвимостей в Hugging Face, RL незамедлительно уведомила службу безопасности, что привело к быстрому удалению опасных моделей. В настоящее время платформа оценивает возможности укрепления защиты от угроз, связанных с файлами Pickle.
Заключение
Проблемы с безопасностью файлов Pickle на открытых платформах продемонстрировали значительные уязвимости, связанные с функциями автоматического выполнения кода. Это подчеркивает необходимость внедрения надежных протоколов безопасности, особенно в условиях быстрого развития технологий машинного обучения.
Отчет получен из сервиса CTT Report Hub. Права на отчет принадлежат его владельцу.
Ознакомиться подробнее с отчетом можно по ссылке.
