Новое исследование Security Intelligence выявило уязвимости платформ MLOps
Image: OpenAI
Специалисты по кибербезопасности из Security Intelligence указали на множество уязвимостей, угрожающих платформам MLOps: Azure Machine Learning (Azure ML), BigML и Google Cloud Vertex AI. В аналитической статье компании подчёркивается, что злоумышленники могут использовать методы фишинга для кражи токенов доступа, чтобы похищать модели, хранящиеся в Azure ML. Этот метод базируется на недостатках управления идентификацией, что открывает возможности для несанкционированного проникновения к ресурсам машинного обучения.
BigML, по данным исследователей, становится целью атак из-за API-ключей, случайно опубликованных в открытых репозиториях. Эти ключи могут предоставить доступ к закрытым данным, а отсутствие сроков их действия увеличивает риск, если ключи не обновляются регулярно.
Google Cloud Vertex AI, как подчёркивается в отчёте, подвержен атакам, связанным с повышением привилегий и кражей токенов GCloud. Это позволяет злоумышленникам проникать в облачную инфраструктуру организаций и использовать компрометированные данные для дальнейших атак.
Эксперты выделили несколько способов повышения безопасности для каждого из сервисов. Для Azure ML рекомендуется применять многофакторную аутентификацию, изолировать сети, использовать шифрование и внедрять управление доступом на основе ролей. Пользователям BigML советуют регулярно обновлять учетные данные, применять строгие политики доступа и использовать MFA. В отношении Google Cloud Vertex AI специалисты предлагают минимизировать привилегии пользователей, отключать внешние IP-адреса, вести подробные журналы аудита и ограничивать права учетных записей.
С ростом использования ИИ для важных операций необходимость защиты платформ MLOps становится всё более актуальной. Обеспечение строгих мер безопасности поможет предотвратить кражу данных, манипуляции с моделями и другие угрозы, усиливая защиту ресурсов ИИ от новых рисков.
Полный отчёт доступен на официальном сайте Security Intelligence.
