Проверка сервисов ИИ выявила кражу запросов и нарушения условий конфиденциальности

Изображение: OpenAI
Злоумышленники копировали запросы к ИИ после взлома как минимум трёх хостинг-провайдеров, выяснил HD Moore, директор по исследованиям компании Dragos, которая специализируется на кибербезопасности. Он отправил почти 2 млн запросов с тестовыми секретами, каждый из которых встречался только в одном запросе, и обнаружил, что среди украденных были даже запросы с запретом на хранение.
Украденные ключи использовали для десятков тысяч обращений к API AWS. Секреты, отправленные двум из взломанных провайдеров, почти сразу пустили в ход с одного и того же арендованного сервера, что указывает на то, что обоих провайдеров, скорее всего, взломал один и тот же злоумышленник. Ключи давали доступ к пустым аккаунтам, но злоумышленники искали там другие учётные данные и создавали собственные учётные записи, чтобы сохранить доступ. У одного провайдера они получили ключи даже из запросов, которые тот отклонил до запуска модели.
Как объясняет Ars Technica, посредники вроде OpenRouter и Vercel подбирают модели для приложений. Запрос может пройти через несколько таких сервисов, и у каждого текст расшифровывается. Moore установил, что некоторые продавцы доступа к моделям записывали запросы, после чего ключами из них пользовались посторонние.
С июля по октябрь системы неназванной китайской лаборатории переходили по секретным ссылкам более чем из половины тестовых запросов к её моделям, в том числе примерно из двух третей запросов с запретом на сбор или хранение данных. То же наблюдали при отправке запросов через нескольких американских хостинг-провайдеров, перепродававших доступ к моделям этой лаборатории: текст запросов всё равно попадал в лабораторию.
Moore советует запускать модели на собственных серверах. Если это слишком дорого, Moore советует обращаться напрямую к поставщику модели, с которым заключён один договор и действует одна политика конфиденциальности, без посредников: это снижает риск утечки, но не исключает её. Тем, кто пользуется посредниками, исследователь рекомендует выбирать поставщиков самостоятельно, не полагаясь на список по умолчанию.



