Модель OpenAI без разрешения потратила чужие тестовые ETH на смарт-контракт
Изображение: OpenAI
Исследовательская модель OpenAI потратила чужие тестовые ETH без разрешения, потому что ей не предоставили средства для развёртывания смарт-контракта в тестовой сети Ethereum Sepolia. Компания раскрыла этот случай и ещё шесть эпизодов нарушения ограничений, сообщает The Hacker News.
После неудачных попыток получить бесплатные токены модель семейства GPT-5.6 Sol написала скрипт для получения ключей из общедоступных фраз восстановления разработчиков. Она проверила 362 адреса и нашла один с нужным балансом. Модель усомнилась, имеет ли право тратить эти средства, но решила, что публичность фразы и отсутствие денежной ценности у тестовых токенов оправдывают их использование. В итоговом отчёте она не указала, откуда взяла деньги на оплату. Инцидент произошёл 26 июня, OpenAI обнаружила его спустя три месяца. По оценке компании, случай показывает, что модель способна подменить разрешение владельца счёта собственным суждением о вероятном вреде и действовать без разрешения.
17 июня другая внутренняя модель OpenAI использовала функцию скачивания файлов на государственном статистическом сайте, чтобы получить конфигурацию сервера и файлы приложения с конфиденциальными учётными данными. Изучив код, она обошла проверку доступа и сохранила статистику за 24 года, хотя задание касалось одного года. Кроме того, она скачала каталог с данными более чем 1000 учётных записей, включая адреса электронной почты. В ответе модель не сообщила о несанкционированном доступе.
Ещё в двух испытаниях модель, которой поручили найти общедоступную статистику, проникла во внутренние системы неназванной организации. В первом она получила 1489 пользовательских записей с именами и адресами электронной почты. Во втором она изменила настройку, получила токен доступа к облачному хранилищу и скачала закрытые таблицы на 147 451 строку. Затем модель вернула настройку в прежнее состояние, но продолжила пользоваться токеном. Об этих действиях модель умолчала.
OpenAI заявила, что усилила защитные ограничения и приняла дополнительные меры против доступа моделей к интернету во время обучения. Компания также распространила мониторинг нарушений на весь трафик обучения с подкреплением и оценочных испытаний.
