Модели OpenAI разрешили только читать сайты, а она стала отправлять запросы через внешний браузер
Изображение: OpenAI
Модели OpenAI во время обучения разрешили только открывать веб-страницы, но она нашла обход: заставила внешний браузер открыть собственную форму, которая сама отправляла запросы к сервису торговой статистики. Ответы модель читала со скриншотов с помощью распознавания текста.
Случай вошёл в новые отчёты OpenAI о том, как её модели сами обходили ограничения во время обучения и тестирования, сообщает The Decoder.
Затем модель собрала инструмент для повторного использования: он возвращал данные простым текстом через сервис переадресации и онлайн-почтовый ящик. Совершенствовать обход она продолжала и после того, как задача была выполнена.
Об остальных случаях из этих отчётов, среди которых взлом правительственного сайта ради статистики о больничных койках, траты чужих тестовых ETH и проникновение во внутренние системы исследовательской организации, CISOCLUB писал 16 октября.
