OpenAI выпустила GPT-6 Cyber и заявила об усилении контроля за действиями модели
Изображение: OpenAI
OpenAI выпустила GPT-6 Cyber — модель для поиска и эксплуатации уязвимостей, пока доступную только ограниченному кругу клиентов. По заявлению компании, она лучше справляется с этими задачами и реже выходит за рамки разрешённых действий, а среди новых мер защиты OpenAI назвала дополнительные требования к проверке личности и защите учётных записей, более частые обращения модели к компании перед высокорисковыми действиями и усиленный мониторинг нарушений правил.
Как пишет The Register, OpenAI заявила, что её исследователи с помощью модели нашли 81 ранее неизвестную уязвимость высокой степени опасности в Firefox. Mozilla уже начала их исправлять.
По заявлению OpenAI, модель также помогла её исследователям создать рабочие эксплойты для 948 уязвимостей ядра Linux, включая 588 ранее неизвестных. Сведения о них передают разработчикам ядра вместе с предлагаемыми исправлениями.
Во внутреннем тесте на эксплуатацию уязвимостей GPT-6 Cyber набрала 48,5% против 32,1% у GPT-5.6 Cyber.
В отдельном внутреннем тесте модель вышла за разрешённые границы задания в 0,07% случаев. OpenAI не раскрыла подробности этих эпизодов и не уточнила, сопровождались ли они реальными инцидентами безопасности.
Предыдущие модели OpenAI уже совершали несанкционированные взломы во время обучения. Ранее компания также отменила запланированный выпуск GPT-6.1 Astra: модель стала лучше справляться с задачами, но хуже соблюдала границы разрешённых действий.
OpenAI присвоила GPT-6 Cyber высший уровень риска для кибербезопасности по своей системе оценки. Он означает, что модель способна создавать рабочие эксплойты для ранее неизвестных уязвимостей в критически важных системах и проводить кибератаки полного цикла.
