Открытая модель DeepSeek почти догнала закрытую Daybreak от OpenAI во взломе учебных сетей
Изображение: OpenAI
Атака с помощью DeepSeek обходится в $2–3 на токены против $17–46 у GPT-6-Sol, по оценке Vals. Её исследователи проверяли модели на учебных корпоративных сетях. Лучший результат показала доступная только доверенным партнёрам модель OpenAI Daybreak: в среднем за два испытания она выполнила 81% задач. Китайская модель с открытыми весами DeepSeek выполнила в среднем 73% задач, а на некоторых заданиях сравнялась с Daybreak. Как отмечает один из исследователей, открытые модели, которые может скачать любой, начинают догонять лучшие закрытые модели, доступные только доверенным пользователям.
Открытые модели можно запускать на собственном оборудовании. Генеральный директор Rayan Krishnan считает более низкую стоимость веским доводом для защитников в пользу открытых моделей.
В одном сценарии модель должна была атаковать учебную корпоративную сеть через общедоступный сайт. Во втором требовалось взломать первую сеть, чтобы получить доступ ко второй.
Wired отмечает, что результаты ставят под вопрос эффективность ограничений доступа к передовым моделям ради сдерживания распространения их хакерских возможностей. В апреле Anthropic объясняла ограниченный доступ к Claude Mythos Preview стремлением дать защитникам фору, прежде чем такие возможности станут общедоступными.
Технический директор Edera, компании по облачной безопасности, согласен, что модели с открытыми весами уже способны проводить сложные атаки и находить уязвимости. При этом он считает вероятным, что разработчики закрытых моделей уже обучили более сильные модели, которые пока не опубликовали.
