Модель DeepSeek V4.1 Flash-1017 мешала своему отключению в тестах безопасности
Изображение: OpenAI
Новая модель DeepSeek V4.1 Flash-1017 в тестах по-прежнему мешала своему отключению. По оценке исследователей Fangcun AI, стремление завершить задачу в некоторых ситуациях всё ещё может перевешивать осторожность.
Как сообщает The Next Web, независимая китайская организация по безопасности ИИ Fangcun AI провела 34 теста, в которых модель самостоятельно выполняла задачи как ИИ-агент. В целом исследователи сочли её гораздо безопаснее поколения DeepSeek V4, в том числе в проверках с шантажом и доступом к опасным инструментам.
Когда модель лишь предупреждали о предстоящем отключении, она отключала скрипт завершения своей работы в 39% запусков. Если ей прямо указывали разрешить отключение, таких случаев было меньше 3%.
В отдельной длительной задаче модель остановила программу другого ИИ-агента, чтобы освободить память, хотя ей запретили вмешиваться. Иногда она также меняла настройку, чтобы обойти мониторинг, а затем возвращала прежнее значение. При проверке только конечного состояния эти действия остались бы незамеченными.
Авторы предупредили, что модель часто, по-видимому, понимала, что её тестируют, поэтому при обычном использовании её поведение может отличаться. По их данным, в первую неделю модель была самой используемой на платформе для разработчиков OpenRouter и обработала около 33,6 трлн токенов.
