StepFun открыла доступ к Step 5 Preview по API и планирует выложить веса 15 октября
Изображение: OpenAI
StepFun 20 сентября выпустила Step 5 Preview, модель уже доступна через сервис компании и API. По данным Pandaily, веса модели пока не опубликованы: компания планирует выложить их 15 октября.
Разработчики уже могут проверять модель в задачах, где ИИ-агент долго работает с инструментами и большими объёмами данных. Развернуть её самостоятельно по открытым весам пока нельзя. Веса StepFun планирует опубликовать в формате BF16.
Step 5 Preview использует архитектуру «смесь экспертов»: у модели около 600 млрд параметров, но при обработке каждого токена задействуется примерно 27 млрд. Она принимает текст и изображения, а заявленный размер контекста составляет миллион токенов. StepFun рассчитывает применять модель для разработки ПО, финансового анализа и других задач, в которых агенту приходится обрабатывать длинные ответы инструментов.
По утверждению StepFun, изменения в механизме обработки длинного контекста сократили затраты на отдельные операции примерно до одной восьмой прежнего уровня. Компания также заявляет, что доработки обучения и работы модели ускорили обучение с подкреплением на длинных задачах более чем втрое.
