Вышли ноутбуки Nvidia RTX Spark для локального запуска ИИ-агентов
Изображение: OpenAI
16 октября вышли ноутбуки Nvidia RTX Spark на Windows для локального запуска языковых моделей и ИИ-агентов, сообщает The Next Web. Ноутбуки выпускают ASUS, Dell, HP, Lenovo, Microsoft и MSI; по данным Nvidia, цены начинаются от $2599 и зависят от региона.
Ноутбуки получили чип, объединяющий графику Blackwell RTX и процессор Grace, а также до 128 ГБ общей памяти и до 1 петафлопса производительности в задачах ИИ.
Для работы агентов на ноутбуках Nvidia 15 октября выпустила модель Nemotron 3.5 Bolt с 74 млрд параметров, из которых одновременно активны 9 млрд. По заявлению Nvidia, модель помещается в 24 ГБ памяти и работает на поддерживаемых конфигурациях RTX Spark. Её веса, обучающие данные и методики обучения открыты.
По словам Nvidia, при первом включении без командной строки можно установить, например, таких агентов:
- GitHub Copilot;
- Hermes;
- OpenClaw;
- Perplexity.
Среда выполнения OpenShell от Nvidia и контейнеры Microsoft Execution Containers позволяют задавать, что агентам разрешено делать. OpenClaw и GitHub Copilot уже поддерживают контейнеры Microsoft, а в Hermes поддержку ограничений OpenShell планируют добавить до конца октября.
Для разработчиков Nvidia и Microsoft представили первую сборку PyTorch с CUDA для Windows на Arm. По данным компаний, для этой платформы готовы 97% из 15 000 самых популярных пакетов Python.
