NVIDIA выпустила настольный кластер DGX Spark для научных расчётов и ИИ

Изображение: OpenAI
NVIDIA представила на конференции SC26 в Чикаго настольный кластер DGX Spark для научных расчётов и ИИ. По данным компании, комплект из четырёх систем уже продаётся и позволяет исследователям работать локально, не дожидаясь доступа к общему GPU-кластеру.
Конфигурацию можно расширять с одного до четырёх узлов на чипах GB10 Grace Blackwell. Системы соединяются кольцом через ConnectX-7: каждая напрямую связана с двумя соседними, поэтому отдельный сетевой коммутатор не нужен. У четырёх узлов суммарно 512 ГБ памяти и NVMe-накопители общей ёмкостью 20 ТБ. При использовании формата NVFP4 на таком кластере можно запускать модели с числом параметров до 700 млрд.
Исследователи лаборатории Рубина в IGI при Калифорнийском университете в Беркли уже используют один DGX Spark с моделью Evo 2 для предсказания свойств бактерий по последовательностям генома. Благодаря тому, что им не пришлось ждать доступа к общему кластеру 11 часов, они получили результаты в 15 раз быстрее.
Группа Хартвига из того же университета смогла разместить на одном DGX Spark модель Nemotron 3 Super 120B-A12B с квантованием NVFP4 и дообучать её методом LoRA для задач химии.
Руководство по установке набора инструментов для научных вычислений NVIDIA HPC SDK на новом кластере компания обещает выпустить позже. Оно должно помочь разработчикам собирать и проверять научные приложения на четырёх узлах, а также отлаживать обмен данными между ними перед переносом на более крупные системы.



