NVIDIA снизила пропускную способность памяти и NVLink у серийных Rubin

Изображение: OpenAI
NVIDIA пересмотрела характеристики серийных ускорителей Rubin, снизив пропускную способность памяти HBM4 и соединений NVLink, сообщает ServeTheHome. При этом компания повысила пропускную способность сети между системами, а первые стойки Vera Rubin NVL72 уже доступны клиентам крупных облачных провайдеров.
Сильнее всего пересмотр затронул системы HGX NVL8: объём HBM4 сократился с 2,3 до 2,0 ТБ, а пропускная способность памяти снизилась на 26%. Расчётная производительность обучения тоже уменьшилась, тогда как показатель инференса остался прежним.
Для одного базового Rubin пропускная способность HBM4 теперь составляет 19,2 вместо 22 ТБ/с. У NVLink показатель снизился с 3,6 до 3,0 ТБ/с, а у межсистемной сети вырос с 400 до 450 ГБ/с. Расчётная вычислительная производительность базового GPU и объём его памяти не изменились. Объём памяти стойки NVL72 также остался прежним.
Изменения характеристик затронули следующие продукты:
- Vera Rubin NVL72;
- Vera Rubin Superchip;
- Vera Rubin NVL4;
- HGX Rubin NVL8 с процессорами x86;
- HGX Vera Rubin NVL8 с процессорами Vera;
- системы DGX на базе NVL8.
NVIDIA обновила спецификации в сентябре. Прежние значения компания называла предварительными, а новые относятся ко всему оборудованию Rubin с начала поставок. Причины снижения пропускной способности памяти NVIDIA не раскрыла; по предположению издания, компания и поставщики памяти не смогли выйти на заявленные значения. Издание отмечает, что влияние на реальные нагрузки пока неясно: не все задачи одинаково зависят от пропускной способности памяти и соединений.



