Рег.облако запустил инференс ИИ-моделей на NVIDIA B300

Компания расширила GPU-инфраструктуру ускорителями NVIDIA B200 и B300: новые мощности уже доступны клиентам, а B300 используются для инференса моделей внутри ИИ-платформы провайдера.

Облачный и Bare metal провайдер Рег.облако расширил GPU-инфраструктуру ускорителями NVIDIA B200 и B300. Новые мощности предназначены как для клиентских нагрузок, так и для развития собственной ИИ-платформы провайдера. Сервисом уже воспользовались более тысячи клиентов.

Для Рег.облака B300 стали частью локального контура ИИ-платформы. Модели, работающие на собственной инфраструктуре провайдера, доступны российским пользователям без виртуальной частной сети компании, оплачиваются в рублях, и данные запросов не передаются зарубежным поставщикам моделей.

NVIDIA B300 относится к поколению Blackwell Ultra, которое производитель изначально ориентировал в том числе на inference reasoning- и agentic-моделей. В системе HGX B300 восемь ускорителей объединяют более 2 ТБ HBM3E-памяти, что позволяет размещать крупные модели и обслуживать более тяжелые inference-нагрузки.

«Сейчас новые GPU сложно быстро получить: сроки поставок растут, оборудование дорожает, а доступность последних поколений остается ограниченной. Мы получили партию B200 и B300, которой хватает не только для расширения предложения клиентам, но и для развития собственной ИИ-платформы. Часть B300 мы уже ввели в рабочий контур: на них идет инференс моделей непосредственно внутри инфраструктуры Рег.облака», — отмечает Евгений Мартынов, директор по информационным технологиям Рег.облака