Oracle открыла доступ к процессорам Nvidia Vera отдельно от GPU

Oracle открыла доступ к процессорам Nvidia Vera отдельно от GPU

Изображение: OpenAI

В облаке Oracle Cloud Infrastructure (OCI) стали доступны процессоры Nvidia Vera для задач ИИ-агентов — их можно использовать отдельно от GPU. Nvidia и Oracle сообщили, что ресурсы CPU и GPU можно наращивать независимо друг от друга.

В собственных тестах Tom’s Hardware сервер с Vera более чем вдвое обошёл систему с двумя Intel Xeon 6980P по пропускной способности памяти. Издание получило этот результат в тесте Stream вне инфраструктуры OCI. Полную конфигурацию испытательного стенда оно пока не опубликовало.

Nvidia рассчитывает использовать Vera для задач, которые ИИ-агенты выполняют между обращениями к моделям, в том числе для запуска кода и получения данных. По заявлению Nvidia, высокая однопоточная производительность и пропускная способность памяти помогают быстрее выполнять эти операции и сокращать простой GPU.

OpenAI, получившая ранний доступ к Vera в OCI, заявила, что внедряет процессоры в промышленную эксплуатацию для запуска кода и инструментов в изолированных средах ИИ-агентов.

Параллельно в OCI стали доступны стойки Vera Rubin NVL72. Nvidia и Oracle планируют нарастить мощность этой инфраструктуры до нескольких гигаватт.

Oracle также намерена предложить HGX Rubin NVL8 с восемью GPU Rubin и двумя процессорами Intel Xeon 6. Эта конфигурация сохранит совместимость с приложениями под x86.

Сергей
Автор: Сергей
Пишу о кибербезопасности и информационных технологиях на простом и понятном языке
Комментарии:

Как мы обрабатываем данные: политика обработки персональных данных