Microsoft планирует сделать Maia основными чипами для своих ИИ-сервисов с 2027 года

Microsoft планирует сделать Maia основными чипами для своих ИИ-сервисов с 2027 года

Изображение: OpenAI

Microsoft планирует с 2027 года сделать собственные чипы Maia основой выполнения уже обученных моделей в своих продуктах и сервисах, снижая зависимость от Nvidia. Компания представила ускоритель Maia 300 и намерена развёртывать системы Maia мощностью в несколько гигаватт, сообщает The Next Web.

Maia 300 предназначен для работы уже обученных моделей. Ускоритель рассчитан на длительные диалоги, рассуждающие модели и многошаговые задачи ИИ-агентов.

Microsoft ожидает, что Maia 300 будет выдавать на 40% больше токенов на каждый мегаватт мощности, чем ведущие системы на GPU. Токены — единицы текста, который генерируют модели. Компания не назвала системы, с которыми сравнивала новый ускоритель.

В Maia 300 вычислительные блоки отделены от подсистем памяти и обмена данными и размещены на отдельных кристаллах — чиплетах. Вычислительные чиплеты выпускаются по техпроцессу TSMC N2P, а на каждом чипе установлено восемь стеков памяти HBM4. По объяснению Microsoft, такая конструкция позволяет отвести больше площади кремния под вычисления и подобрать технологию для каждой части чипа.

Предыдущее поколение, Maia 200, уже обслуживает Microsoft Copilot и выполняет модели OpenAI и собственные модели Microsoft.

Переход на Maia касается работы готовых моделей. Для обучения моделей Microsoft сотрудничает с Nvidia и AMD, уточняет CNBC.

Сергей
Автор: Сергей
Пишу о кибербезопасности и информационных технологиях на простом и понятном языке
Комментарии:

Как мы обрабатываем данные: политика обработки персональных данных