Microsoft представила Maia 300: ускоритель с 288 ГБ HBM4 и мощностью 1 кВт
Компания Microsoft анонсировала третье поколение своих специализированных ИИ-ускорителей — Maia 300. Новая архитектура разработана для оптимизации работы собственных облачных сервисов в инфраструктуре Azure и нацелена на радикальное увеличение масштабируемости вычислений.
Технические характеристики и архитектура
Согласно заявлению производителя, Maia 300 будет производиться на мощностях TSMC по техпроцессу N2P. Главным отличием новой итерации стал переход на память стандарта HBM4. На одном чипкете (package) размещено восемь стеков памяти объемом по 36 ГБ каждый, что в сумме дает 288 ГБ видеопамяти с пропускной способностью около 18 ТБ/с. Помимо основного вычислительного кристалла, структура включает два I/O-чиплета и четыре чиплета контроллеров памяти.
Что касается вычислительной мощности, Microsoft заявляет следующие показатели:
- 6,9 PFLOPS при работе с форматом FP8;
- 13,8 PFLOPS при использовании FP4.
Для сравнения: при равном энергопотреблении Maia 300 должен генерировать на 40% больше токенов, чем предыдущее поколение Maia 200.
Масштабируемость и энергопотребление
Архитектура системы предполагает объединение четырех ускорителей в одном модуле. В стандартную стойку (rack) помещается 24 таких модуля, что в сумме дает 96 чипов Maia 300. При полной загрузке энергопотребление стойки может достигать 167 кВт, что сопоставимо с показателями систем NVIDIA серии Vera Rubin NVL72. При этом на один отдельный ускоритель приходится около 1 кВт потребляемой мощности.
Microsoft планирует начать масштабное развертывание этих систем в своих дата-центрах с 2027 года. Цель компании — снизить зависимость от сторонних поставщиков ускорителей и максимально адаптировать железо под специфические задачи своих ИИ-сервисов. Учитывая амбиции по масштабированию, компания может столкнуться с колоссальными затратами на закупку памяти и производство, так как для развертывания миллиона таких чипов потребуется 576 ПБ памяти HBM4.
Гика
