OpenAI представила чип Jalapeño: ASIC на 700 Вт превосходит флагманскую GPU Nvidia GB300 по энергоэффективности

Результаты бенчмарков: эффективность против мощности

В основе заявления OpenAI лежит сравнение чипа Jalapeño с акселераторами Nvidia, рассчитанными на потребление 1200 Вт и 1400 Вт. При этом сам чип OpenAI потребляет не более 550 Вт в режиме устойчивой нагрузки. На тестовой платформе SemiAnalysis InferenceX компания заявляет о росте пропускной способности до 1,9 раза при той же мощности и снижении задержки на 3,6 раза по сравнению с системами GB200 и GB300.

Открытые модели, использованные для тестирования, включают GPT-OSS 120B, DeepSeek R1 670B и Kimi K2.5 от Moonshot AI. Наибольшие преимущества Jalapeño наблюдаются в режимах с низкой задержкой: при самых быстрых настройках интервала между токенами (time-between-tokens) чип OpenAI демонстрирует рост пропускной способности от 8,6 до 104,3 раза по сравнению с GB300.

Однако важно понимать контекст этих цифр. Результаты были нормализованы к заявленному TDP (тепловой мощности) каждого акселератора. При этом OpenAI указала, что измеренное потребление Jalapeño в тестах не превышало 550 Вт. Если провести сравнение с учётом полной утилитарной мощности системы — 1,18 кВт для Jalapeño против 2,55 кВт для GB300 — разрыв в эффективности сокращается до примерно 1,5 раза.

Ещё один фактор, влияющий на результаты: в тестах использовался режим предсказания одиночного токена (single-token prediction), тогда как в промышленных развертываниях Nvidia часто применяется многотокенное предсказание (multi-token prediction). При сравнении Jalapeño с GB300, работающим в режиме мульти-токенов, пиковое преимущество по эффективности падает до 1,5 раза.

Архитектура и память: борьба за HBM

Каждая упаковка Jalapeño включает вычислительный кристалл и шесть стеков памяти HBM4, что в сумме составляет 216 ГБ с пропускной способностью 15,4 ТБ/с. Для сравнения: система GB300 оснащена 288 ГБ памяти HBM3E при номинальной мощности 1400 Вт. Таким образом, на единицу заявленной мощности чип OpenAI обеспечивает примерно на 50% больше объема памяти.

OpenAI подчеркивает, что главным узким местом архитектуры является не количество памяти, а её пропускная способность (aggregate HBM bandwidth). В условиях дефицита полупроводниковой продукции память стала самым ограниченным ресурсом. Производители Samsung, SK hynix и Micron продали свои мощности по производству HBM на 2027 год.

Важно отметить, что масштабирование Jalapeño в рамках соглашения OpenAI с Broadcom на 10 ГВт сделало бы компанию новым значимым претендентом на рынок HBM4. Сейчас доминирующее положение Nvidia обеспечивается многолетними договоренностями о выделении мощностей со стороны SK hynix.

Технологические ограничения и отсутствие конкуренции с Rubin

Критически важно отметить, что Jalapeño не сравнивался с платформой Vera Rubin от Nvidia. Это решение предназначено для обеспечения первых гигаватт мощностей в дата-центрах OpenAI, которые компания планирует развернуть во второй половине 2026 года. Отсутствие сравнения с Rubin означает, что мы пока не знаем, сможет ли Jalapeño конкурировать с новейшим флагманом конкурента.

Кроме того, чип OpenAI предназначен исключительно для инференса (вывода результатов). Он не поддерживает обучение моделей — область, где аппаратное обеспечение Nvidia остаётся безальтернативным лидером. Это фундаментальное различие в назначении устройств ограничивает прямую конкуренцию.

Второе поколение чипа находится на стадии подготовки к выпуску (tapeout), а разработка третьего поколения уже ведётся. Первый чип использует процесс TSMC класса 3 нм, что помещает OpenAI в те же очереди по производству кристаллов и упаковке, что и Blackwell и Rubin.

Финансовая зависимость от Nvidia

Несмотря на попытки создать собственное аппаратное обеспечение, OpenAI остаётся финансово зависимой от компании, чьи чипы она тестирует. 17 августа Nvidia согласилась предоставить до $105 млрд финансирования для дата-центра в Огайо, который арендует OpenAI. Ричард Хо, вице-президент по аппаратному обеспечению OpenAI, заявил: «Nvidia — отличный партнёр, и нам всё ещё нужно много Nvidia».

Это создаёт парадоксальную ситуацию: компания разрабатывает собственный чип для снижения затрат, но при этом заключает многомиллиардные сделки на закупку оборудования у конкурента. Такой подход позволяет OpenAI диверсифицировать риски и не зависеть от одного поставщика, но также показывает, что переход на собственное железо будет постепенным.

Выводы и перспективы

Чип Jalapeño демонстрирует высокую эффективность в задачах инференса, особенно при работе с открытыми моделями. Однако его преимущества не являются абсолютными: они зависят от режима работы (single-token vs multi-token) и сравниваются с предыдущими поколениями оборудования Nvidia.

Отсутствие сравнения с Vera Rubin и специализация только на инференсе оставляют вопросы о полной конкурентоспособности Jalapeño в будущем. Тем не менее, успешное внедрение чипа в дата-центры OpenAI во второй половине 2026 года может стать важным шагом к снижению зависимости от Nvidia.

Второе поколение чипа ожидается в ближайшие месяцы, а третье уже разрабатывается. Если OpenAI сможет решить проблемы с доступностью HBM4 и масштабированием производства, Jalapeño может стать значимым игроком на рынке AI-инференса.