Arm представила Neoverse CSS N4 'Ranger' с 128 ядрами

Программа Compute Subsystem (CSS) от Arm представляет собой инфраструктуру для разработки полукастомных чипов. Она позволяет крупным технологическим компаниям и облачным провайдерам собирать собственные процессоры на базе лицензионных IP-ядер Arm, варьируя количество ядер, объём кэша, интерфейсы ввода-вывода и другие параметры. Именно так создавались вычислительные модули для Azure, Google Cloud, а также DPU-устройства для Nvidia и Intel. Новое поколение Neoverse CSS N4 расширяет возможности этой платформы, предлагая значительно более высокую плотность вычислений и современную архитектуру памяти.

Согласно официальным данным, Neoverse CSS N4 поддерживает конфигурации от 8 до 128 ядер Neoverse N4. Максимальная частота работы ядер заявлена на уровне 3,8 ГГц. При этом Arm не уточнила, как именно меняется максимальная частота в зависимости от количества активных ядер; логично предположить, что при увеличении числа ядер до предела в 128 единиц тактовая частота будет снижаться для сохранения энергоэффективности и теплового баланса. На системном уровне платформа масштабируется за пределы одного кристалла: поддерживаются многокристальные (chiplet) и многосокетные архитектуры. Для межчипового взаимодействия используются стандарты UCIe, а также специфические интерфейсы партнёров, обозначенные как «partner-specific PNYs».

В части подсистемы памяти Neoverse CSS N4 предлагает выбор между стандартами DDR5 и LPDDR6. Объём кэша третьего уровня (L3) достигает 256 МБ на один кристалл. Локальный кэш второго уровня (L2) составляет до 2 МБ на каждое ядро. Кэш первого уровня (L1) разделён на инструкционный и данные, каждый из которых имеет объём 64 КБ на ядро. Для периферийных подключений поддерживается до 128 линий PCIe 7.0 или PCIe 6.0, а также стандарт CXL 4.0. Эти характеристики делают платформу пригодной для задач с высокой пропускной способностью и низкой задержкой, характерных для современных облачных сервисов и ускорителей искусственного интеллекта.

Сравнение с предыдущим поколением Neoverse CSS N2 демонстрирует существенный прогресс. Старая платформа ограничивалась 64 ядрами, 1 МБ кэша L2 на ядро и 64 МБ кэша L3. Поддерживались только DDR5 или LPDDR5, а количество линий PCIe 5.0 и CXL не превышало 64. Переход на N4 удваивает максимальное количество ядер на кристалле, увеличивает объём кэша L2 вдвое и L3 вчетверо, а также расширяет возможности интерфейсов ввода-вывода. Это позволяет заказчикам создавать более мощные и энергоэффективные решения без необходимости радикальной смены архитектуры.

Arm заявляет, что Neoverse CSS N4 с 128 ядрами, работающими на частоте 3 ГГц и оснащённые 2 МБ кэша L2 на ядро, обеспечивает вдвое большую производительность сокета по сравнению с Neoverse N3. Также утверждается о повышении производительности на ватт в 1,25 раза и увеличении пропускной способности памяти в 1,75 раза. Эти показатели основаны на внутренних оценках компании и отражают потенциал платформы в идеальных условиях. Реальные результаты могут варьироваться в зависимости от конкретной реализации заказчиком, выбранного программного обеспечения и характера рабочих нагрузок.

Важно различать назначение серий ядер Arm. Ядра серии N оптимизированы для максимальной энергоэффективности и производительности на ватт, что делает их идеальными для массовых облачных задач, сетевых ускорителей и встраиваемых систем. Серия V, напротив, ориентирована на максимальную абсолютную производительность. Например, собственный процессор AGI от Arm построен на ядрах Neoverse V3, а предыдущее поколение Grace от Nvidia использовало ядра Neoverse V2. Ядра серии N традиционно не используются в высокопроизводительных серверных CPU, а скорее в менее требовательных ускорителях, таких как Intel IPU Adapter E2100 на базе Neoverse N1, или в облачных решениях вроде Microsoft Azure Cobalt 100 на базе Neoverse N2. Более новое решение Cobalt 200 уже перешло на ядра Neoverse V3, что подтверждает тренд на использование серии V для задач, требующих высокой вычислительной мощности.

Подробности о самих ядрах Neoverse N4, получивших кодовое имя Dionysus, пока ограничены. В дорожной карте Arm на 2024 год также упоминалась платформа Neoverse CSS V4 с кодовым именем Vega, которая, вероятно, будет ориентирована на более производительные сценарии. В отличие от анонсов Intel или AMD, где конечные продукты становятся доступны широкой аудитории, Neoverse N4 не появится в розничной продаже. Это решение предназначено исключительно для партнёров, использующих платформу CSS для создания собственных полукастомных чипов. Arm пока не раскрыла список конкретных партнёров, которые уже начали работу с этой платформой, однако исторически для успеха программы CSS достаточно нескольких крупных контрактов с ведущими облачными провайдерами.

Дополнительные развёртывания AGI CPU

Параллельно с анонсом Neoverse CSS N4, Arm объявила о новых развёртываниях собственного процессора AGI, построенного на ядрах Neoverse V3. К списку клиентов, уже использующих AGI, добавились Oracle и ByteDance. Ранее о внедрении этого чипа сообщали Meta, Lenovo, SAP, OpenAI и Cloudflare. Это свидетельствует о растущем интересе к собственным решениям Arm в дата-центрах, хотя основная стратегия компании по-прежнему остаётся лицензированием IP-ядер для создания кастомных чипов партнёрами.

Хотя Arm подробно описала архитектуру AGI на конференции Hot Chips, реальные данные о производительности в реальных условиях пока отсутствуют. Это типично для новых Arm-процессоров: например, для Microsoft Azure Cobalt 200 и AWS Graviton5 доступны лишь сравнения с предыдущими поколениями. Arm утверждает, что AGI обеспечивает более чем вдвое большую производительность на стойку по сравнению с последними x86-системами, однако эти цифры основаны на внутренних оценках, а не на независимых бенчмарках. AGI представляет собой двухкристальный процессор с до 136 ядрами Neoverse V3, до 272 МБ кэша L3 и частотой до 3,7 ГГц. Он построен по 3-нм техпроцессу и поддерживает до 6 ТБ памяти на чип с частотой до DDR5-8800. Ключевым архитектурным отличием от решений AMD и Intel является размещение памяти и интерфейсов ввода-вывода на том же кристалле, что и вычислительные ядра, что, по заявлению Arm, обеспечивает задержку памяти менее 100 нс.

Несмотря на амбициозные планы и появление собственного производственного продукта, Arm продолжает позиционировать AGI как демонстрацию возможностей своей архитектуры в дата-центрах. Основной бизнес-моделью компании остаётся предоставление IP-ядер для создания кастомных чипов такими гигантами, как Microsoft, Nvidia, Meta и Google Cloud. Платформа Neoverse CSS N4 укрепляет эту позицию, предлагая партнёрам более гибкие и мощные инструменты для разработки собственных решений, оптимизированных под конкретные облачные и вычислительные нагрузки.