Modal заявляет о двукратном преимуществе NVIDIA Vera в пропускной способности
Облачный провайдер Modal, специализирующийся на инфраструктуре для разработчиков ИИ, опубликовал данные тестирования новых процессоров NVIDIA Vera. Согласно результатам, в сценариях высокой многопоточной нагрузки (throughput) архитектура Vera демонстрирует до двукратного превосходства над текущими решениями от Intel (Granite Rapids) и AMD (Zen 5 EPYC).
Специфика нагрузки и роль памяти
Для оценки производительности Modal разработал собственный набор тестов Agentless Agent Bench. Он включает 50 сценариев, имитирующих работу ИИ-агентов: компиляцию кода, поиск файлов, операции с Git и эмуляцию устройств. Важно понимать, что тесты измеряли не скорость выполнения одной задачи (latency), а пропускную способность — то есть количество успешно завершенных задач за фиксированный период при одновременном запуске множества процессов.
Ключевым фактором такого превосходства Modal называет огромную пропускную способность памяти. Процессоры Vera на базе архитектуры Arm обеспечивают до 1.2 TB/s памяти LPDDR5X. Для сравнения: у Intel Granite Rapids этот показатель составляет около 844 GB/s, а у систем на базе AMD Zen 5 EPYC — 576 GB/s. Высокая скорость обмена данными позволяет Vera обслуживать больше параллельных «песочниц» (sandboxes) на одно ядро без потери производительности, что критично для облачных сред с непредсказуемым графиком нагрузки.
Нюансы тестирования и конкуренция
Однако результаты не так однозначны, как может показаться из заголовков. При тестировании задержек (serial latency) на не нагруженных другими задачами системах Vera не всегда оказывалась первой. Modal признает, что в некоторых сценариях преимущество было незначительным, а разрыв между архитектурами Arm и x86 может быть обусловлен разной степенью оптимизации софта под конкретные наборы инструкций.
Также стоит учитывать контекст: Vera — это специализированный продукт, оптимизированный под задачи ИИ-агентов и обучения с подкреплением, в то время как Intel и AMD создают универсальные серверные процессоры для широкого спектра задач (от баз данных до HPC). Тем не менее, конкуренты уже готовят ответ: AMD планирует выпустить процессоры Venice с пропускной способностью до 1.6 TB/s, а Intel обещает значительный прирост в Diamond Rapids к 2027 году.
На текущий момент Modal планирует использовать Vera как дополнение к существующему парку систем на Intel и AMD, а не полную замену. Несмотря на впечатляющие цифры, эксперты ожидают независимых тестов, чтобы подтвердить, насколько эти показатели применимы к реальным рабочим нагрузкам вне специализированных бенчмарков Modal.
Гика
