Google, по слухам, привлекает AMD к разработке следующего поколения TPU
Согласно заметке аналитиков SemiAnalysis, компания Google может сотрудничать со студией AMD над разработкой одного из своих чипов 10-го поколения TPU. Если информация подтвердится, это станет первым значительным участием AMD в проекте кастомного ИИ-ASIC и укажет на то, что Google изучает новый тип ускорителя, объединяющий собственную технологию акселерации с общими вычислительными ядрами для задач, требовательных к CPU.
Гибридный подход для задач обучения с подкреплением
Аналитики SemiAnalysis, цитируемые через источник Sean, указывают, что рынок обсуждает проект TPU v10-го поколения, в котором участвует AMD. Несмотря на то, что у AMD есть собственная команда разработки кремния, её участие будет первым реальным вкладом в кастомный ИИ-ASIC. Ключевым фактором здесь является интеллектуальная собственность AMD в области продвинутой упаковки и SoIC (системные интегральные схемы), а также возможность использования CPU IP.
В отличие от традиционных задач обучения больших языковых моделей (LLM), которые остаются преимущественно зависимыми от акселераторов, задачи обучения с подкреплением (reinforcement learning) и работы агентов требуют значительно больше общевычислительных ресурсов вокруг операций акселерации. Именно поэтому Google и её клиенты могут продвигать идею интеграции CPU-ядер непосредственно в пакет TPU.
Отношение к предыдущим поколениям TPU
Google уже разработала девять поколений собственных ИИ-ускорителей, при этом реальным создателем кремния выступала компания Broadcom. Учитывая этот опыт и обширные знания в архитектуре акселераторов, вероятность того, что AMD будет реализовывать стандартные TPU v10i для вывода или v10t для обучения, оценивается как низкая. Скорее всего, Google нуждается именно в том, что может предоставить только производитель CPU, подобный AMD: IP-ядра процессора, программируемую логику, межсоединения и определённые знания в области продвинутой упаковки.
В качестве примера эволюции можно привести системы TPU 8i, предназначенные для вывода, рассуждений и задач RL. В них на каждые два ускорителя приходится один CPU Google Axion. Для сравнения, серверы с 7-м поколением TPU использовали один процессор Xeon 'Emerald Rapid' на каждые четыре ускорителя. Эксперты отмечают, что в некоторых случаях соотношение 1:1 между CPU и акселераторами является оптимальным, что указывает на то, что будущее ИИ может быть гораздо более зависимым от вычислительной мощности CPU, чем мы думаем.
Роль AMD и потенциальные альтернативы
Интеграция CPU-ядер непосредственно в пакет TPU логична с точки зрения производительности и энергопотребления: сокращение расстояния между общими вычислениями и тензорными вычислениями улучшает эффективность. AMD уже имеет опыт создания таких гибридных дизайнов для дата-центров, например, Instinct MI300A, который объединяет чиплеты x86 и акселераторов. Гипотетический дизайн Google мог бы сочетать вычислительные чиплеты TPU, разработанные Google, с CPU и HBM от AMD в тесно интегрированном пакете.
Возможен также вариант с участием Intel, учитывая наличие у компаний нескольких стратегических коллабораций. Однако у Intel нет опыта создания гибридных дата-центровых дизайнов x86+акселераторов, что делает AMD более вероятным кандидатом на данном этапе.
На данный момент природа предполагаемого участия AMD остаётся неясной. Важно понимать, что речь может идти не о том, чтобы AMD помогала Google собрать ещё один TPU в привычном понимании, а о том, что Google рассматривает нового CPU-ориентированного члена семьи TPU v10, оптимизированного специально для RL и задач агентов, используя компоненты от AMD.