Vertical Compute и imec планируют размещать память прямо над логикой для ускорения ИИ
В гонке за мощностью ИИ-ускорителей основное внимание часто уделяется количеству ядер и терафлопсам, однако критическим узким местом остается физическое расстояние между процессором и памятью. Перемещение огромных массивов данных требует колоссальных затрат энергии и времени. Европейский стартап Vertical Compute совместно с исследовательским центром imec предложили решение: архитектуру Vertically Integrated Memory (VIM), которая предполагает размещение высокоплотного магнитного запоминающего устройства непосредственно над вычислительной логикой, сокращая путь передачи данных с сантиметров до нескольких десятков нанометров.
Проблема «бутылочного горлышка» памяти становится всё более острой по мере роста масштабов нейросетей. В классических системах логика и память пространственно разделены, и данные должны перемещаться через подложку, печатную плату или сложные интерконнекты. Это не только увеличивает задержки (latency), но и делает систему крайне энергозатратной. Даже использование HBM (High Bandwidth Memory), которая значительно ускоряет процесс за счет стекирования кристаллов, не решает проблему полностью: HBM остается внешним компонентом в рамках упаковки, что сохраняет высокую стоимость и сложность интеграции.
От лаборатории к производству: план развития VIM
Партнерство Vertical Compute и imec выходит за рамки чисто исследовательского сотрудничества. Компании представили конкретный технологический путь, направленный на преодоление разрыва между лабораторными прототипами и промышленным производством. Программа развития включает два ключевых этапа: полную валидацию существующей архитектуры на 40-нм тестовом чипе и подготовку к выпуску первого предсерийного продукта на базе 16-нм техпроцесса.
Технологический процесс будет разделен: логическая часть будет изготавливаться на стандартных коммерческих фабриках (foundries), а затем в imec будет добавлен проприетарный слой интегрированной памяти VIM. Ключевую роль в этом переходе играет европейская пилотная линия NanoIC, финансируемая в рамках программ Chips Joint Undertaking (при участии Бельгии, Франции, Германии, Финляндии, Ирландии и Румынии). Эта инфраструктура призвана помочь новым архитектурам не «застрять» на стадии научных публикаций, а дойти до реального промышленного внедрения.
Принцип «Data Proximity» вместо «Data Movement»
Суть концепции VIM заключается в переходе от парадигмы перемещения данных (data movement) к парадигме их близости (data proximity). Вместо того чтобы постоянно перекачивать информацию между отдельными блоками, архитектура стремится хранить и считывать данные там, где происходит вычисление. Согласно заявлениям разработчиков, это должно обеспечить снижение задержек доступа к памяти, значительную экономию энергии за счет сокращения дистанции передачи и уменьшение инфраструктурных затрат, так как потребность в дорогостоящей внешней памяти HBM снижается.
Важно отметить, что на данный момент компания не представила независимых бенчмарков или результатов измерений, которые могли бы подтвердить заявленные показатели эффективности. Пока остается неясным, станет ли VIM специализированным дополнением к существующим ускорителям, решением для пограничных вычислений (Edge AI) или основой для принципиально новых архитектур. Также остаются открытыми вопросы теплоотвода при вертикальном стекировании и долговечности магнитных ячеек в условиях высокой плотности компоновки.
Архитектурный сдвиг и европейская стратегия
Проект Vertical Compute и imec интересен тем, что он пытается решить фундаментальную проблему современного ИИ-железа. Рост вычислительной мощности бесполезен, если данные продолжают перемещаться между памятью и логикой с огромными затратами времени. Попытка интегрировать магнитную память прямо над вычислительными блоками выглядит гораздо более значимым шагом, чем очередная косметическая оптимизация существующей иерархии памяти. Однако реализация этого подхода требует одновременного владения технологиями памяти, логики и сложной упаковки.
Стратегически важно, что проект имеет глубокую европейскую интеграцию. Использование NanoIC — это не просто политический жест, а попытка создать работающий мост между передовыми исследованиями и масштабируемым промышленным производством. Если переход от 40-нм валидации к 16-нм предсерийному образцу завершится успешно, это станет важным тестом для способности Европы переводить инновационные архитектуры в реальный индустриальный сектор.
Проблема «бутылочного горлышка» памяти становится всё более острой по мере роста масштабов нейросетей. В классических архитектурах логика и память пространственно разделены, и данные должны перемещаться через подложку, печатную плату или сложные интерконнекты. Это не только увеличивает задержки (latency), но и делает систему крайне энергозатратной. Даже использование HBM (High Bandwidth Memory), которая значительно ускоряет процесс за счет стекирования кристаллов, не решает проблему полностью: HBM остается внешним компонентом в рамках упаковки, что сохраняет высокую стоимость и сложность интеграции.
От лаборатории к производству: план развития VIM
Партнерство Vertical Compute и imec выходит за рамки чисто исследовательского сотрудничества. Компании представили конкретный технологический путь, направленный на преодоление разрыва между лабораторными прототипами и промышленным производством. Программа развития включает два ключевых этапа: валидацию существующего 40-нм тестового чипа и подготовку к выпуску 16-нм предсерийного продукта. Технологический процесс будет разделен: логическая часть будет изготавливаться на стандартных коммерческих фабриках (foundries), а затем в imec будет добавлен проприетарный слой интегрированной памяти VIM. Ключевую роль в этом переходе играет европейская пилотная линия NanoIC, финансируемая в рамках программ Chips Joint Undertaking (включая участие Бельгии, Франции, Германии, Финляндии, Ирландии и Румынии). Эта инфраструктура призвана помочь новым архитектурам не «застрять» на стадии научных публикаций, а дойти до реального промышленного внедрения.
Принцип «Data Proximity» вместо «Data Movement»
Суть концепции VIM заключается в переходе от парадигмы перемещения данных (data movement) к парадигме их близости (data proximity). Вместо того чтобы постоянно перекачивать информацию между отдельными блоками, архитектура стремится хранить и считывать данные там, где происходит вычисление. Согласно заявлениям разработчиков, это должно обеспечить значительные выигрыши в производительности и резкое снижение энергопотребления, а также уменьшить зависимость от дорогостоящей HBM. Однако важно отметить, что на данный момент компания не представила независимых бенчмарков или результатов измерений, которые могли бы подтвердить эти показатели. В открытом доступе пока нет конкретных цифр по реальным задержкам, энергозатратам на один цикл обращения к данным, плотности интеграции, выходу годных кристаллов или тепловому режиму в условиях, приближенных к рыночным.
Вертикальная интеграция памяти создает серьезные технические вызовы. Когда ячейки памяти располагаются непосредственно над вычислительной логикой, возникают вопросы к теплоотводу, долговечности компонентов и стабильности производственного процесса. Также критически важными станут характеристики чтения и записи используемой магнитной памяти, её жизненный цикл и устойчивость к ошибкам. Поскольку текущие анонсы не содержат этих деталей, технологию VIM (Vertical Integrated Memory) стоит рассматривать как многообещающий архитектурный подход, а не как готовую альтернативу HBM или другим устоявшимся типам памяти.
Архитектурный сдвиг против «косметических» улучшений
Проект Vertical Compute и imec интересен тем, что он пытается решить фундаментальную проблему современного ИИ-железа. Рост вычислительной мощности бесполезен, если данные продолжают перемещаться между памятью и логикой с огромными затратами времени и энергии. Попытка интегрировать магнитную память прямо над вычислительными блоками выглядит гораздо более значимым шагом, чем очередная косметическая оптимизация существующей иерархии памяти. Тем не менее, не стоит поддаваться маркетинговому оптимизму: на данный момент мы видим лишь амбициозный план разработки, включающий валидацию на 40-нм техпроцессе, подготовку прототипов на 16-нм и поддержку европейских пилотных линий. Если этот подход окажется жизнеспособным и экономически эффективным, VIM может стать ключевым решением там, где современные ИИ-системы страдают от «узкого места» в виде перемещения данных, высокого энергопотребления и стоимости памяти. Пока же это лишь обещание с четко обозначенным путем развития.