Samsung LPDDR5X-PIM: память с вычислительной логикой ускоряет ИИ в три раза
Samsung представила на конференции Hot Chips 2026 новый тип памяти LPDDR5X-PIM, который интегрирует вычислительную логику непосредственно в чипы оперативной памяти. Технология Processing-in-Memory (PIM) позволяет выполнять базовые операции искусственного интеллекта прямо внутри DRAM, минимизируя необходимость передачи данных между памятью и процессором.
Технически новый модуль сохраняет внешнее сходство с обычным LPDDR5X, используя упаковку с 561 контактом и два 64-битных ранга. Однако ключевое отличие кроется внутри: в память встроен блок логики, способный выполнять операции типа Multiply-Accumulate (MAC). Именно такие вычисления составляют основу работы нейронных сетей, поэтому перенос их в память резко снижает нагрузку на каналы связи с CPU или GPU.
Производитель заявляет о впечатляющем росте эффективности. Если стандартный LPDDR5X-9600 имеет теоретическую пропускную способность 76,8 ГБ/с, то эффективная скорость работы с данными в режиме PIM достигает до 614 ГБ/с. Это не означает физическое ускорение шины памяти в восемь раз, но позволяет обрабатывать значительно больше данных без их выгрузки из чипа.
В тестах на задачах искусственного интеллекта результаты подтверждают потенциал технологии: время выполнения модели сократилось более чем в два раза (фактор 2,28), а скорость генерации токенов выросла в 3,01 раза по сравнению с обычным памятью. Это делает решение крайне привлекательным для задач локального инференса.
Главная цель разработки — снижение стоимости и энергопотребления мощных ИИ-систем. Традиционные решения на базе HBM обеспечивают высокую пропускную способность, но требуют огромного количества кремния и сложной упаковки, что делает их дорогими. LPDDR5X-PIM пытается перенести часть преимуществ HBM на более дешевый тип памяти, что интересно не только для дата-центров, но и для ноутбуков, мини-ПК и систем искусственного интеллекта на границе сети (Edge).
Сам Сэмсунг подчеркивает, что несмотря на энергозатраты самой вычислительной логики внутри памяти, общий энергопотребление системы не вырастет. Это связано с тем, что объем данных, которые нужно перемещать между памятью и процессором, сокращается значительно быстрее, чем растут затраты на внутренние вычисления.
Компания рассматривает LPDDR5X-PIM не как разовый эксперимент, а как шаг к будущему стандарта. Уже ведется работа над внедрением этой технологии в память следующего поколения LPDDR6X, а также идет процесс совместной стандартизации с организацией JEDEC.
Гика
