AMD ускоряет адаптацию ИИ-моделей для ПК с помощью HRX Loom
AMD представила результаты экспериментального проекта, в рамках которого 50 популярных моделей из Hugging Face, охватывающих 18 различных архитектур, были перенесены на клиентские графические процессоры всего за несколько дней. Ключевым инструментом в этом процессе стал HRX Loom — программный стек, использующий агентный рабочий процесс (agentic workflow) для автоматизации рутинных задач по портированию кода с помощью ИИ-инструментов.
Основная сложность при запуске локального ИИ на пользовательском железе заключается не только в вычислительной мощности или объеме памяти. Каждой модели требуются специфические ядра (kernels), соответствующие среды выполнения и оптимизированные программные реализации под конкретную архитектуру. Из-за этого новые или малоизвестные модели часто требуют длительного времени для эффективной работы на новых платформах. AMD стремится решить эту проблему с помощью Loom, автоматизируя процесс адаптации софта под железо.
Автоматизация через ИИ-агентов
Текущая версия Loom 0.1 включает в себя компиляторы, среду выполнения (runtime), консольные утилиты и Python-интерфейсы для систем x86-64 под управлением Linux и Windows. Хотя проект ориентирован на работу с CPU и NPU, основное внимание сейчас уделено AMD GPU для локального запуска моделей. В эксперименте инженеры AMD использовали так называемые «loom-skills» — специальные навыки, которые позволяют ИИ-агентам, таким как Codex, Claude Code или Pi, получать техническую информацию и рабочие процессы. Это позволяет агентам самостоятельно создавать, адаптировать и тестировать программный код моделей на реальном оборудовании, избавляя разработчиков от необходимости вручную прописывать каждое ядро.
Важно отметить, что в эксперименте участвовали не просто 50 вариаций одной и той же модели, а 50 различных моделей из 18 разных архитектур. Это делает результаты теста более репрезентативными для реальных условий использования.
Производительность и сравнение
В качестве примера AMD представила реализацию модели Qwen3.8-Flash-Next, созданную на базе Ryzen AI Max+ 395. Пакет включает определения модели для квантованного чекпоинта в формате GGUF и позволяет запускать стек через AMDGPU с предоставлением OpenAI-совместимого интерфейса чата. Согласно данным разработчиков, полученные результаты превосходят показатели llama.cpp: при обработке промпта длиной 32K символов производительность оказалась в 1,5–2,1 раза выше по сравнению с бэкендом ROCm в llama.cpp и примерно в 1,9 раза выше по сравнению с Vulkan-бэкендом.
Однако к этим цифрам стоит относиться с осторожностью. Это данные экспериментального проекта, а не масштабные независимые бенчмарки. На пропускную способность влияют множество факторов: тип квантования, длина контекста, размер батча (batch size) и конкретные ядра. Тесты лишь показывают, что новый стек способен конкурировать с существующими решениями в определенных сценариях.
Борьба за экосистему
Главная ценность проекта заключается в скорости. Если AMD удастся сократить время портирования до нескольких дней, это нивелирует один из главных недостатков компании перед NVIDIA. У NVIDIA есть многолетнее преимущество в виде экосистемы CUDA, но автоматизированный подход на базе компиляторов и ИИ-агентов может значительно сократить разрыв во времени между выходом новой модели и её оптимизированной реализацией под AMD GPU.
Тем не менее, HRX Loom всё еще находится на ранней стадии разработки. Даже опубликованные пакеты моделей могут требовать сборочных версий (development builds) с нестабильными интерфейсами. Например, для работы примера с Qwen3.8 требуется более свежая версия Loom, чем та, что доступна в официальном репозитории PyPI.