Создание специализированных ИИ-чипов — сложный и дорогостоящий процесс, тормозящий инновации. Однако исследователи из MIT Han Lab [1] представили решение, способное изменить правила игры. Их новый фреймворк-компилятор LEGO автоматизирует проектирование аппаратного обеспечения, превращая высокоуровневые описания нейронных сетей напрямую в готовый RTL-код. Этот подход не только ускоряет разработку, но и открывает беспрецедентную гибкость в создании эффективных пространственных ИИ-ускорителей.

• Почему генерация без шаблонов — это прорыв?
• Как работает компилятор LEGO: пошаговый разбор
• LEGO против Gemmini: кто эффективнее?
• «Железо как код»: что LEGO значит для индустрии ИИ

Почему генерация без шаблонов — это прорыв?

Существующие подходы либо анализируют потоки данных, не создавая аппаратное обеспечение, либо генерируют RTL из настроенных вручную шаблонов с фиксированной топологией. Эти методы серьезно ограничивают архитектурное пространство и плохо справляются с современными рабочими нагрузками, где требуется динамически переключать потоки данных (например, свертки, depthwise-свертки, attention). LEGO решает эту проблему, напрямую работая с любыми потоками данных и их комбинациями, генерируя и архитектуру, и RTL-код из высокоуровневого описания.

Как работает компилятор LEGO: пошаговый разбор

Процесс работы фреймворка можно разделить на три ключевых этапа:

• Деконструкция (Входной IR): LEGO моделирует тензорные программы [2] как вложенные циклы, используя аффинные отношения для сопоставления данных и потоков. Такой подход сводит поиск возможностей для повторного использования данных в ИИ-ускорителях и генерацию адресов к задаче из линейной алгебры, убирая из анализа сложные операции деления и взятия остатка.
• Архитектура (Front-end): На этом этапе происходит синтез графа функциональных блоков (FU) и совместное проектирование памяти. Главная цель — максимизировать повторное использование данных на кристалле. LEGO формулирует эту задачу как решение систем линейных уравнений, вычисляет минимальные остовные деревья для оптимизации соединений и синтезирует банковую память для параллельного доступа. Фреймворк также эффективно объединяет несколько пространственных потоков данных в единую архитектуру.
• Компиляция и оптимизация (Back-end): Здесь происходит оптимизация с помощью линейного программирования [3] и графовых преобразований. Архитектурный граф преобразуется в граф из примитивов (FIFO, мультиплексоры), после чего применяются несколько проходов: согласование задержек через LP, перестройка широковещательных рассылок в эффективные цепочки и извлечение деревьев редукции. Эти оптимизации обеспечивают экономию площади до 35% и энергии до 28% по сравнению с наивной генерацией кода.

LEGO против Gemmini: кто эффективнее?

Для оценки производительности LEGO сравнивали с передовым генератором Gemmini на широком спектре моделей, включая AlexNet, MobileNetV2, ResNet-50, BERT, GPT-2 и Stable Diffusion. При сопоставимых ресурсах (256 MAC, 256 КБ буфера) сгенерированное LEGO аппаратное обеспечение показало в среднем в 3,2 раза большую скорость и в 2,4 раза лучшую энергоэффективность [4]. Преимущество достигается за счет точной модели производительности и способности динамически переключать пространственные потоки данных для каждого слоя.

«Железо как код»: что LEGO значит для индустрии ИИ

LEGO меняет парадигму разработки аппаратного обеспечения:

• Для исследователей: Предлагает математически обоснованный путь от спецификаций вложенных циклов к пространственному аппаратному обеспечению с доказуемыми LP-оптимизациями.
• Для практиков: Реализует концепцию «железо как код для ИИ». Теперь можно нацеливаться на произвольные потоки данных и объединять их в одном ускорителе, позволяя компилятору самому выводить оптимальные соединения, буферы и контроллеры.
• Для руководителей продуктов: Снижает барьер для создания кастомных чипов, позволяя разрабатывать энергоэффективные edge-ускорители, настроенные под конкретные задачи и идущие в ногу с быстро развивающимися ИИ-моделями. Кремний адаптируется к модели, а не наоборот.

Таким образом, LEGO — это не просто очередной исследовательский проект, а практический инструмент, который превращает генерацию аппаратного обеспечения в процесс, схожий с компиляцией ПО. Впечатляющий прирост производительности в 3,2 раза и энергоэффективности в 2,4 раза делает его мощным инструментом для будущего ИИ, открывая путь к более быстрым, дешевым и гибким аппаратным решениям.

Часто задаваемые вопросы

Что такое фреймворк LEGO и в чем его ключевая особенность?

LEGO — это фреймворк-компилятор от MIT Han Lab для проектирования специализированных ИИ-чипов. Его ключевая особенность — это генерация RTL-кода без использования шаблонов, что обеспечивает беспрецедентную гибкость в создании архитектуры пространственных ускорителей для тензорных вычислений.

Как LEGO решает проблему ограниченности существующих подходов к проектированию чипов?

В отличие от существующих методов, которые используют фиксированные шаблоны, LEGO напрямую работает с любыми потоками данных и их комбинациями. Это позволяет ему генерировать оптимальную архитектуру и RTL-код для современных рабочих нагрузок, таких как свертки и attention, где требуется динамическое переключение потоков.

Насколько LEGO эффективнее по сравнению с аналогами?

При сравнении с передовым генератором Gemmini, аппаратное обеспечение, созданное с помощью LEGO, показало в среднем в 3,2 раза большую скорость и в 2,4 раза лучшую энергоэффективность. Преимущество достигается за счет точного моделирования производительности и способности динамически адаптировать архитектуру под каждый слой ИИ-модели.

Что означает концепция «железо как код для ИИ» в контексте LEGO?

Эта концепция означает, что LEGO превращает разработку аппаратного обеспечения в процесс компиляции. Разработчики могут задавать произвольные потоки данных, а компилятор сам выводит оптимальные соединения, буферы и контроллеры, позволяя адаптировать чип под конкретную ИИ-модель, а не наоборот.