Написание быстрого кода для GPU — одна из самых трудоемких и узкоспециализированных задач в области машинного обучения, требующая от инженеров многолетнего опыта и глубокого понимания архитектуры аппаратного обеспечения. Оптимизация даже одного ядра может превратиться в недели кропотливой ручной настройки. Компания RightNow AI решила кардинально изменить эту ситуацию, представив AutoKernel — open-source фреймворк, который автоматизирует этот сложнейший процесс. Проект использует LLM агент для оптимизации GPU, который автономно настраивает ядра в любых моделях PyTorch, делая высокопроизводительные вычисления доступными для широкого круга разработчиков без необходимости в глубоких экспертных знаниях. Ключевое обещание AutoKernel звучит почти фантастически: «загрузите модель перед сном, а утром проснетесь с заметно более быстрыми ядрами». В основе лежит простой, но мощный автономный цикл, в котором ИИ-агент итеративно вносит изменения в код,...
