Энтузиаст научил открытую модель ACE-Step XL сочинять музыку на 16 ГБ видеопамяти

Стандартные Gradio-интерфейсы для локальной генерации музыки, как сообщает Хабр, годятся только для быстрых тестов. С 4-миллиардными DiT-моделями вроде ACE-Step XL система падает из-за нехватки памяти, а смена сэмплера требует перезапуска. Пользоваться сырым опенсорсом для аудио, по оценке автора, «физически больно».

Решение нашлось в рефакторинге стороннего React-клиента. Интеграция chunked FFN, CPU offload и динамической выгрузки языковой модели позволяет запускать тяжёлые чекпоинты SFT и Turbo даже на 16 ГБ видеопамяти. Плюс пресеты CFG, слоты под аудио-референсы и рендеринг через серверный ffmpeg — в сумме получается полноценный инструмент, а не демо.

Контекст: ACE-Step — открытая модель генерации музыки, и её локальный запуск упирается в память GPU. Работа с клиентом показывает, что разница между «работает у разработчика» и «работает у пользователя» — часто вопрос инженерной обвязки, а не размера модели.