Nunchux AI представила низкоразрядное ядро внимания для видеомоделей
Nunchux AI представила VC-Attention — низкоразрядное ядро внимания без дополнительного обучения для видео Diffusion Transformers. Метод предназначен для снижения ошибок квантования значений и затрат на медленный этап softmax в FP32. Это дополняет ускорение матричных операций QK и PV низкоразрядными Tensor Cores. По данным команды, attention занимает более 64% времени генерации пятиминутного? Нет: 5-секундного клипа Wan2.2-14B в разрешении 720p на RTX 5090.
VC-Attention объединяет V-Smooth и ExpCast-FP8. V-Smooth онлайн группирует токены значений, вычитает среднее из блоков по 128 токенов и квантует только остаток: в E4M3 при 8 битах или в NVFP4 при 4 битах. ExpCast-FP8 заменяет вычисление экспоненты в FP32 и последующее преобразование одной объединённой операцией multiply-add для 8-битного ядра. На 204.8K строках attention Wan2.2 средняя измеренная ошибка total variation составила 1,6%.
В тестах четырёх видеомоделей DiT с открытыми весами ускорение attention достигло 1,59× на B200 при 8 битах и 3,58× на RTX 5090 при 4 битах. Сквозное ускорение составило 1,19× и 1,70× соответственно. При 8 битах V-Smooth повысил PSNR по сравнению с SageAttention2 для Wan2.2 и HunyuanVideo-1.5. Публичного релиза ядра пока нет: Nunchux использует проприетарное расширение в своём стеке.
Текст подготовлен ИИ Sakhanda Wire по материалу MarkTechPost. Факты, цитаты и полный контекст — в оригинальной статье ниже.