Sparse Forcing: Native Trainable Sparse Attention for Real-time Autoregressive Diffusion Video Generation
稀疏强制:用于实时自回归扩散视频生成的原生可训练稀疏注意力
机构 * Meta Superintelligence Labs(Meta超智能实验室) ; University of California, Santa Barbara(加州大学圣芭芭拉分校)
专题命中 视频生成 :video generation(title,abstract);video diffusion(abstract);text-to-video(abstract);分类 cs.CV
AI总结 本文提出稀疏强制方法,通过在训练和推理中提升长时程生成质量并降低解码延迟,采用可训练的原生稀疏机制和高效的GPU内核PBSA来加速稀疏注意力和内存更新。