HyperVAttention: Efficient Sparse Attention with Spatio-Temporal Clustering for Video Diffusion
HyperVAttention:用于视频扩散的具有时空聚类的高效稀疏注意力
机构 * KAIST(韩国科学技术院) ; Google Research(谷歌研究院)
专题命中 视频扩散模型 :video diffusion(title,abstract);video generation(abstract);text-to-video(abstract);分类 cs.CV
AI总结 针对视频扩散中自注意力机制的二次复杂度问题,提出HyperVAttention框架,通过3D局部窗口聚类等方法解决聚类开销大及CTA利用率低的瓶颈,提升视频扩散中无训练稀疏注意力的质量和速度。
Comments 21 pages, 8 figures