ScalingAttention: Discovering Intrinsic Sparse Attention Topology for Video Diffusion Transformers
ScalingAttention: 发现视频扩散变换器的内在稀疏注意力拓扑
机构 * KlingAI Research(KlingAI研究院) ; Beijing Institute of Technology(北京理工大学) ; NVIDIA(英伟达) ; Tsinghua University(清华大学)
专题命中 视频扩散模型 :video diffusion(title);video generation(abstract);分类 cs.CV
AI总结 提出ScalingAttention框架,通过权重编码的稀疏拓扑(WEST)和保真度感知灵敏度调优(FAST)实现训练无关的注意力稀疏化,在Wan2.1上获得最高1.90倍加速并保持高质量。
Comments 18 pages, 9 figures