FVAttn: Adaptive Sparse Attention with Runtime Load Balancing for Video Generation
FVAttn:用于视频生成的具有运行时负载均衡的自适应稀疏注意力
机构 * Tencent Inc.(腾讯公司) ; Peking University(北京大学)
专题命中 视频生成 :video generation(title,abstract);video diffusion(abstract);分类 cs.CV
AI总结 研究视频生成中自注意力瓶颈问题,提出FVAttn方法,通过Top-$p$路由等技术及运行时负载均衡等策略,提升自适应稀疏注意力分布式执行效率,降低负载不平衡,实现注意力和推理加速,且视频质量有竞争力。