DepCap: Adaptive Block-Wise Parallel Decoding for Efficient Diffusion LM Inference
DepCap:适应性分块并行解码用于高效扩散语言模型推理
机构 * University of Science and Technology of China(中国科学技术大学) ; Institute of Artificial Intelligence, Hefei Comprehensive National Science Center(合肥综合性国家科学中心人工智能研究院)
专题命中 效率与蒸馏 :diffusion(title,abstract)
AI总结 本文提出DepCap框架,通过自适应分块解码提升扩散语言模型推理效率,实现生成质量与速度的平衡,实验表明在多个模型和任务中达到显著加速效果。