SAID: Accelerating Diffusion-Based Language Models via Scaffold-Aware Iterative Decoding
SAID: 通过支架感知迭代解码加速基于扩散的语言模型
机构 * School of Computer Science, Peking University(北京大学计算机科学系)
专题命中 推理与问题求解 :language model(title,abstract);large language model(abstract);分类 cs.CL
AI总结 提出SAID框架,通过将去噪计算重新分配给支架令牌来加速扩散语言模型,并引入CHLG为低置信度令牌分配额外步骤,在LLaDA模型上实现最高9.1倍加速且保持竞争性能。
Comments Code: https://github.com/TH-AI-Lab-PKU/SAID