AMD

Efficient Diffusion LLMs via Temporal-Spatial Parallel Decoding and Confidence Extrapolation

通过时空并行解码和置信度外推的高效扩散大语言模型

Zekai Li, Ji Liu, Yiqing Huang, Ziqiong Liu, Dong Li, Emad Barsoum

机构 * Advanced Micro Devices, Inc. (AMD)（先进微器件公司（AMD）） 纠错

AI总结 提出时空并行解码（TSPD）和置信度外推（CE）两种方法，通过动态控制去噪轨迹减少冗余迭代，加速扩散大语言模型推理。