Confidence-Based Decoding is Provably Efficient for Diffusion Language Models
基于置信度的解码在扩散语言模型中具有可证明的效率
机构 * Department of Industrial and Operations Engineering, University of Michigan(工业与运营工程系,密歇根大学) ; Department of Statistics and Data Science, The Chinese University of Hong Kong(统计与数据科学系,香港中文大学)
AI总结 本文提出了一种基于熵和的解码策略,证明其在KL散度下具有ε精度,并在迭代次数上达到O(H(X0)/ε)的效率,适用于低熵数据分布。