Follow the Latent Roadmap: Navigating Revocable Decoding for Diffusion LLMs with Anchor Tokens
遵循潜在路径:利用锚定令牌导航扩散LLM的可撤销解码
机构 * King's College London(伦敦国王学院) ; The Chinese University of Hong Kong(香港中文大学) ; The Alan Turing Institute, UK(英国艾伦·图灵研究所)
AI总结 针对扩散大语言模型解码速度与质量的权衡,提出无训练框架ASRD,通过锚定令牌解耦上下文,结合锚定引导生成与锚定扰动验证,在数学和编码基准上提升准确率6.4%,加速推理7.2倍。