ParallelBench: Understanding the Trade-offs of Parallel Decoding in Diffusion LLMs
ParallelBench: 理解扩散大语言模型中并行解码的权衡
机构 * FuriosaAI ; UW-Madison(威斯康星大学麦迪逊分校) ; Microsoft Research(微软研究院) ; UC Berkeley(加州大学伯克利分校) ; Seoul National University(首尔国立大学) ; KRAFTON ; Ludo Robotics Project(Ludo机器人项目)
AI总结 针对扩散LLM并行解码导致生成质量下降的问题,通过信息论分析和合成实验揭示其根本限制,并提出首个专门基准ParallelBench,系统评估发现并行解码在现实任务中质量损失严重,且现有策略无法根据任务难度调整并行度。
Comments Accepted at ICLR 2026. Project Page: https://parallelbench.github.io