From Chains to Trees: Parent-Conditioned Drafting for Semi-Autoregressive Speculative Decoding
从链到树:用于半自回归投机解码的父条件生成方案
机构 * OPPO AI Center(OPPO人工智能中心)
AI总结 该研究针对半自回归生成器DSpark的线性生成缺陷,提出父条件生成树(PCTree),通过为每个父节点生成多分支候选序列分配验证预算,在Qwen3系列模型及9个基准上显著提升了投机解码的推理加速效果。