DFlare: Scaling Up Draft Capacity for Block Diffusion Speculative Decoding
DFlare: 扩展块扩散推测解码的草稿容量
机构 * School of Computer Science, Peking University(北京大学计算机科学系) ; Tencent(腾讯)
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 提出DFlare方法,通过轻量级逐层融合机制扩展草稿模型容量,在多个基准上实现平均5.52倍加速。
Comments 12 pages, 3 figures