Dependency-Guided Parallel Decoding in Discrete Diffusion Language Models
基于依赖性的并行解码在离散扩散语言模型中
机构 * Department of Computer Science, Technion – Israel Institute of Technology(以色列理工学院计算机科学系) ; Blavatnik School of Computer Science and AI, Tel Aviv, Israel(特拉维夫布拉瓦特尼克计算机科学与人工智能学院) ; Department of Electrical and Computer Engineering, Technion – Israel Institute of Technology(以色列理工学院电气与计算机工程系)
AI总结 本文提出DEMASK方法,通过预测掩码位置间的依赖关系,实现并行解码以提升生成效率,同时保持或提升输出质量。