Focus on the Core: Empowering Diffusion Large Language Models by Self-Contrast
聚焦核心:通过自对比增强扩散大语言模型
机构 * Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所) ; School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院) ; Renmin University of China(中国人民大学) ; Xiaohongshu Inc.(小红书公司)
AI总结 本文通过研究高信息密度token,提出FoCore解码策略,利用自对比提升生成质量与效率,实验表明在数学、代码和逻辑推理任务中效果显著。