University of Edinburgh（爱丁堡大学）

Consensus as Privileged Context for Label-Free Self-Distillation

作为无标签自蒸馏特权上下文的共识

John Gkountouras, Josip Jukić, Ivan Titov

机构 * ILLC, University of Amsterdam（逻辑、语言与计算研究所，阿姆斯特丹大学） ； ILCC, University of Edinburgh（信息实验室，爱丁堡大学） 纠错

AI总结 研究旨在提高无标签大语言模型推理准确性，提出CANON方法将共识转化为token级监督，通过采样多个解决方案并以达到多数答案的方案为条件设置模型快照来监督。实验表明该方法大幅提升性能，还能迁移，改进非单纯分布锐化。