Purified OPSD: On-Policy Self-Distillation Without Losing How to Think
纯化OPSD:在不失去思考能力的情况下进行在线自我蒸馏
机构 * Zhejiang University(浙江大学) ; Tongyi Lab, Alibaba Group(阿里云实验室,阿里巴巴集团) ; Huazhong University of Science and Technology(华中科技大学) ; Jilin University(吉林大学)
AI总结 针对在线自我蒸馏(OPSD)在长链思维推理模型中失效的问题,通过分解教师监督信号,发现参考诱导成分导致死记硬背,提出基于点互信息的参考隔离方法,在保持模型认知行为的同时提升性能。