Pass the Baton: Trajectory-Relayed On-Policy Distillation
传递接力棒:轨迹中继的在线策略蒸馏
机构 * Zhejiang University(浙江大学) ; Alibaba Group(阿里巴巴集团)
AI总结 研究针对在线策略蒸馏的前缀失败问题,利用师生延续不对称性提出Relay-OPD方法,通过教师在触发点接管生成轨迹段,让学生在其上优化,在数学推理基准测试中取得优异成绩,提升效果并减少训练轨迹长度。
Comments Project Page: https://zju-real.github.io/Relay-OPD Code: https://github.com/zju-real/Relay-OPD