Diagnosing Harmful Continuation in Answer-Correct Long-CoT Training Traces
诊断答案正确长链思维训练轨迹中的有害延续
机构 * University of Electronic Science and Technology of China(电子科技大学) ; Singapore University of Technology and Design(新加坡科技设计大学) ; Singapore Management University(新加坡管理学院)
专题命中 视觉空间推理 :CoT(title,abstract);reasoning(abstract);chain-of-thought(abstract);分类 cs.AI
AI总结 研究长链思维训练数据中答案正确但后续推理有害的延续现象,通过删除后缀实验发现其损害训练效果,并提出轻量级边界代理方法。