Towards Understanding On-Policy Distillation through the Lens of Test-Time Scaling
从测试时缩放的视角理解在线策略蒸馏
机构 * Hong Kong Baptist University(香港浸会大学) ; University of Texas at Austin(德克萨斯大学奥斯汀分校) ; Shanghai Jiao Tong University(上海交通大学) ; Shanghai Innovation Institute(上海创新研究院) ; Ant Group(蚂蚁集团)
AI总结 该研究从测试时缩放视角分析OPD,发现其主要提升采样效率而非扩展推理能力边界,属于“虚假蒸馏”。
Comments 15 pages, 8 figures