AMR-SD: Asymmetric Meta-Reflective Self-Distillation for Token-Level Credit Assignment
AMR-SD:不对称元反射自蒸馏用于标记级信用分配
机构 * Meituan Beijing, China(美团北京,中国) ; University of Chinese Academy of Sciences(中国科学院大学)
AI总结 本文提出AMR-SD,一种不对称元反射自蒸馏方法,旨在解决大型语言模型在复杂推理中因统一序列奖励导致的信用分配瓶颈问题,通过引入反思瓶颈和因果信息增益机制,实现更精确的标记级优势调节。