Rethinking the Multilingual Reasoning Gap with Layer Swap
通过层交换重新思考多语言推理差距
机构 * LightOn ; Inria(法国国家科学研究中心)
专题命中 测试时计算 :reasoning(title,abstract);CoT(abstract,abstract_cn);chain-of-thought(abstract);分类 cs.CL
AI总结 本文通过构建多语言推理数据集并微调专家模型,发现本地推理与英语枢轴推理的性能差距远小于先前报道,并提出层交换方法将英语专家的推理中间层迁移到本地专家,以缩小差距。