MentorCollab: Large-to-Small Inference-Time Mentorship for Concise Reasoning in Language Models
MentorCollab: 选择性大到小推理时指导以实现高效推理
机构 * UIUC(伊利诺伊大学香槟分校) ; University of Washington(华盛顿大学) ; Allen Institute for Artificial Intelligence(人工智能研究院)
专题命中 推理与问题求解 :language model(title,abstract);SLM(abstract,abstract_cn);small language model(abstract);分类 cs.CL
AI总结 MentorCollab通过选择性推理时指导,使小型模型在多步骤推理任务中实现高效协作,提升性能的同时降低计算开销。