RankGuide: Tensor-Rank-Guided Routing and Steering for Efficient Reasoning
RankGuide: 张量秩引导的路由与引导以实现高效的推理
机构 * University of California, Santa Barbara(加州大学圣芭芭拉分校) ; Intel Labs(英特尔实验室)
AI总结 RankGuide通过张量秩引导的路由与引导提升小推理模型与大推理模型的协作效率,减少推理延迟并提高准确性。
大厂专区
RankGuide: 张量秩引导的路由与引导以实现高效的推理
机构 * University of California, Santa Barbara(加州大学圣芭芭拉分校) ; Intel Labs(英特尔实验室)
AI总结 RankGuide通过张量秩引导的路由与引导提升小推理模型与大推理模型的协作效率,减少推理延迟并提高准确性。