Route Before Retrieve: Activating Latent Routing Abilities of LLMs for RAG vs. Long-Context Selection
在检索前路由:激活大语言模型的潜在路由能力用于RAG与长上下文选择
机构 * Beihang University(北航) ; HKUST(香港科技大学) ; Alibaba Group(阿里巴巴集团) ; Pennsylvania State University(宾夕法尼亚州立大学)
专题命中 图谱与结构化RAG :RAG(title,title_cn);retrieval-augmented generation(abstract);分类 cs.CL
AI总结 本文提出Pre-Route框架,通过结构化推理提前决策,利用轻量级元数据进行任务分析和信息需求预测,实现可解释且高效的路由决策,实验表明其在成本效益上优于现有方法。