Quantifying Prior Dominance in RAG Systems
量化RAG系统中的先验主导性
机构 * ArtificialGate Ltd.(ArtificialGate有限公司)
专题命中 RAG评测 :RAG(title,title_cn);retrieval-augmented generation(abstract);分类 cs.CL、cs.AI
AI总结 提出归一化上下文利用(NCU)指标,通过连续token对数概率严格量化RAG系统的上下文信息增益,发现小语言模型在严格事实提取中匹配或超越大模型,且先验主导性与模型规模及专有对齐相关。
Comments 15 pages, Preprint