Rational Synthesizers or Heuristic Followers? Analyzing LLMs in RAG-based Question-Answering
理性合成器还是启发式追随者?分析基于检索增强生成的问答系统
机构 * Carnegie Mellon University(卡内基梅隆大学)
AI总结 本文通过GroupQA数据集分析LLM在基于检索增强生成的问答系统中如何整合冲突证据,发现模型倾向于优先证据且解释不忠实,表明LLM作为脆弱的启发式追随者。
Comments 13 pages, 9 figures, ACL ARR submission