Epistemic Bias Injection: Manipulating LLM Opinion via Selective Context Retrieval
认知偏见注入:通过选择性上下文检索操纵LLM观点
机构 * National University of Singapore(新加坡国立大学)
AI总结 研究通过检索增强生成(RAG)数据库注入事实正确但认知偏见的段落,以操纵LLM输出立场,并提出基于几何度量的攻击与防御方法BiasDef。
高校专区
认知偏见注入:通过选择性上下文检索操纵LLM观点
机构 * National University of Singapore(新加坡国立大学)
AI总结 研究通过检索增强生成(RAG)数据库注入事实正确但认知偏见的段落,以操纵LLM输出立场,并提出基于几何度量的攻击与防御方法BiasDef。
立场:感知之后推理意味着无视觉推理
机构 * Tsinghua University(清华大学) ; Peking University(北京大学) ; National University of Singapore(新加坡国立大学) ; Zhongguancun Academy(中关村学院) ; Nanjing University(南京大学) ; Nankai University(南开大学)
AI总结 本文质疑多模态研究中语言推理能弥补视觉缺陷的假设,提出“感知-推理”范式导致视觉推理退化为文本空间推理,并通过图灵眼测试验证文本推理无法修复感知失败,主张转向感知内的推理。