大模型对齐与安全

How Large Language Models Balance Internal Knowledge with User and Document Assertions

大型语言模型如何在内部知识与用户和文档断言之间取得平衡

Shuowei Li, Haoxin Li, Wenda Chu, Yi Fang

机构 * Santa Clara University（圣克拉拉大学） ； Nanyang Technological University（南洋理工大学） ； California Institute of Technology（加州理工学院） 纠错

专题命中 偏好对齐 ：safety(abstract)；trustworthy(abstract)；分类 cs.CL

AI总结 本文研究了大型语言模型在处理内部知识与外部信息时的平衡问题，提出三源交互框架，评估27个模型，发现模型更依赖文档断言，且通过微调可提升其区分能力。

Comments Findings of ACL 2026