大模型对齐与安全

Online Self-Calibration Against Hallucination in Vision-Language Models

在线对抗幻觉的视觉-语言模型自我校准

Minghui Chen, Chenxu Yang, Hengjie Zhu, Dayan Wu, Zheng Lin, Qingyi Si

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出OSCAR框架，通过蒙特卡洛树搜索和双粒度奖励机制在线校准视觉-语言模型，减少幻觉并提升多模态能力。

Comments IJCAI 2026

Theory Under Construction: Orchestrating Language Models for Research Software Where the Specification Evolves

构建中的理论：协调语言模型用于研究软件，其中规范在演变

Halley Young, Nikolaj Björner

机构 * Microsoft Research（微软研究院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出Comet-H框架，通过迭代提示自动机协调语言模型在研究软件中的应用，解决规范演变中的 hallucination accumulation 和 desynchronization 问题，并通过实验证明其有效性。

ADVICE: Answer-Dependent Verbalized Confidence Estimation

ADVICE: 答案依赖性口头置信度估计

Ki Jung Seo, Sehun Lim, Taeuk Kim

机构 * Department of Computer Science, Hanyang University（韩国汉阳大学计算机科学系） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL

AI总结 本文提出ADVICE框架，通过增强答案依赖性改进大语言模型的置信度校准，减少过度自信现象，提升可信度。

Comments ACL 2026 Main