大模型对齐与安全

Human-Alignment, Calibration, and Activation Patterns in Large Language Model Uncertainty

大型语言模型不确定性中的人类对齐、校准与激活模式

Kyle Moore, Jesse Roberts, Daryl Watson, William Ward, Grayson Heyboer

机构 * Vanderbilt University（范德比大学） ； Tennessee Technological University（田纳西技术大学） 纠错

专题命中 幻觉与事实性 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究大型语言模型的不确定性与人类不确定性的相似性，通过分析行为与内部激活模式，发现模型在多项选择和开放式事实回忆数据集上同时存在对齐与校准，并描述了指令微调的影响。

Human-Alignment and Calibration of Inference-Time Uncertainty in Large Language Models

大型语言模型中推理时间不确定性的人类对齐与校准

Kyle Moore, Jesse Roberts, Daryl Watson

专题命中 幻觉与事实性 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文评估了多种推理时间不确定性度量，发现它们与人类群体不确定性高度对齐，尽管与人类答案偏好不一致，但在正确性相关性和分布分析上表现出中等到强校准证据。

Comments We have discovered a critical error in the normalized entropy calculation that may have substantially inflated nearly all results herein. We have since fixed this error in a new work, but we believe that the new work is sufficiently dissimilar in focus, methods, dataset, and results as to be misleading if presented as a simple replacement. As such, we propose removal and retraction instead

When LLMs Learn to Be Consistently Wrong: A Multi-Model Study of Linear Representations of Synthetic Deception

当LLM学会一致错误：合成欺骗的线性表示的多模型研究

Vahideh Zolfaghari

机构 * Algoverse AI Research ； Medical Sciences Education Research Center, Mashhad University of Medical Sciences（马什哈德大学医学科学教育研究中心） ； Student Research Committee, Department of Health Information Technology and Management, Medical Informatics, School of Allied Medical Sciences, Shahid Beheshti University of Medical Sciences（谢赫·贝赫什提大学医学科学学院学生研究委员会，健康信息科技与管理系，医学信息学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；safety(abstract)；AI safety(abstract)；分类 cs.AI、cs.LG

AI总结 通过LoRA微调五个Transformer模型的诚实与欺骗变体，使用线性探针检测合成欺骗，发现早期层即可达到近完美AUC，支持线性表示假说，并揭示两种表示机制。

Used Car Salesbots? Honesty and Credulity of LLMs as Bargaining Agents under Partial Information

二手车销售机器人？作为讨价还价代理的LLM在部分信息下的诚实与轻信

Antonio Valerio Miceli-Barone, Vaishak Belle, Shay B. Cohen

机构 * University of Edinburgh（爱丁堡大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究LLM代理在模拟讨价还价场景中的表现，发现它们偏离博弈论均衡，尝试撒谎但无法有效利用信息不对称，且优化财务效用会增强谈判能力但增加不诚实行为。

Comments 18 pages, 14 figures

Benchmarking Machine Learning Uncertainty Quantification Methodologies for Predicting Turbine Gas Temperature Degradation

机器学习不确定性量化方法在预测涡轮燃气温度退化中的基准测试

Jostein Barry-Straume, Changmin Son, Adrian Sandu, Gavan Burke, Rekha Sundararajan, Andrew Rimell, James G. Steinrock

机构 * Computational Science Laboratory（计算科学实验室） ； Department of Computer Science（计算机科学系） ； Virginia Tech（弗吉尼亚理工大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文研究了五种预测区间构建方法（Delta法、贝叶斯蒙特卡洛Dropout、Bootstrap法、下上界估计和均值方差估计），在统一实验框架下评估其捕捉涡轮燃气温度神经网络预测不确定性的能力，并基于覆盖概率、归一化平均预测区间宽度和覆盖宽度准则等指标比较了各方法的可靠性、锐度及权衡，为发动机健康管理中的预测区间方法选择和调优提供了实用指南。

What Makes LVLMs Hallucinate Less? Unveiling the Architectural Factors Behind Hallucination Robustness

什么使LVLMs更少产生幻觉？揭示影响幻觉鲁棒性的架构因素

Yusheng He, Jizhe Zhou, Xia Du, Zheng Lin, Jun Luo, Jiancheng Lv

机构 * School of Computer Science, Engineering Research Center of Machine Learning and Industry Intelligence, Sichuan University（计算机科学学院，机器学习与产业智能工程研究中心，四川大学） ； School of Computer and Information Engineering, Xiamen University of Technology（计算机与信息工程学院，厦门理工大学） ； Department of Electrical and Computer Engineering, University of Hong Kong（电气与计算机工程系，香港大学） ； College of Computing and Data Science, Nanyang Technological University（计算与数据科学学院，南洋理工大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文通过将架构设计分解为语言基础、视觉表示和语义对齐三个维度，并引入CoSimUE基准，系统探索了架构因素对LVLMs幻觉鲁棒性的影响，发现模型参数扩展效果有限，而增强视觉编码器、语言基础和语义对齐能分别减少不同类型的幻觉。

Neuro-Symbolic Verification of LLM Outputs for Data-Sensitive Domains (extended preprint)

面向数据敏感领域的LLM输出的神经符号验证（扩展预印本）

Paul Sigloch, Christoph Benzmüller

机构 * University of Bamberg（巴姆堡大学） ； Free University of Berlin（柏林自由大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 提出一种结合形式符号方法与神经语义分析的混合验证架构，用于检测LLM输出中的幻觉、不一致和隐私漏洞，在医疗设备损伤评估系统中实现83%的结构化实体幻觉检测率和72%的语义虚构检测率。

Comments Extended preprint version of accepted technical communication at KI 2026. 22 pages, 3 figures

Benchmarking Uncertainty and its Disentanglement in multi-label Chest X-Ray Classification

多标签胸部X光分类中的不确定性及其解缠基准测试

Simon Baur, Wojciech Samek, Jackie Ma

机构 * Fraunhofer Heinrich-Hertz-Institut（弗劳恩霍夫海因里希-赫兹研究所） ； Technische Universität Berlin（柏林技术大学） ； The Berlin Institute for the Foundations of Learning and Data (BIFOLD)（柏林学习与数据基础研究所） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG

AI总结 本研究使用MIMIC-CXR-JPG数据集，对多标签胸部X光分类任务中的13种不确定性量化方法进行基准测试，评估了卷积和Transformer架构，并扩展了三种方法到多标签设置，揭示了不同方法和架构在不确定性估计和解缠认知与偶然不确定性方面的优缺点。