大模型对齐与安全

Faithfulness as Information Flow: Evaluating and Training Faithful Chain-of-Thought Reasoning

忠实性作为信息流：评估与训练忠实的链式思维推理

Jinghan Jia, Joe Benton, Eric Easley

机构 * Dept. CSE, Michigan State University（密歇根州立大学计算机科学系） ； Anthropic 纠错

专题命中 幻觉与事实性 ：safety(abstract,abstract_cn)；分类 cs.CL、cs.LG

AI总结 通过信息流视角提出基于充分性、完整性和必要性的框架，结合熵、掩码KL和梯度诊断评估链式思维忠实性，并引入更新时干预（如注意力掩码、反向梯度掩码等）训练更忠实的推理模型。

Authority Inversion in LLM-Mediated Ubiquitous Systems: When Models Trust Users Over Sensors

LLM介导的普适系统中的权威倒置：当模型信任用户胜过传感器

Long Zhang, Zi-bo Qin, Wei-neng Chen

机构 * School of Computer Science and Engineering, South China University of Technology（华南理工大学计算机科学与工程学院） ； School of Computer Science（计算机科学学院） ； Engineering, South China University of Technology（华南理工大学工程学院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.CY、cs.LG

AI总结 本研究揭示了大语言模型在融合传感器与用户冲突信息时，由于格式依赖性导致数值传感器数据被自然语言用户主张支配的权威倒置现象，并提出了几何框架、审计指标（CIR和AAI）以及推理时层干预方法（GAC）来诊断和缓解该问题。

Evidence-Linked Radiology Reporting: A Human-Supervised Reference Architecture for Structured Imaging Intelligence

证据关联放射学报告：面向结构化成像智能的人机协同参考架构

Houman Kazemzadeh, Kamyar Naderi

机构 * Xylemed 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 提出一种人机协同、证据关联的参考架构，通过结合特定检查模板、语音到结构处理、测量与分割捕获、受控AI辅助起草以及基于DICOM、HL7 FHIR等标准的互操作性，将放射学报告从自由文本转化为结构化智能层，支持审阅报告、纵向比较、临床数据重用及系统集成。

Comments Technical report, 27 pages, 2 figures, 12 tables, 1 listing; reference architecture paper; does not report clinical outcomes or validated diagnostic performance

Uncertainty-DTW for Sequences and Visual Tokens

Uncertainty-DTW 用于序列和视觉标记

Lei Wang, Syuan-Hao Li, Yongsheng Gao, Piotr Koniusz

机构 * School of Engineering and Built Environment, Electrical and Electronic Engineering, Griffith University（工程与建筑环境学院，电气与电子工程学院，格里菲斯大学） ； School of Computer Science and Engineering, University of New South Wales（计算机科学与工程学院，新南威尔士大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 提出不确定性感知的动态时间规整（uDTW）框架，通过异方差不确定性建模和最大似然估计实现鲁棒对齐，并推广到视觉标记集，在多个领域取得优于现有方法的结果。

Comments Research report

LLMs Uncertainty Quantification via Adaptive Conformal Semantic Entropy

通过自适应共形语义熵进行LLM不确定性量化

Hamed Karimi, Vaishali Meyappan, Reza Samavi

机构 * Toronto Metropolitan University（多伦多 Metropolitan 大学） ； Vector Institute（向量研究所） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 提出自适应共形语义熵（ACSE）方法，通过聚类语义熵并自适应调整不确定性分数，结合共形校准实现统计可靠的接受/弃权决策，在多个数据集上优于现有基线。

Comments Accepted for publication in the Proceedings of the 35th International Joint Conference on Artificial Intelligence (IJCAI 2026); 14 Pages

Uncertainty Reasoning with Large Language Models for Explainable Disease Diagnosis

基于大语言模型的不确定性推理用于可解释疾病诊断

Xiaoyang Fan, Yufan Cai, Zhe Hou, Jin Song Dong

机构 * National University of Singapore（新加坡国立大学） ； Griffith University（格里菲斯大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 提出一种神经符号推理框架，将大语言模型与模糊逻辑和声明式规则结合，实现可解释且形式可验证的医学诊断。

Universal Boosts, Specific Suppressors: Sparse Autoencoder Steering of Medical Vision-Language Models

通用增强，特定抑制：基于稀疏自编码器引导的医学视觉语言模型

Farhad Nooralahzadeh, Benjamin Gundersen, Nicolas Deperrois, Hidetoshi Matsuom, Mizuho Nishio, Thomas Frauenfelder, Ahmed Allam, Christian Blüthgen, Michael Moor, Michael Krauthammer

机构 * University of Zurich and University Hospital of Zurich（苏黎世大学及苏黎世大学医院） ； Kobe University（Kobe大学） ； ETH AI Center（苏黎世联邦理工学院人工智能中心） ； ETH Zurich（苏黎世联邦理工学院） ； Stanford University（斯坦福大学） ； Zurich University of Applied Sciences（苏黎世应用科学大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出一种无需权重更新的解码时残差引导方法，通过每token稀疏自编码器（SAE）对医学视觉语言模型进行干预，抑制幻觉并提升报告质量，在多个模型上取得显著改进。

Proof of Useful Attestation: A Consensus Primitive for Attestation-Native Chains

有用证明证明：一种面向证明原生链的共识原语

Stefan Stefanović

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 提出Proof of Useful Attestation (PoUA)共识机制，通过将证明处理质量纳入共识权重，解决通用权益证明链对证明工作漠视的问题，并给出经济成本下界和防御策略。

Comments 62 pages, 9 figures. Reference simulator with 196+ passing tests at https://github.com/ligate-io/ligate-research/tree/main/prototypes/poua-sim

ProSR: Process-Shaped Spatial Reasoning for Reliable Chain-of-Thought in VLMs

ProSR: 面向可靠思维链的过程塑造空间推理方法

Jiangyang Li, Cong Wan, Changjie Wu, Songlin Dong, Lingjun Zhang, Linzhe Shi, Xu Wang, Zhiheng Ma, Hang Zhang, Mu Xu, Yihong Gong

机构 * Xi’an Jiaotong University（西安交通大学） ； Amap, Alibaba Group（阿里巴巴集团Amap） ； Tsinghua University（清华大学） ； Shenzhen University of Advanced Technology（深圳大学先进技术学院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 针对视觉语言模型在空间推理中存在的虚假基础与尾部不稳定性问题，提出ProSR框架，通过反事实不变性惩罚和尾部漂移惩罚优化推理过程，提升答案准确率及轨迹稳定性与视觉依赖性。

Comments 19 pages, 6 figures