大模型对齐与安全

Diffusion Large Language Models for Visual Speech Recognition

用于视觉语音识别的扩散大语言模型

Jeong Hun Yeo, Chae Won Kim, Hyeongseop Rha, Yong Man Ro

机构 * Integrated Vision Language Lab, KAIST, South Korea（韩国加耶大学集成视觉语言实验室） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 提出首个基于扩散大语言模型（DLLM）的视觉语音识别框架DLLM-VSR，通过迭代掩码去噪和灵活顺序解码，结合置信度引导的解掩码策略及两阶段训练，并引入长度引导候选解码以降低目标长度不确定性，在LRS3上取得19.5%的词错误率。

Comments Code: https://github.com/JeongHun0716/dllm-vsr

Localizing Input Uncertainty Quantification for Large Language Models via Shapley Values

通过Shapley值为大型语言模型定位输入不确定性量化

Seongjun Lee, Suwan Yoon, Changhee Lee

机构 * Department of Artificial Intelligence, Korea University（韩国大学人工智能系） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 提出ShaQ框架，利用Shapley值将输入中的模糊跨度建模为合作博弈参与者，通过条件熵的边际减少加权平均量化每个跨度对输入不确定性的贡献，实现跨度级归因，在AmbigQA、AmbiEnt和MediTOD基准上取得最先进性能。

Comments Codes are available https://anonymous.4open.science/r/ShaQ-0E39/README.md

Real Images, Worse Judgments: Evaluating Vision-Language Models on Concreteness and Imagery

真实图像，更差判断：评估视觉-语言模型在具体性和意象性上的表现

Yifan Jiang, Ruoxi Ning, Sheng Yao, Freda Shi

机构 * University of Waterloo（滑铁卢大学） ； Vector Institute（向量研究所） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 本文通过具体性和意象性评分任务，发现真实图像上下文不仅未提升视觉-语言模型与人类判断的一致性，反而在视觉证据相关性低时加剧偏差，并表明推理时聚焦文本指令可缓解退化。

Learning to Orchestrate Agents under Uncertainty

学习在不确定性下编排智能体

Mary Chriselda Antony Oliver, Lan Jiang, Aaron Bundi Anampiu, Elaf Almahmoud, Francesco Quinzan, Umang Bhatt

机构 * Department of Applied Mathematics and Theoretical Physics, University of Cambridge（应用数学与理论物理系，剑桥大学） ； Centre for Human-Inspired Artificial Intelligence, University of Cambridge（启发式人工智能中心，剑桥大学） ； African Institute for Mathematical Sciences, South Africa（南非数学科学研究所） ； Department of Engineering Science, University of Oxford（工程科学系，牛津大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG

AI总结 提出BOT-Orch框架，将编排问题转化为带正则化的多臂赌博机问题，在不确定性下实现异构智能体的自适应编排，理论保证遗憾界为O(√T)并优于基线。

An uncertainty-aware Bayesian framework for machine learning classification models: A case study in land cover classification

一种不确定性感知的贝叶斯机器学习分类模型框架：以土地覆盖分类为例

Samuel Bilson, Miles McCrory, Anna Pustogvar

机构 * National Physical Laboratory, Teddington, UK（英国国家物理实验室，Teddington） ； Department of Data Science（数据科学系） ； Department of Thermal & Radiometric Metrology（热学与辐射计量学系） ； School of Geography, Geology & the Environment（地理、地质与环境学院） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG

AI总结 提出一种考虑输入测量不确定性的贝叶斯生成式分类模型框架，通过贝叶斯二次判别分析模型在土地覆盖数据集上验证，该模型在可解释性、不确定性建模和计算效率方面优于随机森林和神经网络。

Comments 38 pages, 16 figures

Uncertainty Reasoning with Large Language Models for Explainable Disease Diagnosis

基于大语言模型的不确定性推理用于可解释疾病诊断

Xiaoyang Fan, Yufan Cai, Zhe Hou, Jin Song Dong

机构 * National University of Singapore（新加坡国立大学） ； Griffith University（格里菲斯大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 提出一种神经符号推理框架，将大语言模型与模糊逻辑和声明式规则结合，实现可解释且形式可验证的医学诊断。

Universal Boosts, Specific Suppressors: Sparse Autoencoder Steering of Medical Vision-Language Models

通用增强，特定抑制：基于稀疏自编码器引导的医学视觉语言模型

Farhad Nooralahzadeh, Benjamin Gundersen, Nicolas Deperrois, Hidetoshi Matsuom, Mizuho Nishio, Thomas Frauenfelder, Ahmed Allam, Christian Blüthgen, Michael Moor, Michael Krauthammer

机构 * University of Zurich and University Hospital of Zurich（苏黎世大学及苏黎世大学医院） ； Kobe University（Kobe大学） ； ETH AI Center（苏黎世联邦理工学院人工智能中心） ； ETH Zurich（苏黎世联邦理工学院） ； Stanford University（斯坦福大学） ； Zurich University of Applied Sciences（苏黎世应用科学大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出一种无需权重更新的解码时残差引导方法，通过每token稀疏自编码器（SAE）对医学视觉语言模型进行干预，抑制幻觉并提升报告质量，在多个模型上取得显著改进。

HawkesLLM: Semantic Uncertainty Propagation in Agentic Text Simulation

HawkesLLM：智能体文本模拟中的语义不确定性传播

Zewei Deng, Tinghan Ye, Liyan Xie

机构 * Department of Industrial and Systems Engineering, University of Minnesota（工业与系统工程系，明尼苏达大学） ； H. Milton Stewart School of Industrial and Systems Engineering, Georgia Institute of Technology（H. Milton Stewart工业与系统工程学院，佐治亚理工学院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 提出HawkesLLM框架，通过多变量Hawkes过程建模时间影响与文本生成分离，解决智能体文本模拟中语义不确定性路径依赖问题，在GDELT新闻级联案例中提升后期语义对齐。

Comments 10 pages, 4 figures, Accepted at the ICML 2026 Workshop on Statistical Frameworks for Uncertainty in Agentic Systems

An Empirical Analysis of Calibration and Selective Prediction in Multimodal Clinical Condition Classification

多模态临床状况分类中的校准与选择性预测的实证分析

L. Julián Lechuga López, Farah E. Shamout, Tim G. J. Rudner

机构 * New York University（纽约大学） ； University of Toronto（多伦多大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 本研究通过实证分析多标签临床状况分类中基于不确定性的选择性预测，发现其性能可能严重下降，原因是类别依赖的误校准，尤其对少数类别，并强调需要校准感知评估来确保临床AI的安全性。

Comments 40 pages, 14 figures, 16 tables. Accepted as a conference paper at AHLI Conference on Health, Inference, and Learning (CHIL) 2026

Task-Awareness Improves LLM Generations and Uncertainty

任务感知提升大语言模型生成与不确定性

Tim Tomov, Dominik Fuchsgruber, Stephan Günnemann

机构 * School of Computation, Information \& Technology, Technical University of Munich ； Munich Data Science Institute ； Munich Center for Machine Learning 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG

AI总结 提出在任务依赖的潜在结构中直接建模LLM输出，通过贝叶斯最优响应合成和贝叶斯风险量化不确定性，优于标准解码方法并改善与输出质量的校准。

Automated Self-Testing as a Quality Gate: Evidence-Driven Release Management for LLM Applications

自动化自我测试作为质量门：基于证据的LLM应用发布管理

Alexandre Cristovão Maiorano

机构 * Lumytics 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 本文提出了一种自动化自我测试框架，通过五个实证基础的维度（任务成功率、研究环境保持、P95延迟、安全通过率和证据覆盖）实现基于证据的发布决策（PROMOTE/HOLD/ROLLBACK），并通过长期案例研究评估了该框架在多代理对话AI系统中的有效性。

Comments 20 pages, 6 figures, 12 tables

AURORA: Contextual Orthogonalization for Geometric Representation Learning in Healthcare Foundation Models

AURORA：用于医疗基础模型中几何表示学习的上下文正交化

Yuanyun Zhang, Shi Li

机构 * University of the Chinese Academy of Sciences（中国科学院大学） ； Columbia University（哥伦比亚大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出AURORA框架，通过上下文潜在几何进行正交化，以解决医疗基础模型中潜在表示的语义模糊和上下文变化不稳定性问题，提升了模型在不同机构分布变化下的鲁棒性和预测性能。

Testable and Actionable Calibration for Full Swap Regret

可检验且可操作的全面交换懊悔校准

Konstantina Bairaktari, Lunjia Hu, Huy L. Nguyen, Jonathan Ullman

机构 * Department of Computer Science, Aarhus University（阿arhus大学计算机科学系） ； Khoury College of Computer Sciences, Northeastern University（东北大学计算机科学学院） ； Northeastern University（东北大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文提出了一种新的校准度量标准SCDL，该度量标准在不削弱任何要求的前提下，既可操作又可检验，同时具备连续性和一致性等理想特性，并通过实验验证了其在实际中的优越性能。

You Can't Fool Us: Understanding the Resilience of LLM-driven Agent Communities to Misinformation

你无法欺骗我们：理解由LLM驱动的代理社区对谣言的韧性

Chichen Lin, Yijie Jin, Kangbo Hu, Weijian Fan, Han Xiao, Yongbin Wang, Zhihui Ying, Zhanzhan Zhao

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CY

AI总结 本文研究了由LLM驱动的代理社区在面对可信谣言冲击时的韧性，通过构建基于LLM的代理模拟，从主动开放思维(AOT)和政治意识形态(PI)两个维度分析社区对谣言的反应机制，发现高AOT提升抗谣言冲击能力和恢复力，而PI影响恢复路径，中等意识形态社区恢复更可靠，极化社区则保留更多支持。

Comments 26 pages, 7 figures, 1 table

DiRotQ: Rotation-Aware Quantization for 4-bit Diffusion Transformers

DiRotQ：面向4位扩散变换器的旋转感知量化

Sayeh Sharify, Mahsa Salmani, Hesham Mostafa

机构 * d-Matrix 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出DiRotQ，一种W4A4量化框架，通过旋转感知激活量化缓解扩散变换器在4位精度下的性能下降问题，同时引入VLM-as-a-Judge评估协议和Triton定制内核提升压缩下的效率与质量。

Adaptive Conformal Prediction for Quantum Machine Learning

适应性符合预测用于量子机器学习

Douglas Spencer, Samual Nicholls, Michele Caprio

机构 * Mathematical Institute, University of Oxford（牛津大学数学研究所） ； Department of Computer Science, The University of Manchester（曼彻斯特大学计算机科学系） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文提出适应性量子符合预测算法，解决量子处理器时间变化噪声对符合保证的影响，通过重复校准保持有效性，实验证明其在IBM量子处理器上的稳定性和覆盖率。

Comments Accepted at TMLR 05/2026. 27 pages, 5 figures

Journal ref Transactions on Machine Learning Research, May 2026, ISSN 2835-8856

Quantum Artificial Intelligence for Mission-Critical Systems: Foundations, Architectural Elements, and Future Directions

量子人工智能用于关键任务系统：基础、架构要素与未来方向

Siva Sai, Rajkumar Buyya

机构 * Quantum Cloud Computing and Distributed Systems (qCLOUDS) Laboratory, School of Computing and Information Systems, The University of Melbourne（量子云计算与分布式系统实验室，计算与信息系统学院，墨尔本大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 本文探讨量子人工智能在关键任务系统中的应用，分析其在可靠性、确定性和低延迟决策中的挑战，并提出量子资源管理框架及未来研究方向。

Comments 15 pages, 5 figures, revised and accepted version of the paper

Inducing Artificial Uncertainty in Language Models

在语言模型中诱导人工不确定性

Sophia Hager, Simon Zeng, Nicholas Andrews

机构 * Johns Hopkins University（约翰霍普金斯大学） ； Microsoft（微软） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL

AI总结 本文研究了在缺乏挑战性数据时如何通过诱导人工不确定性来提升语言模型的不确定性量化能力，通过训练探测器识别人工不确定性，实现了在困难数据上的高校准性，且对简单数据的性能影响较小。

Aligning LLM Uncertainty with Human Disagreement in Subjectivity Analysis

对主观分析中语言模型不确定性与人类分歧的对齐

Junyu Lu, Deyi Ji, Xuanyi Liu, Lanyun Zhu, Bo Xu, Liang Yang, Xian-Sheng Hua, Hongfei Lin

机构 * School of Computer Science and Technology, Dalian University of Technology, China（大连理工大学计算机科学与技术学院） ； Tencent（腾讯） ； Peking University（北京大学） ； Tongji University（同济大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出DPUA框架，通过感知分歧和对齐不确定性，提升模型在主观分析中的可靠性与泛化能力。

Efficient distributional regression trees learning algorithms for calibrated non-parametric probabilistic forecasts

高效分布回归树学习算法用于校准的非参数概率预测

Quentin Duchemin, Guillaume Obozinski

机构 * Swiss Data Science Center（瑞士数据科学中心） ； EPFL（瑞士联邦理工学院） ； ETH Zürich（苏黎世联邦理工学院） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文提出高效算法用于校准非参数概率预测，通过min-max堆等数据结构提升计算效率，展示其在WIS和CRPS损失函数下的竞争力，并利用树结构实现可解释的群体条件覆盖保障。

Template-as-Ontology: Configurable Synthetic Data Infrastructure for Cross-Domain Manufacturing AI Validation

模板作为本体：用于跨领域制造人工智能验证的可配置合成数据基础设施

Grama Chethan

机构 * Siemens Digital Industries Software（西门子数字工业软件） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出一种模板作为本体的方法，通过单一Python配置模块生成制造仿真和AI分析工具的统一数据结构，验证了跨领域制造AI验证的可行性。

Comments 18 pages, 1 fugure

Foundations of Reliable Inference: Reliability-Efficiency Co-Design

可靠推断的基础：可靠性与效率的协同设计

Jiayi Huang

机构 * The Department of Engineering（工程系） ； King’s College London（伦敦国王学院） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文探讨如何高效实现可靠推断，通过统一框架从两个视角出发，解决可靠性与效率的协同设计问题。

Comments PhD Thesis

Resolving space-sharing conflicts in road user interactions through uncertainty reduction: An active inference-based computational model

通过不确定性减少解决道路使用者互动中的空间共享冲突：一种基于主动推断的计算模型

Julian F. Schumann, Johan Engström, Ran Wei, Shu-Yuan Liu, Jens Kober, Arkady Zgonnikov

机构 * Department of Cognitive Robotics, Delft University of Technology, Netherlands（德鲁特理工大学认知机器人学系） ； Waymo LLC, Mountain View, CA, USA（Waymo公司） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 本文提出一种基于主动推断的计算模型，用于模拟道路使用者互动中的空间共享冲突解决，通过隐含沟通、规范预期和显性沟通机制提升冲突解决效率，但需考虑对方行为是否符合预期。

Preparing Students for AI-Powered Materials Discovery: A Workflow-Aligned Framework for AI Literacy, Equity, and Scientific Judgment

为AI赋能的材料发现培养学生：一种与工作流程对齐的AI素养、公平性及科学判断框架

Dongming Mei, Katherine Moore, Ben Sayler

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CY

AI总结 本文提出一种与工作流程对齐的AI素养框架，强调通过提升学生在材料信息学中的数据溯源、领域特定特征化等能力，促进AI在材料发现中的公平应用与科学判断。

Comments 22 pages, 4 figures, and 5 tables

Code Mixologist : A Practitioner's Guide to Building Code-Mixed LLMs

代码调酒师：构建代码混合LLM的从业者指南

Himanshu Gupta, Pratik Jayarao, Chaitanya Dwivedi, Neeraj Varshney

机构 * Arizona State University（亚利桑那州立大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL

AI总结 本文探讨了代码混合和切换在大语言模型中的挑战，提出统一的分类体系和实用指南，涵盖数据、建模和评估方法，分析现有评估实践并讨论安全问题。

Comments 8 pages main paper, 13 pages total

Investigating Anisotropy in Visual Grounding under Controlled Counterfactual Perturbations

探究在可控反事实扰动下的视觉语义对齐中的各向异性

Gabriele Lombardo, Luigi Maiorana, Liliana Lo Presti, Marco La Cascia

机构 * Department of Engineering（工程系） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文研究了在可控反事实扰动下视觉语义对齐中的各向异性影响，通过对比两种不同嵌入几何的模型发现，余弦相似度与近似行为无显著关联，表明各向异性不足以解释反事实错误。

Comments To be published in the proceedings of the 5th Explainable AI for Computer Vision (XAI4CV) Workshop at CVPR 2026

Multi-Stage Retrieval for Operational Technology Cybersecurity Compliance Using Large Language Models: A Railway Casestudy

基于大语言模型的多阶段检索在运营技术网络安全合规中的应用：铁路案例研究

Regan Bolton, Mohammadreza Sheikhfathollahi, Simon Parkinson, Dan Basher, Howard Parkinson

机构 * Digital Transit Limited, 3M Buckley Innovation Centre（数字交通有限公司，3M Buckley创新中心） ； Department of Computer Science at University of Huddersfield（赫德瑟尔大学计算机科学系） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 本文提出利用大语言模型和多阶段检索提升铁路网络安全合规性验证，通过对比不同模型展示PCA在合规性验证中的有效性，建立评估指标并指出LLM在合规性验证中的优势与局限。

The Endogeneity of Miscalibration: Impossibility and Escape in Scored Reporting

误校准的内生性：在评分报告中的不可能性与逃避

Lauri Lovén, Sasu Tarkoma

机构 * Future Computing Group, University of Oulu（未来计算组，奥卢大学） ； University of Oulu（奥卢大学） ； University of Helsinki（赫尔辛基大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 研究探讨了在评分报告中如何避免误校准的内生性问题，发现使用非线性批准函数可实现最优监督，但会导致诚实报告次优。提出通过阶梯状批准阈值可实现最优筛选，尤其在布里尔评分下，二阶效用等价性独特。

Comments 38 pages, no figures. Targeting ACM Transactions on Economics and Computation (TEAC); preprint

Intent-Driven Semantic ID Generation for Grounded Conversational News Recommendation

基于意图的语义ID生成用于 grounded 对话新闻推荐

Hongyang Su, Beibei Kong, Lei Cheng, Chengxiang Zhuo, Zang Li, Chenyun Yu

机构 * Shenzhen Campus of Sun Yat-sen University（中山大学深圳校区） ； Platform and Content Group, Tencent（腾讯平台与内容部） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出意图驱动的语义ID生成方法，通过多任务对齐和GPT-4链式推理蒸馏，实现意图到层级SID前缀的映射，提升新闻推荐的 grounded 性和冷启动用户推荐效果。

Comments Accepted at ACL 2026 Industry Track (Oral)

Prediction and Empowerment: A Theory of Agency through Bridge Interfaces

预测与赋能：通过桥接接口的代理理论

Richard Csaky

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文研究了在确定性物理或模拟世界中部分可观测性下的代理问题，通过桥接接口模型，证明了预测、压缩和赋能之间的分离关系，并提出了一种设计原则以区分隐藏状态识别、接口细化、任务相关可控性和简单覆盖控制。

Comments This is a working draft: feedback and criticism is most welcome