大模型对齐与安全

Conformal Changepoint Localization and Root Cause Analysis with Corrupted Observations

含损坏观测值的保序变点定位与根因分析

Seunghun Yu, Meiyi Zhu, Petar Popovski, Joonhyuk Kang, Osvaldo Simeone

机构 * Korea Advanced Institute of Science and Technology（韩国科学技术院） ； King’s College London（伦敦国王学院） ； Aalborg University（奥尔堡大学） ； Northeastern University London（伦敦东北大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 本文针对含损坏观测值的系统，提出加权CONCH与加权CROC方法，结合元学习优化权重，可在保证置信集目标覆盖率的前提下缩小其规模，提升变点定位与根因分析的实用性。

Comments 34 pages, 6 figures

Robust Conformalized Selection with Noisy Responses

具有噪声响应的鲁棒共形选择

Chengyao Yu, Hongxin Wei, Bingyi Jing

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG

AI总结 研究在含噪声响应数据下的选择问题，提出鲁棒共形选择框架RCS，通过将标签噪声转化为协变量偏移问题，实现有效FDR控制，经实验验证了该方法在模拟和真实数据集上的有效性。

DynaCalKV: Key-Value Cache Compression via Head Grouping and Adaptive Rank Allocation

DynaCalKV：通过头部分组和自适应秩分配实现键值缓存压缩

Tan T. Nguyen, Quan V. Dang

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG

AI总结 针对大语言模型KV缓存瓶颈问题，提出DynaCalKV框架，通过基于CKA相似性动态分组注意力头并自适应分配秩预算处理键缓存，值缓存采用ReCalKV方法优化，实验表明能减少键缓存参数且保持准确率，对MHA模型效果好，对GQA模型应用需更谨慎。

Spectral Dynamics of Semantic Drift in Clinical Multi-Agent Language Model Networks

临床多智能体语言模型网络中语义漂移的谱动力学

Amritesh Banerjee

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 研究临床多智能体语言模型网络中语义漂移的谱动力学，通过映射多智能体通信不确定性轨迹到嵌入空间，揭示结构瓶颈危害。提出动态谱监测技术，经图拉普拉斯算子特征分解确保全局状态扩散，保障自主医疗诊断可靠性。

MPR-CiteG: Enhancing RAG with Multi-Portfolio Retrieval and Citation-Grounded Generation

MPR-CiteG：通过多组合检索和引用基础生成增强RAG

Hyewon Lee, Minkyung Song, Junghyun Oh, Seunghoon Han, Sungsu Lim

机构 * Chungnam National University（忠南国立大学） ； Data Intelligence Laboratory（数据智能实验室） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 该研究针对生成式AI检索低效与缺来源验证问题，提出双组件MPR-CiteG框架，用多组合检索器高效检索，引用基础生成模块确保输出事实一致且有源可溯，经实验验证其有效性与可靠性，助力构建更可信准确的大语言模型。

Comments 12 pages, 1 figure, 7 tables. The 1st International Workshop on Retrieval-Driven Generative AI & ScienceON AI Challenge 2025@CIKM

Enhancing Explainable Cardiac Diagnosis with Guide-Grounded Multimodal LLMs

用指南引导的多模态语言模型增强可解释的心脏诊断

Hai-Nam Duy Vuong, Duy-Anh Bui, Trong-Nghia Nguyen, Kim-Ngan Thi Nguyen, Trang Mai Xuan, Tien-Cuong Nguyen, Van-Dem Pham, Thien Van Luong

机构 * Business AI Lab, College of Technology, National Economics University（商业人工智能实验室，技术学院，越南国家经济大学） ； A2I Lab, Phenikaa School of Computing, Phenikaa University（A2I实验室，费尼卡计算机学院，费尼卡大学） ； VNPT AI, VNPT Group（VNPT人工智能，VNPT集团） ； FPT University（FPT大学） ； Department of Pediatrics, Hospital of University Medicine and Pharmacy, Vietnam National University Hanoi（越南河内国家大学医学与药学院儿科学系） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 研究针对深度学习模型在心脏诊断中可解释性有限等问题，提出指南引导的多模态框架，通过卷积神经网络、Grad-CAM及结构化解释指南生成诊断报告，实验证明该方法能提升报告质量，增强临床合理性。

Comments 12 pages, 3 figures, accepted at CITA 2026

Evaluating and Guarding Citation Faithfulness in Agentic Scientific Synthesis

评估和保障智能科学合成中的引用忠实性

Taewan Goo, Junsik Kim, Kyulhee Han, GwonYul Jo, Jong-Soo Kim, Tae-Hyung Kim

机构 * Seoul National University（首尔国立大学） ； BioNexus（生物 Nexus） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 研究智能语言模型系统引用答案检查的可靠性问题，提出黄金锚定评估协议和可部署防护措施，能验证验证者、测量重新归因，为无支撑引用设限，经多模型和管道验证后作为单GPU工具包发布。

Comments 20 pages, 5 figures. Includes supplementary material (Appendices S1-S6). Open single-GPU reproducibility kit included

Formal Foundations for Known Good Reliable Die Screening in Chiplet-Based AI Systems-on-Chip

基于小芯片的人工智能片上系统中已知良好可靠芯片筛选的形式基础

Prashanthi Metku, Chandra Gandu

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 研究基于小芯片的人工智能片上系统中芯片筛选问题，将KGD到KGRD筛选转变为约束推理问题，提出贝叶斯概率风险模型等四项贡献，蒙特卡罗模拟验证了理论特性及安全保证。

TRUST-ESD: A Risk-Calibrated and Governance-Aware AI Framework for Enterprise Strategic Decision Support Under Uncertainty

TRUST-ESD：一种用于不确定性下企业战略决策支持的风险校准和治理感知人工智能框架

Tian Qiu, Li Yan, Mahabubur Rahman Miraj, Shanqin Yi, Md Intekhab Rahman Galib, Jahid Hasan

机构 * School of Economics and Management, Xinyu University（新余学院经济与管理学院） ； College of Computer Science, Chongqing University（重庆大学计算机科学学院） ； School of Economics and Business Administration, Chongqing University（重庆大学经济与工商管理学院） ； School of Management, Xi’an Jiaotong University（西安交通大学管理学院） ； School of Law and Public Administration, China Three Gorges University（三峡大学法学与公共管理学院） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 针对企业战略决策支持需求，TRUST-ESD框架通过多种方法评估策略，能平衡价值、可靠性、风险暴露和合规性。实验表明其相比基线提升了多项指标，消融和案例分析证实相关因素共同改善企业决策。

Comments 15 pages, 7 figures, 4 tables. Submitted to APWeb-WAIM 2026, Danang, Vietnam, September 7-9, 2026

Uncertainty Quantification for AI-Driven Crash Simulation Surrogates: A Comparative Study of Monte Carlo Dropout and Deep Ensemble on Open-Source Bumper Beam Benchmark

人工智能驱动的碰撞模拟代理的不确定性量化：基于开源保险杠梁基准的蒙特卡洛随机失活和深度集成的比较研究

Sudeep Chavare

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 研究人工智能驱动碰撞模拟代理的不确定性量化，对蒙特卡洛随机失活和深度集成两种方法在开源管道上比较，用具体随机失活解决常见批评，经汽车碰撞模拟实验，揭示权衡，表明可低成本实现良好校准和无超参数的不确定性估计。

Towards Reliable Zero-Shot Crowd Forecasting: Evaluating Time Series Foundation Models for Special Event Pedestrian Forecasting

迈向可靠的零样本人群预测：评估用于特殊活动行人预测的时间序列基础模型

Ziteng Li, Yanan Xin, Tina Comes, Serge Hoogendoorn

机构 * Delft University of Technology (TU Delft)（代尔夫特理工大学） ； German Aerospace Center (DLR)（德国航空航天中心） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 研究特殊活动行人预测问题，采用预训练时间序列基础模型进行零样本概率预测，以SAIL2025事件为案例评估两个模型，为人群管理者明确零样本预测可靠的时机，助力特殊活动人群管理的运营决策。

Comments 9 pages, 7 figures, 5 tables. Accepted for presentation at IEEE ITSC 2026

FST.ai 2.5: Explainable and Uncertainty-Aware AI for Olympic and Para-Taekwondo Decision Support, Athlete Digital Twins, and Federation-Scale Analytics

FST.ai 2.5：用于奥运会和跆拳道决策支持、运动员数字孪生及联合会规模分析的可解释且具有不确定性感知的人工智能

Keivan Shariatmadar, Ahmad Osman, Ramin Rey

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 针对精英运动数字化中现有方案零散问题，提出FST.ai 2.5框架，通过整合多源数据，实现战术诊断、运动员监测等功能，其原型部署可行，方法广泛适用于搏击等体育环境中的可解释AI、数字孪生及可靠决策支持。

Comments 14 pages, 4 figures

teLLMe Why (Ain't Nothing but a Jam): Exploratory Causal Analysis of Urban Driving Data

告诉我为什么（不过是一场拥堵）：城市驾驶数据的探索性因果分析

Qiwei Li, Jorge Ortiz

机构 * Rutgers University（罗格斯大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 研究城市驾驶数据因果问题，提出teLLMe系统，结合多种方法从结构化事件表出发，通过模式感知大语言模型映射问题，返回‘因果卡片’总结相关内容，能揭示合理关系，用于假设生成和专家推理。

Comments Accepted at the NeurIPS 2025 Workshop on UrbanAI. 6 pages

Align AI to Dynamic Human-AI Workflows

将人工智能与动态人机工作流程对齐

Valerie Chen, Cleotilde Gonzalez, Anita Williams Woolley, Michael Lee, Tongshuang Wu, Vincent Conitzer, Aarti Singh

机构 * Carnegie Mellon University（卡内基梅隆大学） ； University of California Irvine（加州大学欧文分校） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 研究现实世界中人类与人工智能交互的动态本质，主张从静态模拟对齐转向交互式互补对齐，通过对比现有对齐与轨迹级视图形式化差距，借鉴多学科见解指出挑战，最后概述开发与人类交互对齐的人工智能系统的研究议程。

Evaluating RE Practices for Explainability: Synthesizing Insights from Daimler Truck into an Explainable RE Framework Proposal

评估可解释性的需求工程实践：将戴姆勒卡车公司的见解整合到一个可解释的需求工程框架提案中

Umm-e- Habiba, Lucas Mauser, Jonas Fritzsch, Justus Bogner, Stefan Wagner

机构 * TUM School of CIT, Technical University of Munich（慕尼黑技术大学 CIT 学院） ； Institute of Software Engineering, University of Stuttgart（斯图加特大学软件工程研究所） ； Department of Computer Science, Vrije Universiteit Amsterdam（阿姆斯特丹自由大学计算机科学系） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 研究现有需求工程实践对可解释性要求的支持，通过对戴姆勒卡车公司从业者的多阶段定性研究，揭示各步骤挑战，表明当前实践支持有限，为开发可解释人工智能的需求工程框架提供实证见解与研究愿景。

Distributed Agent System: Fault-Tolerant Collaboration Among Embodied Agents

分布式智能体系统：具身智能体间的容错协作

Kai Yu, Lu Chen, Hanqi Li

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 针对人工智能工程中智能体驱动任务执行面临的可靠性挑战，提出分布式智能体系统（DAS）框架，重新定义智能体可靠性，构建两层容错架构，为工业场景中异构具身智能体可靠协作提供实用工程途径。

EvidentialRAG: Quantifying and Mitigating Information Conflict in Multi-Source Retrieval-Augmented Generation via Evidential Deep Learning

证据RAG：通过证据深度学习量化和缓解多源检索增强生成中的信息冲突

S M Asif Hossain, Ruksat Khan Shayoni, M. F. Mridha

机构 * School of Computing, Wichita State University（威奇托州立大学计算学院） ； Department of Computer Science, American International University-Bangladesh（美国国际孟加拉大学计算机科学系） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG

AI总结 研究多源检索增强生成中信息冲突问题，提出ERAG框架，通过将检索块转换为概率证据、用轻量级评估器和融合规则处理不确定性，实验表明该框架在标准问答有竞争力，在冲突情况下行为改善，是可信信息处理实用机制。

Large Language Models in Misinformation Ecosystems: Misuse, Defense, and Vulnerability

错误信息生态系统中的大语言模型：滥用、防御与脆弱性

Lingwei Wei, Dou Hu, Wei Zhou, Songlin Hu, Philip S. Yu

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； University of Illinois Chicago（伊利诺伊大学香槟分校） ； State Key Laboratory of Media Convergence and Communication, Communication University of China（中国传媒大学媒体融合与传播国家重点实验室） ； University of Chinese Academy of Sciences（中国科学院大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 研究大语言模型在错误信息生态系统中的问题，引入角色层框架统一风险与防御，组织相关攻击、研究检测与验证方法、分析漏洞及讨论对策，指出从静态检测到风险评估、强化验证管道、部署可审计人工参与验证系统这三个关键挑战。

Comments 35 pages, 8 figures

Adversarial Social Epistemology for Assemblies of Humans and Large Language Models

人类与大语言模型集合的对抗性社会认识论

Mihnea C. Moldoveanu, Joel A. C. Baum

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 研究人类与大语言模型集合在密集互动交流场景中的信息问题，提出对抗性社会认识论，借助语言、机制及基于认知网络的 machinery 来分析、破坏信任并审计纠正信任违规。

Comments 50 pages

SpanUQ: Span-Level Uncertainty Quantification for Large Language Model Generation

SpanUQ：用于大语言模型生成的跨度级不确定性量化

Yimeng Zhang, Yingying Zhuang, Ziyi Wang, Yuxuan Lu, Pei Chen, Aman Gupta, Zhe Su, Ming Tan, Zhilin Zhang, Qun Liu, Manikandarajan Ramanathan, Rajashekar Maragoud, Edward Vul, Jing Huang, Dakuo Wang

机构 * Amazon（亚马逊） ； Northeastern University（东北大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL

AI总结 研究大语言模型生成的跨度级不确定性量化问题，提出SPANUQ轻量级探测器，通过混合贝塔分布估计不确定性，经特殊训练方式构建基准。实验显示其在不确定性质量、速度及错误定位上表现出色，且能在多个大语言模型上通用。

Comments The project page is available at https://damon-demon.github.io/SpanUQ.html

Autonomous Information Seeking: A Roadmap for Agentic Recommender Systems

自主信息寻求：智能推荐系统路线图

Xinyu Lin, Yashar Deldjoo, Sunhao Dai, Honghui Bao, Xiaopeng Ye, Fatemeh Nazary, Wenjie Wang, Tommaso Di Noia, Jun Xu, Tat-Seng Chua

机构 * National University of Singapore（新加坡国立大学） ； Polytechnic University of Bari（巴里理工大学） ； Renmin University of China（中国人民大学） ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 综述基于大语言模型的智能体融入推荐系统带来的转变，介绍基于自主性水平的分类法及三种核心范式，分析各范式采用的架构和智能体对关键组件的增强，探讨评估方法及未解决问题，指出开放挑战。

Decentralized Aggregation of LLM Predictions via Wagering Mechanisms

通过投注机制对大语言模型预测进行去中心化聚合

Yuhong Luo, David M. Pennock, Xintong Wang

机构 * Rutgers University（罗格斯大学） ； DIMACS（离散数学和理论计算机科学研究所） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 旨在解决多模型预测聚合问题，提出基于投注机制的WALLA，各模型报告预测和投注，以投注为权重聚合预测，具有激励兼容等特性，实验表明其兼具多种优势。

Comments 32 pages

HAS-Bench: Evaluating LLM-Based Human-Agent Systems under Configurable Human Participation

HAS-Bench：在可配置人类参与下评估基于大语言模型的人机系统

Yaozu Wu, Wei-Chieh Huang, Jizhou Guo, Dongyuan Li, Renhe Jiang, Henry Peng Zou, Chunyu Miao, Shanghao Li, Weizhi Zhang, WeiWei Ye, Yankai Chen, Meng Zhang, Xue Liu, Philip S. Yu

机构 * The University of Tokyo（东京大学） ； University of Illinois Chicago（伊利诺伊大学芝加哥分校） ； MBZUAI ； McGill University（麦吉尔大学） ； Zhejiang University（浙江大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 介绍基于图的HAS-Framework框架，在此基础上HAS-Bench在多方面可配置人类参与下评估人机系统，测量任务结果与协作行为，实验表明人类参与可提升任务完成等，但收益取决于参与方式等。

Bayesian Uncertainty Propagation for Agentic RAG Pipelines: A Proof-of-Concept Study on Multi-Hop Question Answering

面向智能体RAG管道的贝叶斯不确定性传播：多跳问答的概念验证研究

Louis Donaldson, Connor Walker, Koorosh Aslansefat, Yiannis Papadopoulos

机构 * University of Hull（赫尔大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 提出一种不确定性感知的智能体RAG框架，通过贝叶斯网络传播各阶段的不确定性信号，以估计系统级不确定性并定位潜在故障点，在HotpotQA上表现有效，但在StrategyQA上受限于校准问题。

Comments Submitted for 7th International Conference on Maintenance and Intelligent Asset Management (ICMIAM 2026)

Relational and Sequential Conformal Inference for Energy Time Series over Graphs via Foundation Models

基于基础模型的图结构能源时间序列的关系与序列共形推断

Keivan Faghih Niresi, Alice Cicirello, Olga Fink

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 提出STOIC框架，结合图神经网络与表格基础模型，通过零样本校准实现图结构能源时间序列的共形预测，提供可靠的不确定性估计。

Comments Under-review

From Hallucination to Grounding: Diagnosing Visual Spatial Intelligence via CRISP

从幻觉到扎根：通过CRISP诊断视觉空间智能

Zhixing Li, Yinan Yu

机构 * Chalmers University of Technology（查尔姆斯理工大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 提出CRISP诊断范式，通过一致性评估解耦感知与推理，揭示闭源模型存在度量估计不准确和未利用隐式结构表示的问题，开源模型则受限于多跳组合推理能力。

Comments Accepted to ECCV 2026

Target-Aware Linear Regression Under Distribution Shift

分布漂移下的目标感知线性回归

Zhewen Hou, Tian Zheng

机构 * Department of Statistics（统计学系） ； Columbia University（哥伦比亚大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG

AI总结 针对训练与部署间的分布漂移，提出混合损失估计器作为目标感知基准，并开发了约束矩匹配和两阶段估计两种计算可行方案，推导渐近均方误差并比较性能。

Confidence Calibration for Multimodal LLMs: An Empirical Study through Medical VQA

多模态大语言模型的置信度校准：基于医学视觉问答的实证研究

Yuetian Du, Yucheng Wang, Ming Kong, Tian Liang, Qiang Long, Bingdi Chen, Qiang Zhu

机构 * College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院） ； School of Computer Science and Technology, Xidian University（西安电子科技大学计算机科学与技术学院） ； Zhihui Medical Technology (Shanghai) Co., Ltd.（智汇医疗科技（上海）有限公司） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 针对多模态大语言模型在医学任务中置信度与准确性不匹配的问题，提出结合多策略融合询问与专家大语言模型评估的方法，在三个医学VQA数据集上将期望校准误差平均降低40%，提升了模型可靠性。

Comments Accepted by MICCAI 2025

On the QUEST for Uncertainty Quantification via Highest Density Regions

论基于最高密度区域的量化不确定性探索

Sam Goring, Tom Kuipers, Nicola Paoletti, David S. Watson

机构 * Northeastern University London（东北大学伦敦校区） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 针对概率机器学习中回归问题的不确定性量化，提出基于最高密度区域体积的QUEST框架，满足单调性和平移不变性公理，在选择性预测基准上优于方差和微分熵。

Comments 27 pages, of which 10 are main text. Contains 7 figures, 4 tables, 1 algorithm in total

Agentic AI-based Framework for Mitigating Premature Diagnostic Handoff and Silent Hallucination in Healthcare Applications

基于Agentic AI的框架：缓解医疗应用中的过早诊断交接和无声幻觉

Divyansh Srivastava, Shreya Ghosh, Anshul Verma, Rajkumar Buyya

机构 * Distributed Systems (qCLOUDS) Lab, School of Computing ； Information Systems, The University of Melbourne, Australia ； 2Department of Computer Science ； Engineering, School of Electrical ； Computer Sciences (SECS), Indian Institute of Technology Bhubaneswar, India ； 3Department of Computer Science Banaras Hindu University, Varanasi, India 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 提出多智能体框架，通过确定性编排约束和两个安全机制（神经符号状态跟踪门和语义熵不确定性量化门）解决LLM在医疗对话中的过早诊断交接和无声幻觉问题，诊断精度提升11.3个百分点。