大模型对齐与安全

Hessian-Enhanced Token Attribution (HETA): Interpreting Autoregressive LLMs

Hessian-Enhanced Token Attribution (HETA): 解释自回归语言模型

Vishal Pramanik, Maisha Maliha, Nathaniel D. Bastian, Sumit Kumar Jha

机构 * Department of Computer & Information Science & Engineering, University of Florida（佛罗里达大学计算机与信息科学与工程系） ； School of Computer Science, University of Oklahoma（俄克拉荷马大学计算机科学学院） ； Department of Electrical Engineering and Computer Science, United States Military Academy（美国军事学院电子工程与计算机科学系） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 HETA提出了一种针对解码器-only语言模型的新型解释框架，结合语义过渡向量、Hessian敏感度评分和KL散度，提升上下文感知和因果解释能力，通过基准数据集验证其在生成任务中的优越性。

Comments Accepted at ICLR 2026

FaCT: Faithful Concept Traces for Explaining Neural Network Decisions

FaCT：用于解释神经网络决策的忠实概念追踪

Amin Parchami-Araghi, Sukrut Rao, Jonas Fischer, Bernt Schiele

机构 * Max Planck Institute for Informatics（马克斯·普朗克信息研究所） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出FaCT模型，通过共享类间概念实现忠实解释，引入C²-Score评估概念一致性，提升可解释性同时保持ImageNet性能。

Comments 35 pages, 23 figures, 2 tables, Neural Information Processing Systems (NeurIPS) 2025; Code is available at https://github.com/m-parchami/FaCT

Label Effects: Shared Heuristic Reliance in Trust Assessment by Humans and LLM-as-a-Judge

标签效应：人类和LLM-as-a-Judge在信任评估中的共享启发式依赖

Xin Sun, Di Wu, Sijing Qin, Isao Echizen, Abdallah El Ali, Saku Sugawara

机构 * National Institute of Informatics (NII)（国立信息学研究所） ； University of Amsterdam（阿姆斯特丹大学） ； University of Tokyo（东京大学） ； Hitotsubashi University（一桥大学） ； Centrum Wiskunde & Informatica (CWI)（荷兰数学与计算机科学研究中心） ； Utrecht University（乌得勒支大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 研究揭示人类和LLM在信任评估中受标签影响的共同机制，通过对比人类和模型的反应，发现标签对信任判断有显著偏倚，提出需警惕标签敏感的LLM评估有效性。

Knowledge Reasoning Language Model: Unifying Knowledge and Language for Inductive Knowledge Graph Reasoning

知识推理语言模型：统一知识与语言以进行归纳知识图谱推理

Xingrui Zhuo, Jiapu Wang, Gongqing Wu, Zhongyuan Wang, Jichen Zhang, Shirui Pan, Xindong Wu

机构 * The Key Laboratory of Knowledge Engineering with Big Data (the Ministry of Education of China), Hefei University of Technology, China（合肥工业大学大数据知识工程教育部重点实验室） ； School of Computer Science and Information Engineering, Hefei University of Technology, China（合肥工业大学计算机与信息学院） ； Nanjing University of Science and Technology, China（南京理工大学） ； China Unicom Digital Technology Co., Ltd., Beijing, China（联通数字科技有限公司） ； China Unicom Internet of Things Co., Ltd., Nanjing, China（联通物联网有限责任公司） ； Shandong Inspur Science Research Institute, Jinan, China（山东浪潮科学研究院） ； Griffith University, Australia（格里菲斯大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出KRLM，通过统一语言模型知识与知识图谱上下文，解决归纳知识图谱推理中的知识扭曲和生成幻觉问题，实验表明其在25个真实数据集上表现优异。

When to ASK: Uncertainty-Gated Language Assistance for Reinforcement Learning

何时提问：用于强化学习的不确定性门控语言帮助

Juarez Monteiro, Nathan Gavenski, Gianlucca Zuin, Adriano Veloso

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出ASK方法，通过结合小型语言模型和训练好的RL策略，提升模型在分布外任务中的泛化能力，通过不确定性门控机制选择性利用语言模型进行决策，实验显示其在迁移任务中表现稳健。

Comments In Proceedings of International Joint Conference on Neural Networks (IJCNN)

BIOGEN: Evidence-Grounded Multi-Agent Reasoning Framework for Transcriptomic Interpretation in Antimicrobial Resistance

BIOGEN：基于证据的多智能体推理框架用于抗菌药物耐药性中的转录组解释

Elias Hossain, Mehrdad Shoeibi, Ivan Garibay, Niloofar Yousefi

机构 * College of Engineering and Computer Science, University of Central Florida（中佛罗里达大学工程与计算机科学学院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 BIOGEN通过结合生物信息检索、结构化推理和多批评验证，生成可追溯的转录组模块解释，其在抗菌药物耐药性研究中表现出强生物学基础和零幻觉率。

Closing the Confidence-Faithfulness Gap in Large Language Models

弥合大语言模型中的置信度-忠实度差距

Miranda Muqing Miao, Lyle Ungar

机构 * University of Pennsylvania（宾夕法尼亚大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文通过线性探针和对比激活添加分析，揭示大语言模型中置信度信号与校准的线性关系，提出双阶段适应性引导流程以提升校准对齐。

Physiological and Semantic Patterns in Medical Teams Using an Intelligent Tutoring System

医疗团队中的生理与语义模式：基于智能教学系统

Xiaoshan Huang, Conrad Borchers, Jiayi Zhang, Susanne P. Lajoie

机构 * McGill University（麦吉尔大学） ； Carnegie Mellon University（卡内基梅隆大学） ； University of Pennsylvania（宾夕法尼亚大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 研究通过智能教学系统分析医疗团队在诊断虚拟患者时的生理和对话动态，发现语义变化与生理同步峰值相关，且高生理同步伴随低语义相似性，揭示了团队协作中的关键时刻。

Comments Accepted as short paper to the 27th International Conference on Artificial Intelligence in Education (AIED 2026)

Script Gap: Evaluating LLM Triage on Indian Languages in Native vs Romanized Scripts in a Real World Setting

脚本间隙：在真实世界环境中评估LLM在印度语言本土脚本与罗马化脚本上的三线分类

Manurag Khullar, Utkarsh Desai, Poorva Malviya, Aman Dalmia, Zheyuan Ryan Shi

机构 * School of Computing and Information, University of Pittsburgh（匹兹堡大学计算与信息学院） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.LG

AI总结 本文研究了LLM在印度语言及尼泊尔语的本土脚本与罗马化脚本在真实世界中的三线分类可靠性，发现罗马化文本导致性能下降达24分，并提出基于不确定性的选择路由方法以缩小脚本差距。

Lie to Me: How Faithful Is Chain-of-Thought Reasoning in Reasoning Models?

对我的谎言：推理模型中的思维链推理可信度如何？

Richard J. Young

机构 * University of Nevada, Las Vegas, Department of Management, Entrepreneurship and Technology, Lee Business School（内华达大学拉斯维加斯分校，管理、创业与技术系，李商学院） ； DeepNeuro AI 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 研究评估了12种开源推理模型在MMLU和GPQA Diamond中的表现，发现模型在提示影响下的可信度差异显著，训练方法和架构影响更大。

Comments 27 pages, 7 figures, 12 tables

Sample Transform Cost-Based Training-Free Hallucination Detector for Large Language Models

基于样本转换成本的无训练hallucination检测器用于大型语言模型

Zeyang Ding, Xinglin Hu, Jicong Fan

机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出基于最优传输距离的hallucination检测方法，通过计算token嵌入之间的Wasserstein距离矩阵，得到AvgWD和EigenWD两个指标，用于无训练检测大型语言模型的hallucination问题。

Comments 24 pages, 5 figures, 5 tables

Decoding the decoder: Contextual sequence-to-sequence modeling for intracortical speech decoding

解码解码器：用于皮层语音解码的上下文序列到序列建模

Michal Olak, Tommaso Boccato, Matteo Ferrante

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出基于Transformer的多任务序列到序列模型，用于从皮层记录中解码语音，通过引入Neural Hammer Scalpel模块提升鲁棒性和可解释性，实验显示其在语音解码任务中表现出色。

From Accuracy to Readiness: Metrics and Benchmarks for Human-AI Decision-Making

从准确到准备：人类-人工智能决策的度量与基准

Min Hun Lee

机构 * Singapore Management University（新加坡国立大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出评估人类-人工智能决策的度量框架，聚焦团队准备度，引入四类评价指标并连接人类-人工智能上boarding生命周期，通过交互轨迹评估校准、错误恢复与治理。

Comments ACM CHI 2026 Poster

Hallucination or Creativity: How to Evaluate AI-Generated Scientific Stories?

幻觉或创造力：如何评估AI生成的科学故事？

Alex Argese, Pasquale Lisena, Raphaël Troncy

机构 * EURECOM 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出StoryScore指标，用于评估AI生成的科学故事，结合语义对齐、词汇 grounding、叙事控制等方法，解决传统指标无法区分教育创造力与事实错误的问题。

Journal ref Proceedings of the Text2Story'26 Workshop, Delft (The Netherlands), 29-March-2026

From Detection to Diagnosis: Advancing Hallucination Analysis with Automated Data Synthesis

从检测到诊断：通过自动化数据合成推进幻觉分析

Yanyi Liu, Qingwen Yang, Tiezheng Guo, Feiyu Qu, Jun Liu, Yingyou Wen

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出从检测到诊断的新范式，通过自动化数据合成生成高质量训练样本，训练出HDM-4B-RL模型，在幻觉诊断任务中超越现有检测模型，实现更可靠的生成式AI系统。

Comments Accepted at The 40th Annual AAAI Conference on Artificial Intelligence

Reasoning-Grounded Natural Language Explanations for Language Models

基于推理的自然语言解释方法用于语言模型

Vojtech Cahlik, Rodrigo Alves, Pavel Kordik

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出一种通过推理过程生成可信自然语言解释的方法，通过将推理过程转化为token序列并解码为自然语言，提升解释的准确性与答案质量。

Comments (v2) Added acknowledgements section

Journal ref In: Guidotti, R., Schmid, U., Longo, L. (eds) Explainable Artificial Intelligence. xAI 2025. Communications in Computer and Information Science, vol 2578. Springer, Cham

ESG-Bench: Benchmarking Long-Context ESG Reports for Hallucination Mitigation

ESG-Bench: 对长上下文 ESG 报告进行基准测试以缓解幻觉

Siqi Sun, Ben Peng Wu, Mali Jin, Peizhen Bai, Hanpei Zhang, Xingyi Song

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出 ESG-Bench 数据集，用于评估大语言模型在解析 ESG 报告和减少幻觉方面的能力，通过人工标注的 QA 对和细粒度标签，系统评估模型提取和推理 ESG 内容的能力。

Comments To be published in the AAAI 2026 proceedings

CUPID: A Plug-in Framework for Joint Aleatoric and Epistemic Uncertainty Estimation with a Single Model

CUPID：一种联合估计自然不确定性和本质不确定性的插件框架

Xinran Xu, Xiuyi Fan

机构 * Lee Kong Chian School of Medicine, Nanyang Technological University, Singapore（南洋理工大学李科钦医学院，新加坡） ； College of Computing and Data Science, Nanyang Technological University, Singapore（南洋理工大学计算与数据科学学院，新加坡） ； Centre for Medical Technologies & Innovations, National Health Group, Singapore（国家健康集团医学技术与创新中心，新加坡） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 CUPID是一种无需修改基础模型即可联合估计自然和本质不确定性的插件框架，适用于多种任务，提供透明且可解释的不确定性分析。

A Multi-Dimensional Quality Scoring Framework for Decentralized LLM Inference with Proof of Quality

一种用于去中心化大语言模型推理的多维质量评分框架

Arther Tian, Alex Ding, Frank Chen, Simon Wu, Aaron Chan

机构 * DGrid AI 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种多维质量评分框架，用于去中心化LLM推理中的质量评估，通过分解输出质量为多个模块化维度，并通过实验验证其在不同任务中的有效性。

Multimodal Multi-Agent Ransomware Analysis Using AutoGen

基于AutoGen的多模态多智能体勒索软件分析

Asifullah Khan, Aimen Wadood, Mubashar Iqbal, Umme Zahoora

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出基于AutoGen的多模态多智能体框架，通过融合静态、动态和网络信息，提升勒索软件分类的准确性和稳定性。

Comments 46 pages, 11 figures and 10 tables

Efficient RLVR Training via Weighted Mutual Information Data Selection

通过加权互信息数据选择实现高效的RLVR训练

Xinyu Zhou, Boyu Zhu, Haotian Zhang, Huiming Wang, Zhijiang Guo

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 InSight通过加权互信息数据选择方法提升RLVR训练效率，实现性能和加速的显著提升。

Comments 15 Pages

BioCAP: Exploiting Synthetic Captions Beyond Labels in Biological Foundation Models

BioCAP: 利用合成描述性注释超越标签在生物基础模型中的应用

Ziheng Zhang, Xinyue Ma, Arpita Chowdhury, Elizabeth G. Campolongo, Matthew J. Thompson, Net Zhang, Samuel Stevens, Hilmar Lapp, Tanya Berger-Wolf, Yu Su, Wei-Lun Chao, Jianyang Gu

机构 * The Ohio State University（俄亥俄州立大学） ； Duke University（杜克大学） ； Boston University（波士顿大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 BioCAP通过生成合成描述性注释提升生物基础模型的性能，实现物种分类和文本-图像检索的高准确率。

Comments ICLR 2026; Project page: https://imageomics.github.io/biocap/

Calibrating Verbalized Confidence with Self-Generated Distractors

校准带有自生成干扰项的置信度

Victor Wang, Elias Stengel-Eskin

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出DINCO方法，通过自生成干扰项和归一化置信度校准，提升大型语言模型的置信度估计准确性。

Comments ICLR 2026. Code: https://github.com/victorwang37/dinco

Distribution-Aligned Decoding for Efficient LLM Task Adaptation

面向高效大语言模型任务适应的分布对齐解码

Senkang Hu, Xudong Han, Jinqi Jiang, Yihang Tao, Zihan Fang, Yong Dai, Sam Tak Wu Kwong, Yuguang Fang

机构 * Hong Kong JC STEM Lab of Smart City（香港JC智能城市STEM实验室） ； City University of Hong Kong（香港城市大学） ； University of Sussex（苏塞克斯大学） ； Huazhong University of Science and Technology（华中科技大学） ； Fudan University（复旦大学） ； Lingnan University（岭大大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 SVDecode通过引导输出分布对齐提升大语言模型任务适应性能，理论证明其与全微调等价，实验显示在多个任务上准确率提升显著。

Comments Accepted by NeurIPS'25

Probabilistic distances-based hallucination detection in LLMs with RAG

基于概率距离的LLM中幻觉检测方法（RAG）

Rodion Oblovatny, Alexandra Kuleshova, Konstantin Polev, Alexey Zaytsev

机构 * Markov Lab, Department of Mathematics（马尔可夫实验室，数学系） ； Computer Science, Saint-Petersburg University（计算机科学，圣彼得堡大学） ； AI Center, Skoltech（人工智能中心，斯克里普丘克技术学院） ； SB AI Lab（SB人工智能实验室） ； AI Center, Skoltech, Risk department, Sber（人工智能中心，斯克里普丘克技术学院，风险部门） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出了一种基于概率距离的LLM幻觉检测方法，利用提示标记与响应标记嵌入分布的距离来检测幻觉，具有高效性和可迁移性。

Comments Updated approach to constructing a hallucination detection score. Added results from experiments with the NLI task. The approach with trainable deep kernels has been removed, with a focus on the unsupervised approach

RFEval: Benchmarking Reasoning Faithfulness under Counterfactual Reasoning Intervention in Large Reasoning Models

RFEval: 在大推理模型中评估推理忠实性下的反事实推理干预基准测试

Yunseok Han, Yejoon Lee, Jaeyoung Do

机构 * AIDAS Laboratory（AIDAS实验室） ； IPAI ； ECE（电子工程系） ； Seoul National University（首尔国立大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 RFEval通过反事实推理干预评估大推理模型的推理忠实性，发现49.7%的输出不忠实，主要源于立场不一致，强调准确性不能作为忠实性的可靠代理。

Comments Accepted in ICLR 2026 Poster: https://iclr.cc/virtual/2026/poster/10011763

Anthropomimetic Uncertainty: What Verbalized Uncertainty in Language Models is Missing

拟人化不确定性：语言模型中言语不确定性所缺失的内容

Dennis Ulmer, Alexandra Lorson, Ivan Titov, Christian Hardmeier

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 本文探讨了语言模型中言语不确定性缺失的问题，提出拟人化不确定性的概念，旨在通过模仿人类语言行为提升模型的可信度和人机协作效果。

When to Trust the Cheap Check: Weak and Strong Verification for Reasoning

何时相信廉价检查：弱验证与强验证用于推理

Shayan Kiyani, Sima Noorani, George Pappas, Hamed Hassani

机构 * University of Pennsylvania（宾夕法尼亚大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出弱-强验证策略，通过两个阈值结构控制接受和拒绝错误，以提高LLM推理的可靠性和准确性。

Model-agnostic Selective Labeling with Provable Statistical Guarantees

模型无关的可证明统计保证选择性标注

Huipeng Huang, Wenbo Liao, Huajun Xi, Hao Zeng, Mengchen Zhao, Hongxin Wei

机构 * Department of Statistics and Data Science, Southern University of Science and Technology（统计与数据科学系，南方科技大学） ； Department of Mathematics, The Chinese University of HongKong（数学系，香港中文大学） ； School of Software Engineering, South China University of Technology（软件工程学院，华南理工大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出符合性标注方法，通过控制假发现率保证人工智能预测的可信度，从而提升大规模数据标注的准确性和效率。

EXCODER: EXplainable Classification Of DiscretE time series Representations

EXCODER: 可解释的时间序列离散表示分类

Yannik Hahn, Antonin Königsfeld, Hasan Tercan, Tobias Meisen

机构 * Institute for Technologies and Management of Digital Transformation (TMDT) University of Wuppertal（数字转型技术与管理研究所（TMDT）乌珀塔尔大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 EXCODER通过将时间序列转换为离散潜在表示，提升分类的可解释性，并提出SSA度量标准验证XAI方法的有效性。

Comments Accepted at PAKDD 2026