大模型对齐与安全

FacProcessTwin: An LLM-Based System for Process Twin Development

FacProcessTwin: 一种基于LLM的流程孪生开发系统

Yash Pulse, Yong-Bin Kang, Abhik Banerjee, Prem Prakash Jayaraman

机构 * Swinburne University of Technology（斯winburne大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 提出FacProcessTwin系统，利用大语言模型从工厂文档和操作员自然语言输入中自动生成流程模型并绑定实时数据，通过交互式流程图实现人机协同治理，在食品制造案例中准确率达95.2%，开发时间缩短至人工的1/6。

Speaking in Self-Assessing Tongues: On the Verbalized Confidence of LLMs in Machine Translation

自评之言：论大语言模型在机器翻译中的口头化置信度

Ali Marashian, Alexis Palmer, Katharina von der Wense

机构 * University of Colorado Boulder（科罗拉多大学博尔德分校） ； Johannes Gutenberg University Mainz（美因茨约翰内斯·古腾堡大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 本研究设计了五种无需内部信号的口头化方法提取LLM逐词置信度，并与内部确定性信号比较，发现两者在细粒度错误检测和校准上表现相似但相关性低。

Trust-Aware Multi-Agent Traceability: Confidence-Calibrated Knowledge Graphs for Consistent Software Artifact Management

信任感知的多智能体可追溯性：用于一致软件工件管理的置信度校准知识图谱

Mohamed Essam, Kareem Wael, Azza Hassan, Ahmed Haitham, Mahmoud Soliman, Samer Saber, Ibrahim Habib

机构 * CairoMotive Cairo, Egypt（开罗动力埃及） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 提出一种信任感知协调框架，通过共享知识图谱和校准置信度分数，结合嵌入检索与LLM多准则分析的两阶段可追溯性链接预测管道，解决多智能体系统中错误传播问题。

Misinformation Propagation in Benign Multi-Agent Systems

良性多智能体系统中的错误信息传播

Jonas Becker, Jan Philip Wahle, Terry Ruas, Bela Gipp

机构 * University of Göttingen, Germany（德国哥廷根大学） ； LKA NRW, Germany（德国北莱茵-威斯特法伦州警署） ； Shared last authorship（共同通讯作者） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 研究在良性多智能体系统中，基于意图的错误信息如何通过智能体交互传播，并发现多智能体辩论相比单智能体提示能减少性能下降，鲁棒性取决于群体组成和决策协议。

Comments 20 pages, 8 figures, 1 table

ROSA-RL: Uncertainty-Aware Roundabout Optimized Speed Advisory with Reinforcement Learning

ROSA-RL：基于强化学习的不确定性感知环岛优化速度建议

Anna-Lena Schlamp, Jeremias Gerner, Klaus Bogenberger, Werner Huber, Stefanie Schmidtner

机构 * Universität der Bundeswehr München（慕尼黑联邦国防军大学） ； Hochschule für angewandte Wissenschaften Landshut（兰茨胡特应用科学大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 针对混合交通中环岛场景的不确定性，提出ROSA-RL框架，结合Transformer预测冲突区域占用概率与强化学习，实现安全高效的环岛入口速度协调。

Comments 8 pages, 2 figures, 2 tables. Copyright 2026 IEEE. This is the accepted manuscript for 2026 IEEE International Conference on Intelligent Transportation Systems (ITSC), not the final published version

Disentangling Hallucinations: Orthogonal Semantic Projection for Robust Interpretability

解构幻觉：正交语义投影实现鲁棒可解释性

Emirhan Bilgiç, Baptiste Caramiaux, Zhi Yan, Gianni Franchi

机构 * U2IS, ENSTA, Institut Polytechnique de Paris（巴黎综合理工学院ENSTA学院U2IS实验室） ； ISIR, Université Sorbonne, Pierre et Marie Curie（索邦大学皮埃尔和玛丽·居里分校ISIR实验室） ； AMIAD, Pôle Recherche（AMIAD研究部） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 针对视觉语言模型解释中的语义幻觉问题，提出线性语义归因（LSA）理论框架，并引入正交语义投影（OSP）方法，通过正交化查询向量消除共享特征干扰，最小化幻觉。

Comments 41 pages in total. 5 figures, and 2 tables in the main paper; 10 figures and 17 tables in the appendix

Fast LLM-Based Semantic Filtering: From a Unified Framework to an Adaptive Two-Phase Method

基于LLM的快速语义过滤：从统一框架到自适应两阶段方法

Kyoungmin Kim, Martin Catheland, Anastasia Ailamaki

机构 * EPFL（瑞士联邦理工学院） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 提出自适应两阶段语义过滤框架，结合无模型聚类与在线代理，利用LLM的置信度作为软标签训练代理，并通过稀疏感知校准降低级联成本，在90%准确率目标下速度提升1.6-2.0倍。

Selective Agentic Recovery for UAV Autonomy with a Persistent Mission Runtime

面向无人机自主性的选择性代理恢复与持久任务运行时

Taewoo Park, Kyeonghyun Yoo, Seunghyun Yoo, Hwangnam Kim

机构 * Department of Electrical and Electronic Engineering, Korea University（高丽大学电气与电子工程系） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 提出持久任务运行时（PMR）框架，通过选择性调用外部代理推理器实现无人机恢复，引入学习型调用认知价值（learned-CVI）门控机制，在Gazebo/PX4基准测试中将硬/模糊场景成功率从5.0%提升至95.0%，同时减少16.7%的远程调用和29.2%的令牌消耗。

Comments 17 pages, 2 figures. Preprint

A Lightweight Multi-Agent Framework for Automated Concrete Barrier Design

一种用于自动混凝土护栏设计的轻量级多智能体框架

Wanting Wang, Xiye Ma, Yuyang He, Minghui Cheng, Ran Cao

机构 * College of Civil Engineering, Hunan University（湖南大学土木工程学院） ； Department of Civil and Architectural Engineering, University of Miami（迈阿密大学土木与建筑系） ； School of Architecture, University of Miami（迈阿密大学建筑学院） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 提出基于AutoGen的“生成-评估-优化”闭环多智能体框架，实现混凝土护栏自动设计，准确率超98%，且8B参数轻量模型可优于631B旗舰模型。

Can News Predict the Market? Limits of Zero-Shot Financial NLP and the Role of Explainable AI

新闻能否预测市场？零样本金融自然语言处理的局限性与可解释人工智能的作用

Ali M Karaoglu, Shreyank N Gowda

机构 * University of Nottingham（诺丁汉大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL

AI总结 本研究通过零样本自然语言处理框架，结合时间聚合与多层次可解释性，发现零样本方法无法超越简单基线，但可解释性信号能区分可靠与不可靠预测，强调透明性和不确定性感知在决策支持中的价值。

Can we trust our models? Epistemic calibration in second-order classification

我们能信任我们的模型吗？二阶分类中的认知校准

Arthur Hoarau

机构 * Université de Lorraine, CentraleSupélec Loria, CNRS（洛林大学，中央理工-高等电力学院洛里亚实验室，法国国家科学研究中心） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG

AI总结 提出认知校准准则，衡量认知不确定性估计是否可靠，并证明其比经典校准更严格，通过EECE指标实验揭示不同不确定性量化方法的差异。

Quantitative Promise Theory: Intentionality and Inference in Autonomous Agents

定量承诺理论：自主智能体中的意向性与推理

Mark Burgess

机构 * ChiTek-i AS 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出将贝叶斯概率与信息论优化（包括主动推理）融入承诺语义，以解决概率计算中的非局部协调、校准和归一化问题，并利用边界条件作为承诺约束状态与决策阈值，实现可扩展的意图定义。

Sequential statistical inference for Large Language Models: Representation, validity, and monitoring

大语言模型的序贯统计推断：表示、有效性与监控

Yao Xie

机构 * H. Milton Stewart School of Industrial and Systems Engineering, Georgia Institute of Technology（佐治亚理工学院工业与系统工程系） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文提出将序贯统计推断应用于大语言模型可信赖性，围绕表示、有效性和监控三个任务展开，将LLM交互视为依赖随机过程，提供不确定性保证并检测行为变化。

Comments This article was prepared for a invited discussion in The American Statistician

Sycophantic Praise: Evaluating Excessive Praise in Language Models

谄媚式赞美：评估语言模型中的过度赞美

Daniel Vennemeyer, Phan Anh Duong, Meryl Ye, Ruihong Huang, Tianyu Jiang

机构 * University of Cincinnati（辛辛那提大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Texas A&M University（德克萨斯大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 提出参数化框架衡量赞美是否过度，发现谄媚式赞美在社交和解释性领域远多于客观推理领域，且现有方法无法可靠测量。

Explicit Evidence Grounding via Structured Inline Citation Generation

通过结构化内联引文生成实现显式证据基础

Anar Yeginbergen, Amelie Wührl, Anna Rogers, Rodrigo Agerri

机构 * University of the Basque Country (UPV/EHU)（巴斯克大学） ； IT University of Copenhagen（哥本哈根IT大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 提出FullCite框架，通过提示生成、约束解码和后处理跨度对齐三种策略生成结构化内联引文，在三个QA基准上评估引文质量和忠实性，发现LLMs虽能识别相关文档但难以精确定位支持性证据跨度。

Beyond Post-hoc Explanation: Toward Glassbox AI via Probabilistic Mediation

超越事后解释：通过概率中介迈向玻璃箱AI

Manuele Leonelli

机构 * Manuele Leonelli（曼努埃尔·莱奥内利） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 针对大语言模型在关键领域的不透明性，提出玻璃箱框架，利用贝叶斯网络作为事前中介层，实现可审计推理、不确定性量化和可争议输出。

Training Large Language Models for Self-Explanation Faithfulness

训练用于自解释忠实性的大语言模型

Yeoktatt Cheah, María Pérez-Ortiz, Noah Y. Siegel, Oana-Maria Camburu

机构 * Imperial College London（帝国理工学院） 纠错

专题命中 幻觉与事实性 ：分类 cs.CL、cs.AI、cs.LG；alignment(comments)

AI总结 提出强化学习方法，将忠实性度量改为训练目标，研究模型能否检测及优化影响决策因素以提高自解释忠实性。实验用随机词和用户偏差插入，微调模型在忠实性度量上显著改进，交叉干预泛化有模型依赖等情况，为减少不忠实推理提供路径。

Comments To appear at the ICLR 2026 Workshop on Representational Alignment (Re-Align), 10 pages (long paper)

ConfTriage: A Calibration-Aware LLM Triage Framework for Pulmonary Nodule Malignancy with Selective Specialist Deferral

ConfTriage：用于肺结节恶性程度分级的校准感知大语言模型分级框架，结合选择性专家模型转诊机制

Md Rabiul Islam, Samir Abdaljalil, Erchin Serpedin, Hasan Kurban

机构 * Texas A&M University（德克萨斯农工大学） ； Hamad Bin Khalifa University（哈马德·本·哈利法大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 本研究提出ConfTriage框架，以校准感知LLM为核心结合专家DL后备模型，通过肺结节属性的自然语言表述实现分级，在LIDC-IDRI数据集上取得88.22%的F1分数与0.92的AUC，可高效处理多数病例并仅转诊不确定病例，为医疗决策支持提供了新路径。

Comments 14 pages, 8 figures. Currently under review

Rethinking LLM Verification: Evidence Structure, Uncertainty, and Selective Refinement

重新思考大语言模型验证：证据结构、不确定性与选择性优化

Uma Ranjan, Kunal Tilaganji, Aditya Koul, Anurag Mahipal, Dashpreet Singh, Hriday Rana, Manan Jain, Sidharth Gupta, Ajo Babu George, Vineeth Balasubramanian, Nagarajan Natarajan, Amit Sharma

机构 * Indian Institute of Technology Jammu（贾姆穆印度理工学院） ； Microsoft Research（微软研究院） ； SCB Dental College and Hospital（SCB牙科学院与医院） 纠错

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 该研究针对LLMs医疗应用的安全问题，提出两阶段框架，利用模型弃权信号优化推理，在GPT-5.5、DeepSeek-R1模型及MedReason、MedQA数据集上显著提升了医疗假设验证的准确率。

Comments Findings Track at the Conference on Empirical Methods in Natural Language Processing (EMNLP 2026)

TruthLens: Object Hallucination Detection via Self-Evaluating Truthfulness Scores in LVLMs

TruthLens：通过大型视觉语言模型（LVLM）中的自评估真实性分数检测对象幻觉

Yanqi Wu, Runhe Lai, Xinhua Lu, Qichao Chen, Zhiping Zhou, Jia-Xin Zhuang, Weijiang Yu, Ruixuan Wang

机构 * School of Computer Science and Engineering, Sun Yat-sen University（中山大学计算机科学与工程学院） ； Peng Cheng Laboratory（鹏城实验室） ； University of Nottingham Malaysia（马来西亚诺丁汉大学） ； Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)

AI总结 TruthLens 是一种无需额外成本的 LVLM 对象幻觉检测框架，通过微调 LM 头部输出真实性分数，在 MS-COCO 数据集上的 Qwen2.5-VL-7B 上实现了超 17% 的 AUROC 提升，性能达当前最优。

Comments Accepted by ECCV 2026

Cross-platform epistemic verification for improving factual reliability in AI-generated news summarization

用于提升AI生成新闻摘要事实可靠性的跨平台认知验证

Zhuo Xie, Haoze Ni

专题命中 幻觉与事实性 ：trustworthy(abstract)

AI总结 本研究提出多源证据共识验证（MECV）框架，通过多异构来源证据聚合与多LLM陪审团机制修正AI生成新闻摘要的幻觉，在SummEdits基准上提升了事实一致性，为可信AI与自动化新闻研究提供了新方法。

RAC: Reference-Aware Activation Compression for Communication-Efficient Split LLM Inference

RAC：面向通信高效的分割式大语言模型推理的参考感知激活压缩

Guotao Yang, Mingxi Zhao, Haopeng Li, Zhengchao Wang, Sheng Chen, Yitao Hu, Keqiu Li

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 该研究针对分割式LLM推理的通信瓶颈，提出参考感知激活压缩方法RAC，通过参考感知编解码器等技术降低通信开销，在多模型多链路对实验中验证了其时间性能提升与任务分数变化情况。

Comments 10 pages, 7 figures, 2 tables

Goal-Oriented Logic-based Semantic Communication for Neuro-Symbolic Reasoning with Applications onto Autonomous Driving

面向目标的基于逻辑的语义通信及用于自动驾驶的神经符号推理

Ahmet Faruk Saz, Duo Xu, Faramarz Fekri

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 本文针对自动驾驶场景，提出基于一阶逻辑的目标导向语义通信方法，通过选择关键证据传输实现安全决策，在相同通信预算下优于均匀证据选择。

Think2Go: Generative Next POI Recommendation with LLM Reasoning

Think2Go：基于大语言模型推理的生成式下一个兴趣点（POI）推荐

Zhuang Zhuang, Shanshan Feng, Hangwei Qian, Mingqi Yang, Heng Qi, Yanming Shen, Baocai Yin

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 Think2Go框架统一SFT与RL推理，通过优势加权机制校准策略优化，解决现有POI推荐模型的意图捕捉不足问题，提升推荐性能与稳健性。

Comments Accepted by KDD 2026 Research Track Cycle 1 (Oral presentation)

Anchoring and Steering Diffusion: Enhancing the Faithfulness of Text-to-Image Generation at Inference Time

锚定与引导扩散：在推理时提升文生图生成的忠实度

Xinyi Wang, Yuyang Huang, Yalin Su, Pengcheng Luan, Tao Zhang, Feiming Wei, Wenxian Yu

机构 * Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 提出无训练框架AnchorSteer，通过语义锚定与反射引导组件改进文生图扩散模型的推理，在GenEval等基准上提升文本-图像对齐性能且保持视觉质量。

Comments Accepted by ECCV 2026

Automating structural reliability analysis with a multi-agent large language model framework

使用多智能体大语言模型框架实现结构可靠性分析自动化

Jaehwan Jeon, Chang Hee Lee, Taeyong Kim

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 研究提出多智能体大语言模型框架，通过专门智能体处理结构可靠性分析流程，用QLoRA微调方法规划器，由确定性求解器计算结果，降低专业知识壁垒，保持计算可信度，实现结构可靠性分析自动化。

Comments 41 pages, 10 figures. Submitted to Automation in Construction

Look Clearly Before Answering: Mitigating Hallucinations in LVLMs via Saliency-Driven Perceptual Realignment

回答前看清楚：通过显著性驱动的感知重新对齐减轻LVLMs中的幻觉

Pengxu Chen, Yao Zhu, Guangming Zhu, Jun Sheng, Jincai Huang, Xiangyang Ji, Liang Zhang

机构 * Xidian University（西安电子科技大学） ； Tsinghua University（清华大学） ； Shanghai Road Transport Development Center（上海市道路运输发展中心） ； Hunan Institute of Advanced Technology（湖南先进技术研究院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 研究针对LVLMs易产生幻觉问题，提出无需训练的SDPR框架，通过显著性驱动注意力重新分配、缓存对齐及先验约束对比解码，整体对齐视觉意识，在多基准测试中优于现有方法，无需额外训练且开销小。

Comments Accepted by ACM Multimedia 2026

Machine Learning Challenges in Intelligent Unmanned Aerial Vehicle Operations in Developing Economie

发展中经济体智能无人机操作中的机器学习挑战

Isuru Munasinghe, Nethmi Pathirana, Charitha Dombawala, Asanka Perera, Akila Pemasiri

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 探讨发展中经济体无人机智能操作面临的机器学习挑战，涉及导航、感知等核心功能领域，因资源、环境等因素受限，凸显了实验性能与实际部署间的差距。

Hallucination Detector: A hybrid LLM and Semantic Scholar tool calling for detecting hallucination in scientific literature on AtomGPT.org

幻觉检测器：一种用于在AtomGPT.org上检测科学文献中幻觉的混合大语言模型和语义学者工具调用

Harichandana Neralla, Jaehyung Lee, Aldo H. Romero, Kamal Choudhary

专题命中 幻觉与事实性 ：trustworthy(abstract)

AI总结 研究针对大语言模型用于科学写作时出现的虚构参考文献问题，提出结合大语言模型字段提取与语义学者结构化检索的AtomGPT参考文献检查器，经基准测试能可靠标记多数幻觉引用，保障文献引用可信度。

Fiber Bragg grating-based acoustic sensing system enabled by ML-trained, sub-picometer-tunable hybrid III-V/SiN lasers

基于光纤布拉格光栅的声学传感系统：采用机器学习训练、亚皮米可调谐混合III-V/SiN激光器

Prabhav Gaur, Premanand Chandramani, Yossef Ehrlichman, Mohammed Alshamari, Yufei Chu, Abu Mitul, John Simons, Ibrahim G. Yayla, Ming Han, Ashok V. Krishnamoorthy

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 提出一种机器学习训练的混合III-V/SiN可调谐激光器，实现亚皮米级波长控制，用于光纤布拉格光栅声学传感系统，实现高灵敏度、多通道分布式声发射检测与自适应空间定位。