大模型对齐与安全

Business Arena: Benchmarking LLM Agents in a Realistic Marketplace

商业竞技场：在现实市场中对大语言模型智能体进行基准测试

Yijun Pan, Yukun Lian, Kunyu Shi, Junbo Li, Hongwei Xue, Sicong Xie, Guannan Zhang, Xiaoying Xing

机构 * Alibaba Group（阿里巴巴集团） ； Yale University（耶鲁大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 研究人员推出Business Arena测试平台，评估15个前沿LLM智能体在跨境商店运营中的表现，发现其平均最终净资产差9倍，最优模型仍逊于人类策略，为商业智能体评估提供了现实测试基准。

Integrating RCTs, RWD, AI/ML and Statistics: Next-Generation Evidence Synthesis

整合RCTs、RWD、AI/ML和统计学：下一代证据合成

Shu Yang, Margaret Gamalo, Haoda Fu

机构 * Department of Statistics, North Carolina State University（统计学系，北卡罗来纳州立大学） ； VP and Statistics Head, Inflammation, Immunology & Specialty Care, Pfizer（副总裁及统计学负责人，炎症、免疫与专科医疗，辉瑞） ； Head of Exploratory Biostatistics, Amgen（探索性生物统计学负责人，安进） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文提出通过整合RCTs、RWD、AI/ML和统计学，提升证据合成的严谨性和实用性，推动下一代证据生成方法的发展。

Online Conformal Prediction Beyond Feedback

超越反馈的在线共形预测

Joar Skalse, Edoardo Pona, Osvaldo Simeone, Nicola Paoletti

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 针对超越反馈的在线共形预测场景，本文提出OCPQ方法，将标签高效预测器适配到该设置，实现了低查询率下的高覆盖率，且在真实数据集上验证了其有效性。

Clinical Communication Processing with Models Trained on LLM-Generated Synthetic Data: A Structured Survey and Novel Application Case Studies

基于大语言模型生成的合成数据训练模型的临床通信处理：结构化综述与新型应用案例研究

Alexander Apartsin, Yehudit Aperstein

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL

AI总结 本文综述用大语言模型生成的合成数据训练临床NLP系统的研究，结合13项无真实标注数据的案例，发现合成通信可支撑相关系统，微调编码器模型具竞争力，需真实数据迁移等完善。

Comments 20 pages, 7 figures

CrossHallu: Do Hallucination Signals Generalize Across Languages and Domains in Large Language Model's Internals?

CrossHallu：大语言模型内部的幻觉信号能否跨语言和领域泛化？

Aisha Alansari, Malak Alkhorasani, Hamzah Luqman

机构 * King Fahd University of Petroleum and Minerals（法赫德国王石油与矿产大学） ； Imam Abdulrahman bin Faisal University（伊玛目阿卜杜勒拉赫曼·本·费萨尔大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 研究大语言模型内部幻觉检测信号能否跨语言和领域泛化，通过CrossHallu对六个模型的内部表征在生成式问答任务上进行评估，结果揭示了模型内部状态幻觉信号跨语言和领域转移的情况。

Real-time probabilistic tsunami forecasting via generative AI

基于生成式AI的实时概率海啸预报

Yusuke Oishi, Takashi Furumura, Fumihiko Imamura

机构 * Fujitsu Research, Fujitsu Limited（富士通研究所，富士通株式会社） ； Earthquake Research Institute, The University of Tokyo（东京大学地震研究所） ； International Research Institute of Disaster Science, Tohoku University（东北大学国际灾害科学研究所） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 该研究开发基于条件扩散模型的概率集成模型，利用2011年东北地方太平洋近海地震数据验证，实现实时概率海啸预报，将海啸预报从确定性转向概率性，为下一代预警奠定基础。

Comments 24 pages, 14 figures, 1 table

Local Violation Certification for Linear Predict-Then-Optimize Pipelines

线性“先预测后优化”管道的局部违规认证

Ş. İlker Birbil, Wenhao Chi

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 针对输入不确定性下的线性“先预测后优化”决策管道，提出局部违规认证框架，可通过单次优化求解直接计算局部故障风险，在电力调度系统上验证，成本低且评估精确可审计。

Comments 24 pages, 3 figures

Beyond Semantic Equivalence: Logical Graphs for LLM Uncertainty Quantification

超越语义等价：用于大语言模型不确定性量化的逻辑图

Yanni Dong, Minghua Liu, Meilin Zhu, Xiaowei Huang, Lijun Zhang

机构 * Institute of Intelligent Software（智能软件研究所） ； Institute of Software, CAS（中国科学院软件研究所） ； University of Liverpool（利物浦大学） ； Guangzhou Jiayi Software Technology Co., Ltd.（广州嘉意软件科技有限公司） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 研究大语言模型输出不可靠问题，提出逻辑图不确定性（LGU）框架，该框架能明确建模答案间逻辑关系，通过聚合概率质量、计算熵等方式改进不确定性估计，在多个问答基准测试中优于现有方法。

Comments 21 pages, 3 figures, 11 tables. Under review

DELTA-TTS: Adapting Autoregressive Model into Diffusion Language Model for Text-to-Speech

DELTA-TTS：将自回归模型适配为扩散语言模型以实现文本转语音

Junwon Moon, Yejin Lee, Seungbeom Kim, Hoseong Ahn, Sewoong Park, Heeseung Kim, Kyuhong Shim

机构 * Sungkyunkwan University（首尔大学） ； University of Seoul（首尔大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 针对自回归TTS推理慢、鲁棒性差的问题，提出基于LoRA的轻量适配框架DELTA-TTS，将预训练AR TTS转为离散扩散语言模型，推理速度提升3.3倍且性能更优。

Comments ICML 2026 SPIGM Workshop

A game theory for foundation models shows new paths to rational cooperation through similarity inference

基础模型的博弈论：通过相似性推理实现理性合作的新路径

Alexander Meulemans, Maciej Wołczyk, Marissa A. Weis, Rajai Nasser, Roberta Rocca, Seijin Kobayashi, Guillaume Lajoie, Angelika Steger, Blake Richards, Marcus Hutter, James Manyika, Rif A. Saurous, João Sacramento, Blaise Agüera y Arcas

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 本文提出针对基础模型智能体的嵌入贝叶斯智能体理论模型，通过嵌入均衡机制实现相似性推理，破解经典博弈论预测的社会困境中相互背叛问题，达成稳定合作。

Comments 75 pages, 11 figures

Experience-Calibrated Contrastive Decoding for Mitigating Hallucinations in LM-Based Text-to-Speech

用于缓解基于语言模型的文本转语音中幻觉的经验校准对比解码

Chenlin Liu, Minghui Fang, Zhonghao Bi, Zekai Su, Rong Wang, Jiqing Han

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG

AI总结 该研究针对基于语言模型的文本转语音的语音幻觉问题，提出无训练的经验校准对比解码方法，在多数据集上显著降低错误率并提升听辨质量，为解码时缓解语音幻觉提供新方向。

Comments Work in progress

Constrained Co-Design for Photonic Bayesian Neural Networks

光子贝叶斯神经网络的约束协同设计

Hendrik Borras, Xiao Wang, Bernhard Klein, Robin Janssen, Frank Brückerhoff-Plückelmann, Wolfram Pernice, Holger Fröning

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 针对经典神经网络的过度自信预测缺陷，研究人员将光子概率计算与贝叶斯神经网络结合，通过约束随机变分推理得出协同设计指南，验证了硬件感知训练可恢复性能及不确定性质量。

CultureVidBench: Benchmarking Cultural Understanding in Text-to-Video Generation

CultureVidBench：文本到视频生成中的文化理解基准测试

Xianjing Han, Yuhan Su, Yang Deng, Dong Ma, Wee Peng Tay, Bin Zhu

机构 * Nanyang Technological University（南洋理工大学） ； Centrale Supélec（中央高等电力学院） ； Singapore Management University（新加坡管理大学） ； University of Cambridge（剑桥大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 本研究推出CultureVidBench基准，评估7款T2V模型的文化理解能力，发现现有模型难捕捉细粒度文化细节，尤其针对代表性不足的文化区域与线索。

Comments Project page:https://hanxjing.github.io/CultureVidBench/

Averaging Bias: Human Faithfulness Annotations are not Locally Faithful

平均偏差：人类忠实性标注并非局部忠实

Huajian Zhang, Yiyang Feng, Jiawei Zhou

机构 * Stony Brook University（石溪大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL

AI总结 该研究发现文本摘要忠实性基准的人类全局标注存在平均偏差，即标注者接受大部分句子忠实的摘要，而非严格合取规则要求的所有句子都忠实，需改进人类标注设计。

Enhancing LLMs with Context-Specific Knowledge for Mitigating Misinformation in SMEs: A RAG-based Modeling and Analysis

用特定上下文知识增强大语言模型以缓解中小企业的错误信息：一种基于RAG的建模与分析

Md. Samiul Islam, Iqbal H. Sarker, Chadni Islam, Ahmad Mohsin, Ahmed Ibrahim, Helge Janicke

机构 * School of Science, Edith Cowan University（伊迪斯科文大学理学院） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 该研究针对中小企业使用LLM时面临的错误信息问题，提出VectorRAG与GraphRAG方法，在LLaMA等模型上验证RAG可提升响应质量，助力可靠决策。

AI and Authenticity in Islamic Research: A Critical Evaluation of Generative AI Reliability, Hallucination, and Source Fidelity in Quranic, Hadith, and Fiqh Knowledge

伊斯兰研究中的人工智能与真实性：对生成式人工智能在古兰经、圣训及教法知识中的可靠性、幻觉及来源保真度的批判性评估

Muhammad Sajjad Akbar

机构 * School of Computer Science, The University of Sydney（悉尼大学计算机学院） ； Macquarie University（麦考瑞大学） ； The University of New South Wales（新南威尔士大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 本研究评估6款主流生成式AI在伊斯兰知识领域的可靠性，发现其仅适用于伊斯兰入门学习辅助，需验证后才可用于宗教指导或学术研究，为相关群体提供实践指导。

Measuring Human Value Expression in Social Media Texts: Calibrated LLM Annotation and Encoder Transfer

测量社交媒体文本中的人类价值表达：校准的LLM标注与编码器迁移

Maria Milkova, Maksim Rudnev

机构 * Independent researcher, Lisbon, Portugal（独立研究者，里斯本，葡萄牙） ； University of Waterloo, ON, Canada（滑铁卢大学，安大略省，加拿大） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 本研究使用校准的LLM标注和软标签训练，将基于Schwartz人类基本价值理论的社交媒体文本价值表达迁移到编码器模型，实现可扩展预测。

Towards Unified Multimodal Misinformation Detection in Social Media: A Benchmark Dataset and Baseline

面向社交媒体中统一的多模态虚假信息检测：基准数据集与基线模型

Haiyang Li, Yaxiong Wang, Shengeng Tang, Yuchen Zhang, Lianwei Wu, Lechao Cheng, Liu Liu, Chaofeng Dong, Zhun Zhong

机构 * School of Computer Science and Information Engineering, Hefei University of Technology（计算机科学与信息工程学院，合肥工业大学） ； School of Computer Science and Technology, Northwestern Polytechnical University（计算机科学与技术学院，西北工业大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 该研究构建了含9.8万样本的OmniFake基准数据集，提出UMFDet框架，实现对人工与AI生成两类多模态虚假内容的统一检测，性能优于专用基线。

Conformal Changepoint Localization and Root Cause Analysis with Corrupted Observations

含损坏观测值的保序变点定位与根因分析

Seunghun Yu, Meiyi Zhu, Petar Popovski, Joonhyuk Kang, Osvaldo Simeone

机构 * Korea Advanced Institute of Science and Technology（韩国科学技术院） ； King’s College London（伦敦国王学院） ； Aalborg University（奥尔堡大学） ； Northeastern University London（伦敦东北大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 本文针对含损坏观测值的系统，提出加权CONCH与加权CROC方法，结合元学习优化权重，可在保证置信集目标覆盖率的前提下缩小其规模，提升变点定位与根因分析的实用性。

Comments 34 pages, 6 figures

Do LLM Debates Repeat Arguments Differently Across Languages?

大语言模型辩论在不同语言中重复论点的方式是否不同？

Huiqian Lai

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 研究大语言模型辩论在不同语言中重复论点的差异，用“先验论点相似度”方法，发现在多语言嵌入模型中中文与英文有正向差距，该差距在多种条件下持续，多样性提示未显著缩小差距，建议多语言辩论评估衡量论证发展并报告缓解效果。

Robust Conformalized Selection with Noisy Responses

具有噪声响应的鲁棒共形选择

Chengyao Yu, Hongxin Wei, Bingyi Jing

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG

AI总结 研究在含噪声响应数据下的选择问题，提出鲁棒共形选择框架RCS，通过将标签噪声转化为协变量偏移问题，实现有效FDR控制，经实验验证了该方法在模拟和真实数据集上的有效性。

DynaCalKV: Key-Value Cache Compression via Head Grouping and Adaptive Rank Allocation

DynaCalKV：通过头部分组和自适应秩分配实现键值缓存压缩

Tan T. Nguyen, Quan V. Dang

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG

AI总结 针对大语言模型KV缓存瓶颈问题，提出DynaCalKV框架，通过基于CKA相似性动态分组注意力头并自适应分配秩预算处理键缓存，值缓存采用ReCalKV方法优化，实验表明能减少键缓存参数且保持准确率，对MHA模型效果好，对GQA模型应用需更谨慎。

Spectral Dynamics of Semantic Drift in Clinical Multi-Agent Language Model Networks

临床多智能体语言模型网络中语义漂移的谱动力学

Amritesh Banerjee

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 研究临床多智能体语言模型网络中语义漂移的谱动力学，通过映射多智能体通信不确定性轨迹到嵌入空间，揭示结构瓶颈危害。提出动态谱监测技术，经图拉普拉斯算子特征分解确保全局状态扩散，保障自主医疗诊断可靠性。

MPR-CiteG: Enhancing RAG with Multi-Portfolio Retrieval and Citation-Grounded Generation

MPR-CiteG：通过多组合检索和引用基础生成增强RAG

Hyewon Lee, Minkyung Song, Junghyun Oh, Seunghoon Han, Sungsu Lim

机构 * Chungnam National University（忠南国立大学） ； Data Intelligence Laboratory（数据智能实验室） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 该研究针对生成式AI检索低效与缺来源验证问题，提出双组件MPR-CiteG框架，用多组合检索器高效检索，引用基础生成模块确保输出事实一致且有源可溯，经实验验证其有效性与可靠性，助力构建更可信准确的大语言模型。

Comments 12 pages, 1 figure, 7 tables. The 1st International Workshop on Retrieval-Driven Generative AI & ScienceON AI Challenge 2025@CIKM

Rethinking Prospect Theory for LLMs: Revealing the Instability of Decision-Making under Epistemic Uncertainty

重新思考用于大语言模型的前景理论：在认知不确定性下决策的不稳定性

Rui Wang, Qihan Lin, Jiayu Liu, Qing Zong, Tianshi Zheng, Dadi Guo, Haochen Shi, Peixuan Han, Weiqi Wang, Yangqiu Song

机构 * Hong Kong University of Science and Technology（香港科技大学） ； Huazhong University of Science and Technology（华中科技大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文重新审视前景理论在大语言模型中的应用，发现其在认知不确定性下的决策稳定性存在问题，指出前景理论可能无法可靠地处理此类不确定性。

Terrain Classification Enhanced with Uncertainty for Space Exploration Robots from Proprioceptive Data

基于不确定性增强的地形分类用于空间探索机器人的本体数据

Mariela De Lucas Álvarez, Jichen Guo, Raul Domínguez, Matias Valdenegro-Toro

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文提出一种基于不确定性量化的神经网络方法，利用本体数据实现可靠的地形分类，以提高空间探索机器人在不可预测环境中的决策可靠性。

Comments 6 pages, 4 figures. LatinX in AI Workshop @ ICML 2023 Camera Ready

Journal ref International Conference on Machine Learning Conference: LatinX in AI (LXAI) Research Workshop 2023

Enhancing Explainable Cardiac Diagnosis with Guide-Grounded Multimodal LLMs

用指南引导的多模态语言模型增强可解释的心脏诊断

Hai-Nam Duy Vuong, Duy-Anh Bui, Trong-Nghia Nguyen, Kim-Ngan Thi Nguyen, Trang Mai Xuan, Tien-Cuong Nguyen, Van-Dem Pham, Thien Van Luong

机构 * Business AI Lab, College of Technology, National Economics University（商业人工智能实验室，技术学院，越南国家经济大学） ； A2I Lab, Phenikaa School of Computing, Phenikaa University（A2I实验室，费尼卡计算机学院，费尼卡大学） ； VNPT AI, VNPT Group（VNPT人工智能，VNPT集团） ； FPT University（FPT大学） ； Department of Pediatrics, Hospital of University Medicine and Pharmacy, Vietnam National University Hanoi（越南河内国家大学医学与药学院儿科学系） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 研究针对深度学习模型在心脏诊断中可解释性有限等问题，提出指南引导的多模态框架，通过卷积神经网络、Grad-CAM及结构化解释指南生成诊断报告，实验证明该方法能提升报告质量，增强临床合理性。

Comments 12 pages, 3 figures, accepted at CITA 2026

Evaluating and Guarding Citation Faithfulness in Agentic Scientific Synthesis

评估和保障智能科学合成中的引用忠实性

Taewan Goo, Junsik Kim, Kyulhee Han, GwonYul Jo, Jong-Soo Kim, Tae-Hyung Kim

机构 * Seoul National University（首尔国立大学） ； BioNexus（生物 Nexus） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 研究智能语言模型系统引用答案检查的可靠性问题，提出黄金锚定评估协议和可部署防护措施，能验证验证者、测量重新归因，为无支撑引用设限，经多模型和管道验证后作为单GPU工具包发布。

Comments 20 pages, 5 figures. Includes supplementary material (Appendices S1-S6). Open single-GPU reproducibility kit included

Encode Once, Decode Never: Reusing Audio LM Internals for Efficient Temporal Localization

帧级内部工具使用用于音频语言模型中的时序定位

Joseph An, Phillip Keung, Jiaqi Wang, Orevaoghene Ahia, Noah A. Smith

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出帧级内部工具使用方法，通过二元分类器和IHP损失提升音频语言模型的时序定位能力，实现50倍加速和鲁棒长度泛化。

Comments To appear in COLM 2026. Refer to https://github.com/inkitori/taudio/ for the codebase

Formal Foundations for Known Good Reliable Die Screening in Chiplet-Based AI Systems-on-Chip

基于小芯片的人工智能片上系统中已知良好可靠芯片筛选的形式基础

Prashanthi Metku, Chandra Gandu

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 研究基于小芯片的人工智能片上系统中芯片筛选问题，将KGD到KGRD筛选转变为约束推理问题，提出贝叶斯概率风险模型等四项贡献，蒙特卡罗模拟验证了理论特性及安全保证。