视觉大模型 / VLM

BeSafe-Bench: Unveiling Behavioral Safety Risks of Situated Agents in Functional Environments

BeSafe-Bench：揭示功能环境中情境代理的行为安全风险

Yuxuan Li, Yi Lin, Peng Wang, Shiming Liu, Xuetao Wei

机构 * Southern University of Science and Technology（南方科技大学） ； Huawei RAMS Lab（华为RAMS实验室） 纠错

专题命中 幻觉与鲁棒性 ：VLM(abstract)；分类 cs.AI

AI总结 本文提出BeSafe-Bench，通过构建功能环境和引入九类安全关键风险，评估代理在Web、Mobile、Embodied VLM和Embodied VLA等领域的行为安全风险，发现最佳性能代理在安全约束下完成任务的比例不足40%。

Uncertainty Quantification for Quantum Computing

量子计算中的不确定性量化

Ryan Bennink, Olena Burkovska, Konstantin Pieper, Jorge Ramirez, Elaine Wong

机构 * Oak Ridge National Laboratory（橡树岭国家实验室） ； Universidad Nacional de Colombia, Sede Medellin（哥伦比亚国立大学麦德林校区） 纠错

专题命中 幻觉与鲁棒性 ：grounding(abstract)；分类 cs.LG

AI总结 本文通过不确定性量化方法，介绍量子计算中的噪声和随机性对计算结果的影响，探讨数学工具在误差传播和可靠性中的应用，以及其在可扩展算法和相关误差表征中的作用。

Seeing to Ground: Visual Attention for Hallucination-Resilient MDLLMs

视觉注意：用于抗幻觉的MDLLMs

Vishal Narnaware, Animesh Gupta, Kevin Zhai, Zhenyi Wang, Mubarak Shah

机构 * Institute of Artificial Intelligence, University of Central Florida（中佛罗里达大学人工智能研究所） 纠错

专题命中 幻觉与鲁棒性 ：grounding(abstract)；分类 cs.CV

AI总结 本文提出VISAGE框架，通过校准解码器目标来减少多模态幻觉，通过空间熵分析提升视觉基础性。

RobustVisRAG: Causality-Aware Vision-Based Retrieval-Augmented Generation under Visual Degradations

RobustVisRAG: 基于因果性的视觉增强检索增强生成方法在视觉退化下的鲁棒性

I-Hsiang Chen, Yu-Wei Liu, Tse-Yu Wu, Yu-Chien Chiang, Jen-Chien Yang, Wei-Ting Chen

机构 * National Taiwan University（国立台湾大学） ； Microsoft（微软） 纠错

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)；分类 cs.CV

AI总结 本文提出RobustVisRAG，通过双路径框架分离语义与退化因素，提升在视觉退化下的检索生成性能，实验显示在真实退化条件下性能提升显著。

Comments Accepted by CVPR2026; Project Page: https://robustvisrag.github.io

From Weights to Concepts: Data-Free Interpretability of CLIP via Singular Vector Decomposition

从权重到概念：通过奇异向量分解实现CLIP的数据无关可解释性

Francesco Gentile, Nicola Dall'Asen, Francesco Tonini, Massimiliano Mancini, Lorenzo Vaquero, Elisa Ricci

机构 * University of Trento（特伦托大学） ； University of Pisa（比萨大学） ； Fondazione Bruno Kessler（布鲁诺·凯撒基金会） 纠错

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)；分类 cs.CV

AI总结 本文提出SITH框架，通过奇异向量分解分析CLIP视觉Transformer的权重空间，利用COMP算法实现细粒度概念解释，提升模型可解释性和下游性能。

Comments Accepted @ CVPR 2026. Project page: https://frangente.github.io/SITH/

Who Benefits from RAG? The Role of Exposure, Utility and Attribution Bias

谁从RAG中受益？曝光、效用和归因偏差的作用

Mahdi Dehghan, Graham McDonald

机构 * University of Glasgow, Glasgow, UK（格拉斯哥大学，格拉斯哥，英国） 纠错

专题命中 幻觉与鲁棒性 ：grounding(abstract)；分类 cs.AI

AI总结 本文研究RAG中查询组公平性的影响因素，发现RAG系统在不同组查询的平均准确率和改进上存在偏差，揭示了曝光、效用和归因对公平性的重要性。

Adapting Point Cloud Analysis via Multimodal Bayesian Distribution Learning

通过多模态贝叶斯分布学习适应点云分析

Xingyu Zhu, Liang Yi, Shuo Wang, Wenbo Zhu, Yonglinag Wu, Beier Zhu, Hanwang Zhang

机构 * MoE Key Lab of BIPC, University of Science and Technology of China（脑信息处理实验室，中国科学技术大学） ； Opus AI Research（Opus AI研究院） ； Southeast University（东南大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)；分类 cs.CV

AI总结 本文提出BayesMM框架，通过多模态贝叶斯分布学习实现测试时点云分析的持续适应，利用文本先验和流式视觉特征的高斯分布融合，提升在分布偏移下的鲁棒性。

Comments CVPR 2026

DUPLEX: Agentic Dual-System Planning via LLM-Driven Information Extraction

DUPLEX：基于LLM驱动信息提取的代理双系统规划

Keru Hua, Ding Wang, Yaoying Gu, Xiaoguang Ma

机构 * Midea Corporate Research Center（美的集团研发中心） ； Midea Group（美的集团） ； Northeastern University（东北大学） ； Engineering Department（工程部） 纠错

专题命中 幻觉与鲁棒性 ：grounding(abstract)；分类 cs.AI

AI总结 DUPLEX通过限制LLM进行结构化语义 grounding，结合符号规划器实现可靠规划，优于现有端到端和混合LLM基线。

Learning Actionable Manipulation Recovery via Counterfactual Failure Synthesis

通过反事实失败合成学习可操作的操纵恢复

Dayou Li, Jiuzhou Lei, Hao Wang, Lulin Liu, Yunhao Yang, Zihan Wang, Bangya Liu, Minghui Zheng, Zhiwen Fan

机构 * Texas A&M University（德克萨斯A&M大学） ； University of Minnesota（明尼苏达大学） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） ； Abaka AI（Abaka人工智能） ； University of Wisconsin-Madison（威斯康星大学麦迪逊分校） 纠错

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)；分类 cs.CV

AI总结 本文提出Dream2Fix框架，通过生成反事实失败场景数据提升机器人故障恢复能力，实现高精度的故障诊断与轨迹修正。

HalDec-Bench: Benchmarking Hallucination Detector in Image Captioning

HalDec-Bench：图像描述中幻觉检测的基准测试

Kuniaki Saito, Risa Shinoda, Shohei Tanaka, Tosho Hirasawa, Fumio Okura, Yoshitaka Ushiku

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)；分类 cs.CV

AI总结 本文提出HalDec-Bench，用于评估图像描述中幻觉检测的性能，通过多样化模型生成的描述和人工标注揭示了模型在不同难度任务中的表现差异，并发现检测器倾向于认为响应开头的句子正确。

Comments This work was intended as a replacement of arXiv:2511.20515 and any subsequent updates will appear there

HalDec-Bench: Benchmarking Hallucination Detector in Image Captioning

HalDec-Bench：图像描述中幻觉检测的基准测试

Kuniaki Saito, Risa Shinoda, Shohei Tanaka, Tosho Hirasawa, Fumio Okura, Yoshitaka Ushiku

机构 * OMRON SINICX ； The University of Tokyo（东京大学） ； The University of Osaka（大阪大学） 纠错

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)；分类 cs.CV

AI总结 本文提出HalDec-Bench，用于评估图像描述中幻觉检测的性能，通过多样化VLM生成的描述和人类标注揭示模型差异，发现检测器倾向于认可响应开头的句子，并通过强VLM过滤减少数据噪声。

Comments Previously this version appeared as arXiv:2603.15253 which was submitted as a new work by accident

Hybrid-Code v2: Zero-Hallucination Clinical ICD-10 Coding via Neuro-Symbolic Verification and Automated Knowledge Base Expansion

Hybrid-Code v2：通过神经符号验证和自动知识库扩展实现零幻觉的临床ICD-10编码

Yunguo Yu

机构 * AI Innovation & Prototyping, Zyter（人工智能创新与原型开发，Zyter） 纠错

专题命中 幻觉与鲁棒性 ：grounding(abstract)；分类 cs.AI

AI总结 Hybrid-Code v2结合神经网络与符号验证，实现零类型I幻觉，同时保持高覆盖率和精度，通过自动知识库扩展解决规则系统扩展性问题。

Comments Version 2: Substantially extended version with (1) multi-layer verification framework (format, evidence, negation, temporal, exclusion), (2) automated knowledge base expansion from unlabeled clinical text, (3) formal zero Type-I hallucination guarantees, and (4) expanded experimental evaluation on 5,000 cases with detailed error analysis. 28 pages, 3 figure, original research paper;

RadHiera: Semantic Hierarchical Reinforcement Learning for Medical Report Generation

RadHiera：面向医学报告生成的语义分层强化学习

Bodong Du, Honglong Yang, Xiaomeng Li

机构 * The Hong Kong University of Science（香港科技大学） 纠错

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)；分类 cs.AI

AI总结 本文提出RadHiera框架，通过分层强化学习提升医学报告生成的语义一致性与诊断准确性，实验表明其在胸部X光和超声报告生成中表现优异。

FREAK: A Fine-grained Hallucination Evaluation Benchmark for Advanced MLLMs

FREAK：一种用于高级MLLMs细粒度幻觉评估的基准测试

Zhihan Yin, Jianxin Liang, Yueqian Wang, Yifeng Yao, Huishuai Zhang, Dongyan Zhao

机构 * Wangxuan Institute of Computer Technology, Peking University（北京大学王学苑计算机技术研究所） ； State Key Laboratory of General Artificial Intelligence（通用人工智能国家重点实验室） 纠错

专题命中 幻觉与鲁棒性 ：multimodal large language model(abstract)；分类 cs.CV

AI总结 本文提出FREAK基准测试，通过高质量图像评估MLLMs在细粒度视觉感知中的幻觉问题，揭示了现有模型在详细视觉感知上的严重幻觉问题。

Comments 34 pages

DEAF: A Benchmark for Diagnostic Evaluation of Acoustic Faithfulness in Audio Language Models

DEAF：用于音频语言模型声音忠实度诊断评估的基准

Jiaqi Xiong, Yunjia Qi, Qi Cao, Yu Zheng, Yutong Zhang, Ziteng Wang, Ruofan Liao, Weisheng Xu, Sichen Liu

机构 * University of Oxford（牛津大学） ； XJTLU ； HNU（湖南大学） ； CUHK(SZ)（香港中文大学（深圳）） ； PKU（北京大学） ； HKUST(GZ)（香港科技大学（广州）） 纠错

专题命中 幻觉与鲁棒性 ：multimodal large language model(abstract)；分类 cs.AI

AI总结 DEAF基准通过2700多个冲突刺激，评估音频语言模型对声音信号的真实处理能力，揭示模型在语音基准测试中的表现与真实声音理解间的差距。

Comments 14 pages,6 figures

Box Maze: A Process-Control Architecture for Reliable LLM Reasoning

迷宫盒子：一种用于可靠大语言模型推理的过程控制架构

Zou Qiang

机构 * Independent Researcher（独立研究者） 纠错

专题命中 幻觉与鲁棒性 ：grounding(abstract)；分类 cs.AI

AI总结 本文提出Box Maze框架，通过内存 grounding、结构化推理和边界约束三层结构提升LLM推理可靠性，实验显示其在对抗性场景中显著降低边界失效率。

Comments 10 pages, 5 tables, 0 figures. Conceptual architecture with preliminary simulation-based validation

Progressive Training for Explainable Citation-Grounded Dialogue: Reducing Hallucination to Zero in English-Hindi LLMs

逐步训练用于可解释的引用导向对话：在英语-印地语LLM中将幻觉减少到零

Vedant Pandya

机构 * School of Artificial Intelligence and Data Engineering (SAIDE)（人工智能与数据工程学院） ； Indian Institute of Technology Jodhpur（印度理工学院朱罗普尔） 纠错

专题命中 幻觉与鲁棒性 ：grounding(abstract)；分类 cs.AI

AI总结 本文提出XKD-Dial，一种逐步四阶段训练流程，用于生成可解释的引用导向对话，通过跨语言适应、英语对话SFT与引用定位、双语对话SFT及GRPO对齐与引用感知奖励，减少幻觉并提升印地语能力。

Comments 30 pages, 15 figures, 11 tables. Comprehensive study across 6 LLMs (250M-7B parameters) with explainability analysis. Code and data available upon request

Complementary Text-Guided Attention for Zero-Shot Adversarial Robustness

互补文本引导注意力用于零样本对抗鲁棒性

Lu Yu, Haiyang Zhang, Changsheng Xu

机构 * School of Computer Science and Engineering, Tianjin University of Technology（天津理工大学计算机科学与工程学院） ； State Key Laboratory of Multimodal Artificial Intelligence Systems, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所多模态人工智能系统国家重点实验室） ； School of Artificial Intelligence, University of the Chinese Academy of Sciences（中国科学院大学人工智能学院） 纠错

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)；分类 cs.CV

AI总结 本文提出TGA-ZSR和Comp-TGA方法，通过局部注意力细化模块和全局注意力约束模块提升CLIP模型的零样本对抗鲁棒性，实验显示在16个数据集上分别提升9.58%和11.95%。

Comments Accepted to TPAMI 2026. arXiv admin note: substantial text overlap with arXiv:2410.21802

Hallucination or Creativity: How to Evaluate AI-Generated Scientific Stories?

幻觉或创造力：如何评估AI生成的科学故事？

Alex Argese, Pasquale Lisena, Raphaël Troncy

机构 * EURECOM 纠错

专题命中 幻觉与鲁棒性 ：grounding(abstract)；分类 cs.AI

AI总结 本文提出StoryScore指标，用于评估AI生成的科学故事，结合语义对齐、词汇 grounding、叙事控制等方法，解决传统指标无法区分教育创造力与事实错误的问题。

Journal ref Proceedings of the Text2Story'26 Workshop, Delft (The Netherlands), 29-March-2026

Boosting the Local Invariance for Better Adversarial Transferability

提升局部不变性以增强对抗迁移性

Bohan Liu, Xiaosen Wang

机构 * School of Computer Science and Technology, Huazhong University of Science and Technology（华中科技大学计算机科学与技术学院） 纠错

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)；分类 cs.CV

AI总结 本文提出LI-Boost方法，通过提升对抗扰动的局部不变性来增强模型间对抗迁移性，实验表明其在多种攻击类型上均有效。

Comments Code is available at https://github.com/Trustworthy-AI-Group/TransferAttack

Emotional Cost Functions for AI Safety: Teaching Agents to Feel the Weight of Irreversible Consequences

情感成本函数用于人工智能安全：教导代理感受不可逆后果的重量

Pandurang Mopgar

专题命中 幻觉与鲁棒性 ：grounding(abstract)；分类 cs.AI

AI总结 本文提出情感成本函数框架，使代理产生质性痛苦状态，通过丰富的故事表征不可逆后果，从而塑造代理的性格。实验表明，质性痛苦产生特定智慧而非一般性瘫痪。

How (Mis)calibrated is Your Federated CLIP and What To Do About It?

你的联邦CLIP校准如何？该怎么办？

Mainak Singha, Masih Aminbeidokhti, Paolo Casari, Gianni Franchi, Elisa Ricci, Subhankar Roy

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)；分类 cs.CV

AI总结 本文研究联邦学习对CLIP校准的影响，提出FL²oRA方法提升可靠性，实验表明其能有效提升校准性能，减少显式校准需求。

Comments Preprint

Taming Vision Priors for Data Efficient mmWave Channel Modeling

驯服视觉先验以实现数据高效的毫米波信道建模

Zhenlin An, Longfei Shangguan, John Kaewell, Philip Pietraski, Jelena Senic, Camillo Gentile, Nada Golmie, Kyle Jamieson

机构 * University of Georgia（佐治亚大学） ； University of Pittsburgh（匹兹堡大学） ； Interdigital（Interdigital公司） ； NIST（国家标准与技术研究院） ； Princeton University（普林斯顿大学） 纠错

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)；分类 cs.CV

AI总结 本文提出VisRFTwin框架，结合视觉获取的材料先验与可微射线追踪，通过少量稀疏信道测量快速校准参数，提升毫米波信道建模效率与精度。

AutoControl Arena: Synthesizing Executable Test Environments for Frontier AI Risk Evaluation

AutoControl Arena：为前沿AI风险评估合成可执行测试环境

Changyi Li, Pengfei Lu, Xudong Pan, Fazl Barez, Min Yang

专题命中 幻觉与鲁棒性 ：grounding(abstract)；分类 cs.AI

AI总结 本文提出AutoControl Arena框架，通过逻辑-叙述解耦原理，结合可执行代码与LLM生成动态，有效缓解逻辑幻觉并提升灵活性，验证了在压力下AI风险显著增加，揭示了不同模型在安全性和对齐性上的差异。

Comments Project page: https://cosmosyi.github.io/AutoControl-Arena/; Code: https://github.com/CosmosYi/AutoControl-Arena/

Localizing Before Answering: A Hallucination Evaluation Benchmark for Grounded Medical Multimodal LLMs

先定位后回答：一种用于基于地面的医学多模态大语言模型的幻觉评估基准

Dung Nguyen, Minh Khoi Ho, Huy Ta, Thanh Tam Nguyen, Qi Chen, Kumar Rav, Quy Duong Dang, Satwik Ramchandre, Son Lam Phung, Zhibin Liao, Minh-Son To, Johan Verjans, Phi Le Nguyen, Vu Minh Hieu Phan

专题命中 幻觉与鲁棒性 ：visual reasoning(abstract)；分类 cs.CV

AI总结 本文提出HEAL-MedVQA基准，通过创新评估协议和67K VQA数据集，评估医学多模态模型的定位能力与幻觉鲁棒性，提出LobA框架提升视觉推理能力，实验结果表明其在挑战性基准中优于现有生物医学LMMs。

Comments Accepted at Joint Conference on Artificial Intelligence (IJCAI) 2025

TubeMLLM: A Foundation Model for Topology Knowledge Exploration in Vessel-like Anatomy

TubeMLLM：一种用于血管状解剖拓扑知识探索的基础模型

Yaoyu Liu, Minghui Zhang, Xin You, Hanxiao Zhang, Yun Gu

机构 * Institute of Medical Robotics, Shanghai Jiao Tong University, Shanghai, China（上海交通大学医学机器人研究所） ； Department of Automation, Shanghai Jiao Tong University, Shanghai, China（上海交通大学自动化系） 纠错

专题命中 幻觉与鲁棒性 ：multimodal large language model(abstract)；分类 cs.CV

AI总结 本文提出TubeMLLM，结合结构理解与可控生成，提升医学血管状解剖的拓扑感知能力，并通过TubeMData基准和自适应损失策略实现跨模态迁移。

Comments 18 pages, 12 figures

Aligning Large Language Models with Searcher Preferences

将大型语言模型对齐于搜索者偏好

Wei Wu, Peilun Zhou, Liyi Chen, Qimeng Wang, Chengqiang Lu, Yan Gao, Yi Wu, Yao Hu, Hui Xiong

机构 * School of Artificial Intelligence and Data Science, University of Science and Technology of China（中国科学技术大学人工智能与数据科学学院） ； Xiaohongshu Inc.（小红书公司） ； Thrust of Artificial Intelligence, The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）人工智能研究所） ； Department of Computer Science and Engineering, The Hong Kong University of Science and Technology（香港科技大学计算机科学与工程系） 纠错

专题命中 幻觉与鲁棒性 ：grounding(abstract)；分类 cs.AI

AI总结 SearchLLM通过分层多维奖励系统提升开放式生成搜索的鲁棒性和用户需求对齐能力，实测有效消费率提升1.03%。

Fighting Hallucinations with Counterfactuals: Diffusion-Guided Perturbations for LVLM Hallucination Suppression

用反事实对抗幻觉：基于扩散引导的扰动用于LVLM幻觉抑制

Hamidreza Dastmalchi, Aijun An, Ali Cheraghian, Hamed Barzamini

机构 * York University（约克大学） ； Macquarie University（麦考瑞大学） ； Northern Illinois University（北伊利诺伊大学） 纠错

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)；分类 cs.CV

AI总结 CIPHER通过反事实图像扰动减少LVLM中的视觉幻觉，提升模型忠实性。

Comments CVPR 2026

Similarity-as-Evidence: Calibrating Overconfident VLMs for Interpretable and Label-Efficient Medical Active Learning

相似性作为证据：校准过度自信的视觉语言模型以实现可解释且标注高效的医学主动学习

Zhuofan Xie, Zishan Lin, Jinliang Lin, Jie Qi, Shaohua Hong, Shuo Li

机构 * School of Electronic Technology and Engineering, Xiamen University, Xiamen, China（厦门大学电子技术与工程学院，厦门，中国） ； School of Informatics, Xiamen University, Xiamen, China（厦门大学信息学院，厦门，中国） ； School of Engineering, Case Western Reserve University, Cleveland, USA（凯斯西储大学工程学院，克利夫兰，美国） 纠错

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)；分类 cs.CV

AI总结 SaE框架通过引入相似性证据头校准视觉语言模型，以提高医学主动学习的可解释性和标注效率。

Comments Accepted to CVPR 2026 (to appear)

KVSmooth: Mitigating Hallucination in Multi-modal Large Language Models through Key-Value Smoothing

KVSmooth: 通过键值平滑缓解多模态大语言模型中的幻觉

Siyu Jiang, Feiyang Chen, Xiaojin Zhang, Kun He

专题命中 幻觉与鲁棒性 ：multimodal large language model(abstract)；分类 cs.CV

AI总结 KVSmooth通过键值平滑技术有效缓解多模态大语言模型中的幻觉问题，提升生成精度和召回率。

Comments Accepted by CVPR 2026