视觉大模型 / VLM

Uncertainty Quantification for Multimodal Large Language Models with Incoherence-adjusted Semantic Volume

多模态大语言模型的不确定性量化：基于不一致性调整的语义体积

Gregory Kang Ruey Lau, Hieu Dao, Nicole Kan Hui Lin, Bryan Kian Hsiang Low

机构 * Department of Computer Science, National University of Singapore（新加坡国立大学计算机科学系） 纠错

专题命中 幻觉与鲁棒性 ：multimodal large language model(title,abstract)；MLLM(abstract)；分类 cs.CV、cs.AI、cs.LG

AI总结 UMPIRE是一种无需训练的多模态大语言模型不确定性量化框架，通过内部特征有效捕捉语义多样性和响应不一致性，提升错误检测和不确定性校准性能。

Comments Earlier versions presented at ICLR 2025 QUESTION workshop and ICML 2025 R2-FM workshop

Less is More: Lean yet Powerful Vision-Language Model for Autonomous Driving

少即是多：一种高效而强大的视觉-语言模型用于自动驾驶

Sheng Yang, Tong Zhan, Guancheng Chen, Yanfeng Lu, Jian Wang

机构 * School of Data Science, Fudan University Shanghai, China（复旦大学数据科学学院） ； Institute of Automation, Chinese Academy of Sciences Beijing, China（中国科学院自动化研究所） 纠错

专题命中 幻觉与鲁棒性 ：vision-language model(title,abstract)；VLM(abstract)；分类 cs.CV、cs.AI

AI总结 本研究提出Max-V1模型，通过端到端视觉-语言方法实现高效自动驾驶，取得nuScenes数据集上的显著性能提升。

Look Carefully: Adaptive Visual Reinforcements in Multimodal Large Language Models for Hallucination Mitigation

仔细观察：多模态大语言模型中的自适应视觉增强以缓解幻觉

Xingyu Zhu, Kesen Zhao, Liang Yi, Shuo Wang, Zhicai Wang, Beier Zhu, Hanwang Zhang

机构 * MoE Key Lab of BIPC, University of Science and Technology of China（信息与电子技术联合实验室，中国科学技术大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 幻觉与鲁棒性 ：multimodal large language model(title,abstract)；分类 cs.CV

AI总结 本研究提出自适应视觉增强框架AIR，通过减少冗余标记和选择性整合补丁来缓解多模态大语言模型中的幻觉问题。

Comments ICLR 2026

GuardAlign: Test-time Safety Alignment in Multimodal Large Language Models

GuardAlign: 多模态大语言模型中的测试时安全性对齐

Xingyu Zhu, Beier Zhu, Junfeng Fang, Shuo Wang, Yin Zhang, Xiang Wang, Xiangnan He

机构 * MoE Key Lab of BIPC, University of Science and Technology of China（摩埃关键实验室，中国科学技术大学） ； Nanyang Technological University（南洋理工大学） ； National University of Singapore（新加坡国立大学） ； Tianjin University（天津大学） 纠错

专题命中 幻觉与鲁棒性 ：multimodal large language model(title)；vision-language model(abstract)；分类 cs.CV

AI总结 GuardAlign通过OT增强的安全检测和跨模态注意力校准，有效提升多模态大语言模型在测试时的安全性，减少不安全响应率并提升任务表现。

Comments ICLR 2026

Suppressing Prior-Comparison Hallucinations in Radiology Report Generation via Semantically Decoupled Latent Steering

通过语义解耦潜在引导抑制放射科报告生成中的先验比较幻觉

Ao Li, Rui Liu, Mingjie Li, Sheng Liu, Lei Wang, Xiaodan Liang, Lina Yao, Xiaojun Chang, Lei Xing

机构 * University of New South Wales（新南威尔士大学） ； Australian Artificial Intelligence Institute, University of Technology Sydney（澳大利亚人工智能研究所，技术悉尼大学） ； Stanford University（斯坦福大学） ； School of Computing and Information Technology of University of Wollongong Australia（沃林根澳大利亚大学计算与信息科技学院） ； Sun Yat-sen University（中山大学） ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)；分类 cs.CV

AI总结 本文提出语义解耦潜在引导方法，通过正交化技术减少放射科报告生成中的历史幻觉，提升临床准确性与报告忠实度。

Comments 15 pages, 5 figures

AutoDebias: Automated Framework for Debiasing Text-to-Image Models

AutoDebias：文本到图像模型的自动化去偏框架

Hongyi Cai, Mohammad Mahdinur Rahman, Mingkang Dong, Muxin Pu, Moqyad Alqaily, Jie Li, Xinfeng Li, Jialie Shen, Meikang Qiu, Qingsong Wen

机构 * Universiti Malaya（马来大学） ； Monash University（莫纳什大学） ； United Arab Emirates University（阿拉伯联合酋长国大学） ； University of Science and Technology Beijing（北京科技大学） ； Nanyang Technological University (NTU)（南洋理工大学） ； City St George’s, University of London（伦敦大学圣乔治学院） ； Augusta University（奥古斯塔大学） ； Squirrel Ai Learning 纠错

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)；分类 cs.CV

AI总结 AutoDebias提出了一种自动化框架，用于检测和减轻文本到图像模型中的恶意偏见，通过视觉语言模型和CLIP引导的训练过程，有效应对隐秘注入的刻板印象和多重攻击。

Comments Accepted to CVPR 2026

Beyond Accuracy: Risk-Sensitive Evaluation of Hallucinated Medical Advice

超越准确性：对幻觉医疗建议的风险敏感评估

Savan Doshi

机构 * ASU（亚利桑那州立大学） 纠错

专题命中 幻觉与鲁棒性 ：grounding(abstract)；分类 cs.AI

AI总结 本文提出了一种风险敏感的评估框架，用于评估医疗建议中的幻觉风险，通过量化风险性语言来识别高风险、低支撑的失败模式。