视觉大模型 / VLM

SARSteer: Safeguarding Large Audio-Language Models via Safe-Ablated Refusal Steering

SARSteer: 通过安全消融拒绝引导保护大型音频语言模型

Weilin Lin, Jianze Li, Hui Xiong, Li Liu

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)

AI总结 提出SARSteer，首个针对大型音频语言模型的推理时防御框架，通过文本衍生的拒绝引导和分解安全空间消融，有效提升有害查询拒绝率并减少良性查询的过度拒绝。

Influence Factors on RAG Poisoning

RAG投毒的影响因素

Pedro Pereira, Eva Maia, Isabel Praça, Adrien Bécue

专题命中 幻觉与鲁棒性 ：grounding(abstract)

AI总结 通过432种配置的全因子实验，研究数据集、检索器类型、检索深度、数据库组成、分块策略和生成模型对RAG系统投毒鲁棒性的影响，发现检索器架构、数据集和检索深度是主要因素，且投毒脆弱性源于多组件交互。

Comments 10 pages, 3 figures, 2 Tables, conference KES-2026 30th International Conference on Knowledge-Based and Intelligent Information & Engineering Systems

NOVA: NOise-aware Verbal Confidence CAlibration for Robust Large Language Models in RAG Systems

NOVA: 面向RAG系统中鲁棒大语言模型的噪声感知言语置信度校准

Jiayu Liu, Rui Wang, Qing Zong, Yumeng Wang, Cheng Qian, Qingcheng Zeng, Tianshi Zheng, Haochen Shi, Dadi Guo, Baixuan Xu, Chunyang Li, Yangqiu Song

机构 * HKUST（香港科技大学） ； UIUC（伊利诺伊大学香槟分校） ； Northwestern University（西北大学） 纠错

专题命中 幻觉与鲁棒性 ：grounding(abstract)

AI总结 提出NOVA框架，通过规则引导的监督微调，解决检索增强生成中噪声上下文导致的过度自信问题，在域内和域外分别提升ECE 10.9%和8.0%。

ProjGuard: Safety Monitoring for Computer-Use Agents via Low-Dimensional Projections

ProjGuard：通过低维投影实现计算机使用代理的安全监控

Kebin Contreras, Carlos Hinojosa, Jorge Bacca, Bernard Ghanem

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)

AI总结 ProjGuard通过行为轨迹监控实现计算机使用代理的安全防护，利用轻量级风险信号提前预警潜在危险，结合辅助视觉语言模型进行针对性修正，提升任务完成率并降低安全风险。

Comments The manuscript was submitted under an inappropriate category. In addition, substantial updates and improvements are currently being made to the document. To avoid confusion and ensure that readers access the most accurate version of the work, we request withdrawal of the current manuscript

Defending Jailbreak Attacks on Large Language Models via Manifold Trajectory Kinetics

通过流形轨迹动力学防御大语言模型的越狱攻击

Hangtao Zhang, Yucheng Zhao, Sishun Liu, Ziqi Zhou, Zeyu Ye, Wei Wan, Minghui Li, Shengshan Hu, Yanjun Zhang, Yi Liu, Leo Yu Zhang

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)

AI总结 提出流形轨迹动力学（MTK）方法，通过分析提示词在模型层间的邻域结构演化来检测越狱攻击，在伪恶意提示和自适应攻击下均表现鲁棒。

Comments Accepted to USENIX Security '26 Cycle 2. Code is available at https://github.com/Rookie143/mtk

Agent Planning Benchmark: A Diagnostic Framework for Planning Capabilities in LLM Agents

Agent规划基准：LLM Agent规划能力的诊断框架

Haoyu Sun, Wenxuan Wang, Mingyang Song, Jujie He, Weinan Zhang, Yang Liu, Yang Yang, Yu Cheng

机构 * Tongji University（同济大学） ； Shanghai AI Laboratory（上海人工智能实验室） ； Harbin Institute of Technology（哈尔滨工业大学） ； Fudan University（复旦大学） ； Skywork AI ； University of California, Santa Cruz（加州大学圣克鲁兹分校） ； Shanghai Jiao Tong University（上海交通大学） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 幻觉与鲁棒性 ：MLLM(abstract_cn)

AI总结 提出Agent规划基准(APB)，通过4209个多模态案例和五个设置，诊断LLM Agent在长程规划、工具噪声鲁棒性、校准拒绝和推理时改进方面的系统弱点。

Membrane: A Self-Evolving Contrastive Safety Memory for LLM Agent Defense

Membrane: 一种用于LLM智能体防御的自演化对比安全记忆

Minseok Choi, Seungbin Yang, Dongjin Kim, Subin Kim, Jungmin Son, Yunseung Lee, Jaegul Choo, Youngjun Kwak

机构 * KAIST AI（韩国科学技术院人工智能实验室） ； Financial Tech Lab, KakaoBank Corp（Kakao银行金融科技实验室） 纠错

专题命中 幻觉与鲁棒性 ：grounding(abstract)

AI总结 提出Membrane，一种基于对比安全记忆（CSM）的自演化护栏，通过将有害交互及其良性对应物蒸馏为对比单元来防御不断演化的越狱攻击，无需重新训练即可实现高F1和低良性拒绝率。

A Systematic Evaluation of Positional Bias in Multi-Video Summarization with MLLMs

多视频摘要中位置偏差的系统评估：基于多模态大语言模型

Huangchen Xu, Yuan Wu, Yi Chang

机构 * School of Artificial Intelligence, Jilin University（吉林大学人工智能学院） ； Engineering Research Center of Knowledge-Driven Human-Machine Intelligence, Jilin University（知识驱动人机智能工程研究中心） ； International Center of Future Science, Jilin University（未来科学国际中心） 纠错

专题命中 幻觉与鲁棒性 ：multimodal large language model(abstract)

AI总结 本研究系统评估了多模态大语言模型在多视频摘要任务中的位置偏差，通过构建基准和三种互补指标揭示了领域与模型依赖的偏差特性，并分析了提示级缓解方法。

Partially Observable Adversarial Patch Attacks on Vision-Language-Action Models in Robotics

部分可观测的对抗性补丁攻击在机器人视觉-语言-动作模型上的应用

Xiaofei Wang, Mingliang Han, Tianyu Hao, Yi Yang, Yun-Bo Zhao, Keke Tang

机构 * Department of Automation, University of Science and Technology of China（自动化系，中国科学技术大学） ； SmartMore Corporation（SmartMore公司） ； Cyberspace Institute of Advanced Technology, Guangzhou University（广西亚技术空间研究所，广州大学） ； th Medical Center of Chinese PLA General Hospital（中国人民解放军总医院第八医学中心） ； Institute of Artificial Intelligence, Hefei Comprehensive National Science Center（合肥综合性国家科学中心人工智能研究院） 纠错

专题命中 幻觉与鲁棒性 ：grounding(abstract)

AI总结 针对机器人VLA模型，提出部分可观测威胁模型下的两阶段攻击框架，利用注意力图定位关键区域并优化补丁以破坏语义接地和增加动作轨迹曲率，导致长期任务失败。

Comments Accepted by IEEE Robotics and Automation Letters, 2026

HyperPatch: Sequential Knowledge Editing Under n-ary Structural Drift

HyperPatch: n元结构漂移下的顺序知识编辑

Yu-Kai Chan, Wen-Sheng Lien, Dong-Ting Yao, Bo-Kai Ruan, Kwan-Yeung Lin, Hong-Han Shuai, Meng-Fen Chiang

机构 * National Yang Ming Chiao Tung University 纠错

专题命中 幻觉与鲁棒性 ：grounding(abstract)

AI总结 针对非平稳环境中n元事件顺序更新引发的结构漂移问题，提出HyperPatch框架，通过超图流形上的稳定性建模，实现参数保留的知识编辑，在MQuAKE-CF和MQuAKE-T基准上分别取得96.24%和21.06%的跳步准确率相对提升。

Comments Accepted to Proceedings of the 32nd ACM SIGKDD Conference on Knowledge Discovery and Data Mining (KDD 2026)

When English Rewrites Local Knowledge: Global Narrative Dominance in Large Language Models

当英语重写地方知识：大语言模型中的全球叙事主导

Md Arid Hasan, Ruwad Naswan, Farhan Samir, Sharifa Sultana, Syed Ishtiaque Ahmed

机构 * University of Toronto（多伦多大学） ； BUET（巴特利特大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 幻觉与鲁棒性 ：grounding(abstract)

AI总结 本研究通过构建孟加拉语文化数据集CulturalNB，评估大语言模型在低资源文化背景下的跨语言知识一致性，发现英语提问会系统性地增加全球替代和制度框架，减少地方视角覆盖，表明文化失败不仅是知识缺失，更是根基和叙事优先级问题。

Comments Submitted to ARR

Auditing the Reliability of Multimodal Generative Search

审计多模态生成式搜索的可靠性

Erfan Samieyan Sahneh, Luca Maria Aiello

专题命中 幻觉与鲁棒性 ：multimodal large language model(abstract)

AI总结 通过大规模审计Gemini 2.5 Pro系统，发现3.7%至18.7%的基于视频的生成式搜索声明未被引用来源支持，主要失败模式为不可验证的特异性与夸大声明。

Comments 14 pages, LaTeX, typos corrected, adding Data Availability section + examples in appendix, New plot(overview)

Benchmarking Gaslighting Attacks Against Speech Large Language Models

针对语音大语言模型的气灯攻击基准测试

Jinyang Wu, Bin Zhu, Xiandong Zou, Qiquan Zhang, Xu Fang, Pan Zhou

机构 * Singapore Management University（新加坡管理学院） ； Tongyi Speech Lab（通义语音实验室） ； Dalian University of Technology（大连理工大学） 纠错

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)

AI总结 提出五种气灯攻击策略（愤怒、认知干扰、讽刺、隐晦、专业否定），在5个语音和多模态大语言模型上测试，发现平均准确率下降24.3%，揭示语音模型的行为脆弱性。

Comments 5 pages, 2 figures, 3 tables

Facet-Level Tracing of Evidence Uncertainty and Hallucination in RAG

面向证据不确定性和幻觉的面级追踪（RAG）

Passant Elchafei, Monorama Swain, Shahed Masoudian, Markus Schedl

机构 * Johannes Kepler University Linz（约翰内斯·开普勒大学林茨） ； Linz Institute of Technology（林茨技术学院） ； Institute of Computational Perception（计算感知研究所） ； Artificial Intelligence Lab（人工智能实验室） 纠错

专题命中 幻觉与鲁棒性 ：grounding(abstract)

AI总结 本文提出了一种面向问答任务的面级诊断框架，通过分解每个输入问题为原子推理面，评估证据充分性和基础性，揭示RAG系统中幻觉产生的根源在于生成过程中证据整合的方式，而非检索准确性。

RoboJailBench: Benchmarking Adversarial Attacks and Defenses in Embodied Robotic Agents

RoboJailBench: 对具身体验机器人代理中对抗攻击和防御的基准测试

Doguhuan Yeke, Yanming Zhou, Leo Y. Lin, Hongyu Cai, Antonio Bianchi, Z. Berkay Celik

机构 * Purdue University（普渡大学） 纠错

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)

AI总结 本文提出RoboJailBench，通过建立安全分类学、引入意图对比数据集管道以及提供一个演进的存储库，为具身体验人工智能中的对抗攻击和防御提供了标准化评估框架，同时构建了一个新的分类平衡数据集并增强了五个现有数据集。

Generating Realistic Safety-Critical Scenarios for Vehicle-Pedestrian Interactions

生成车辆-行人交互的安全关键场景

Qingwen Pu, Kun Xie, Yuan Zhu, Guocong Zhai

机构 * Transportation Informatics Lab, Department of Civil and Environmental Engineering, Old Dominion University（交通信息实验室，土木与环境工程系，旧 Dominion 大学） ； Inner Mongolia Center for Transportation Research, Inner Mongolia University（内蒙古交通研究所，内蒙古大学） ； School of Transportation and Logistics, National Engineering Laboratory of Integrated Transportation Big Data Application Technology, National and Local Joint Engineering Research Center of Integrated Transportation Intelligence, Southwest Jiaotong University（交通运输学院，国家集成交通大数据应用技术工程实验室，国家与地方联合集成交通智能工程研究中心，西南交通大学） 纠错

专题命中 幻觉与鲁棒性 ：grounding(abstract)

AI总结 本文提出了一种三阶段框架，结合现实数据与自适应模拟，生成大规模行为真实的安全关键场景，通过多智能体状态空间Transformer增强DDPG算法，在车辆-行人交互中实现了高精度的避让行为生成，最终生成了VPSCI数据集。

Comments 49 pages, 13 figures, 11 table

Safety-Oriented Evaluation of Language Understanding Systems for Air Traffic Control

面向安全的语言理解系统在空交通管制中的评估

Yujing Chang, Yash Guleria, Duc-Thinh Pham, Nhut-Huy Pham, Ningli Wang, Vu N. Duong, Sameer Alam

机构 * ATMRI, Nanyang Technological University (NTU), Singapore（航空交通管理研究所，南洋理工大学（NTU），新加坡） ； School of Management, Indian Institute of Technology Mandi, India（管理学院，印度理工学院曼迪分校，印度） ； Centre of AI Research, VinUniversity, Vietnam（人工智能研究中心，文大学，越南） 纠错

专题命中 幻觉与鲁棒性 ：grounding(abstract)

AI总结 本文提出面向安全的评估框架，揭示现有LLM在空交通管制中的可靠性不足，指出需建立后果意识的评估协议以确保AI辅助系统的安全部署。

AutoRedTrader: Autonomous Red Teaming of Trading Agents through Synthetic Misinformation Injection

AutoRedTrader: 通过合成虚假信息注入实现交易代理的自主红队测试

Zhiwei Liu, Yangyang Yu, Yupeng Cao, Yuechen Jiang, Haohang Li, Zhuoran Lu, Yuyan Wang, Yixiang Zheng, Xiaorui Guo, Calvin Yixiang Cheng, Sophia Ananiadou

专题命中 幻觉与鲁棒性 ：grounding(abstract)

AI总结 本文提出AutoRedTrader框架，通过行为偏差操控、微小文本扰动和重写策略生成金融领域虚假信息，评估其对交易代理的影响及历史市场证据的稳定性。

Comments Work in progress

Instruction Anchor: Dissecting the Mechanistic Dynamics of Modality Arbitration

指令锚点：解构模态仲裁的机理动态

Yu Zhang, Mufan Xu, Xuefeng Bai, Kehai Chen, Pengfei Zhang, Yang Xiang, Min Zhang

机构 * Harbin Institute of Technology, Shenzhen, China（哈尔滨工业大学（深圳）） ； Peng Cheng Laboratory, Shenzhen, China（鹏城实验室） 纠错

专题命中 幻觉与鲁棒性 ：multimodal large language model(abstract)

AI总结 本文通过信息流视角研究模态跟随机制，揭示指令令牌作为模态仲裁的结构锚点，浅层注意力层负责多模态信息聚合，深层注意力层则根据指令意图选择性强化子空间，实验验证了注意力头的特定功能。

Comments Modality Following

LLMs Capture Emotion Labels, Not Emotion Uncertainty: Distributional Analysis and Calibration of Human-LLM Judgment Gaps

大型语言模型捕捉情绪标签而非情绪不确定性：人类与LLM判断差距的分布分析与校准

Keito Inoshita, Xiaokang Zhou, Akira Kawai, Katsutoshi Yada

机构 * Faculty of Business and Commerce（商科学院） ； Faculty of Business Data Science（商务数据科学学院） ； RIKEN Center for Advanced Intelligence Project（先进智能项目研究所） ； Faculty of Data Science（数据科学学院） ； Japan Safety Society Research Center（日本安全协会研究中心） 纠错

专题命中 幻觉与鲁棒性 ：grounding(abstract)

AI总结 本文通过对比人类标注与LLM在GoEmotions和EmoBank基准上的情绪判断分布，发现零样本模型与人类分布差异显著，需领域微调而非模型规模扩大以缩小差距，并提出三种轻量校准方法以提升情绪标注的准确性。

Dual-LoRA: Parameter-Efficient Adversarial Disentanglement for Cross-Lingual Speaker Verification

Dual-LoRA: 交叉语言说话人验证中的参数高效对抗解缠

Qituan Shangguan, Junhao Du, Kunyang Peng, Feng Xue, Hui Zhang, Xinsheng Wang, Kai Yu, Shuai Wang

专题命中 幻觉与鲁棒性 ：grounding(abstract)

AI总结 本文提出Dual-LoRA，通过注入可训练任务因子化LoRA适配器解决交叉语言说话人验证中的语言-说话人纠缠问题，采用语言锚定对抗器提升说话人区分度。

Comments Submitted to Interspeech 2026; 5 pages

OS-SPEAR: A Toolkit for the Safety, Performance,Efficiency, and Robustness Analysis of OS Agents

OS-SPEAR：一个用于操作系统代理安全、性能、效率和鲁棒性分析的工具包

Zheng Wu, Yi Hua, Zhaoyuan Huang, Chenhao Xue, Yijie Lu, Pengzhou Cheng, Zongru Wu, Lingzhong Dong, Gongshen Liu, Xinghao Jiang, Zhuosheng Zhang

机构 * School of Computer Science, Shanghai Jiao Tong University（上海交通大学计算机科学学院） 纠错

专题命中 幻觉与鲁棒性 ：multimodal large language model(abstract)

AI总结 OS-SPEAR通过四个维度系统分析操作系统代理，解决现有评估方法在安全、效率和多模态鲁棒性方面的不足，揭示代理在效率与安全之间的权衡及不同模态的鲁棒性差异。

Multi-Agent Consensus as a Cognitive Bias Trigger in Human-AI Interaction

多智能体共识作为人类与人工智能交互中的认知偏差触发器

Soohwan Lee, Kyungho Lee

专题命中 幻觉与鲁棒性 ：grounding(abstract)

AI总结 研究探讨多智能体系统中共识机制对人类判断的影响，发现多数共识加速意见变化并提升自信，而少数反对则促进更深入的思考，揭示了智能体共识结构在人类与AI交互中的偏差相关信号作用。

Comments ACM CHI 2026 Workshop on Understanding, Mitigating, and Leveraging Cognitive Biases to Calibrate Trust in Evolving AI Systems (CHI'26 Bias4Trust)

ColorBrowserAgent: Complex Long-Horizon Browser Agent with Adaptive Knowledge Evolution

ColorBrowserAgent：具有自适应知识演化的复杂长 horizon 浏览器代理

Jihong Wang, Jiamu Zhou, Weiming Zhang, Teng Wang, Weiwen Liu, Zhuosheng Zhang, Xingyu Lou, Weinan Zhang, Huarong Deng, Jun Wang

专题命中 幻觉与鲁棒性 ：vision-language model(abstract)

AI总结 本文提出ColorBrowserAgent，通过人类在环的知识适应和知识对齐的渐进总结机制，解决网页自动化中的长周期不稳定性与领域特定先验知识缺乏问题，实验表明其在WebArena和工业部署中均表现优异。

When Helpers Become Hazards: A Benchmark for Analyzing Multimodal LLM-Powered Safety in Daily Life

当助手变成危险：一个多模态大语言模型在日常生活中的安全分析基准

Xinyue Lou, Jinan Xu, Jingyi Yin, Xiaolong Wang, Zhaolu Kang, Youwei Liao, Yixuan Wang, Xiangyu Shi, Fengran Mo, Su Yao, Kaiyu Huang

机构 * Key Laboratory of Big Data & Artificial Intelligence in Transportation (Beijing Jiaotong University), Ministry of Education（大数据与人工智能在交通运输中的关键实验室（北京交通大学），教育部） ； School of Computer Science and Technology, Beijing Jiaotong University（计算机科学与技术学院，北京交通大学） ； Tsinghua University（清华大学） ； Peking University（北京大学） ； University of Montreal（蒙特利尔大学） 纠错

专题命中 幻觉与鲁棒性 ：multimodal large language model(abstract)

AI总结 本文提出SaLAD基准，通过2013个真实世界图像-文本样本评估多模态大语言模型在日常生活中的安全影响，揭示模型在识别危险行为方面的局限性。

Comments Accepted by ACL 2026 (Findings)

Automating Sexual Injustice: Epistemic Injustice in Fembot Design and Feminist Directions for Equitable HRI

自动化性不公：仿生人设计中的知识不公与女性主义的公平人机交互方向

Surabhi Bhardwaj

专题命中 幻觉与鲁棒性 ：grounding(abstract)

AI总结 本文分析仿生人设计中的知识不公问题，提出基于实证、知识多样性与主动同意的女性主义设计方向，旨在推动以知识正义为核心的公平人机交互。

Comments 5 pages, 1 figure. Peer-reviewed workshop paper presented at the Equitable Robotics for Wellbeing (EqRoW) Workshop at the ACM/IEEE International Conference on Human-Robot Interaction (HRI 2026), Edinburgh, UK, March 16, 2026

Dialectic-Med: Mitigating Diagnostic Hallucinations via Counterfactual Adversarial Multi-Agent Debate

辩证-调解：通过反事实对抗多智能体辩论缓解诊断幻觉

Zhixiang Lu, Jionglong Su

机构 * Xi’an Jiaotong-Liverpool University（西交利物浦大学） 纠错

专题命中 幻觉与鲁棒性 ：multimodal large language model(abstract)

AI总结 本文提出Dialectic-Med框架，通过多智能体对抗辩论机制缓解医疗多模态大语言模型的诊断幻觉问题，提升推理可信度和解释忠实度。

Comments Accepted by ACL 2026

Dialogue based Interactive Explanations for Safety Decisions in Human Robot Collaboration

基于对话的交互式解释用于人机协作中的安全决策

Yifan Xu, Xiao Zhan, Akilu Yunusa Kaltungo, Ming Shan Ng, Tsukasa Ishizawa, Kota Fujimoto, Clara Cheung

机构 * Department of Civil Engineering and Management, Faculty of Science and Engineering, The University of Manchester（曼彻斯特大学科学与工程学院土木工程与管理系） ； VRAIN, Universitat Politècnica de València（瓦伦西亚理工大学VRAIN研究所） ； Department of Engineering, University of Cambridge（剑桥大学工程系） ； Department of Mechanical and Aerospace Engineering, Faculty of Science and Engineering, The University of Manchester（曼彻斯特大学科学与工程学院机械与航空航天工程系） ； Center for the Possible Futures, Kyoto Institute of Technology（京都工艺纤维大学未来可能性中心） ； Institute of Industrial Science, The University of Tokyo（东京大学生产技术研究所） ； Graduate School of Frontier Sciences, The University of Tokyo（东京大学新领域创成科学研究科） 纠错

专题命中 幻觉与鲁棒性 ：grounding(abstract)

AI总结 本文提出一种基于对话的交互式解释框架，用于人机协作中的安全决策，通过约束基础的安全评估实现解释与决策的紧密耦合，支持因果、对比和反事实查询，提升安全干预的透明度和协作效率。

Comments This paper has been accepted by the 2nd InterAI workshop, HRI conference 26'

Computational emotion analysis with multimodal LLMs: Current evidence on an emerging methodological opportunity

基于多模态大语言模型的计算情感分析：当前对新兴方法论机会的证据

Hauke Licht

专题命中 幻觉与鲁棒性 ：multimodal large language model(abstract)

AI总结 本文评估了多模态大语言模型在政治视频情感分析中的表现，发现实验室条件下的模型表现接近人类水平，但在真实场景中存在显著性能差距及性别偏差。

Sci-Mind: Cognitively-Inspired Adversarial Debate for Autonomous Mathematical Modeling

Sci-Mind：基于认知的对抗辩论用于自主数学建模

Junhao Jia, Huangwei Chen, Ruiying Sun, Yanhui Song, Haishuai Wang, Jiajun Bu, Lei Wu

专题命中 幻觉与鲁棒性 ：grounding(abstract)

AI总结 Sci-Mind通过模仿人类科学发现过程，结合经验记忆回溯和对抗性认知辩证，提升自主数学建模的严谨性和代码可执行性。