Knowing When Not to Answer: Evaluating Abstention in Multimodal Reasoning Systems
在何时不回答:评估多模态推理系统中的退避
机构 * ServiceNow Research(ServiceNow研究院)
专题命中 多模态评测 :multimodal(title,abstract);分类 cs.CV、cs.CL
AI总结 本文提出MM-AQA基准,通过视觉模态依赖性和证据充分性变换生成不可回答实例,评估三种前沿VLM和两种MAS架构,发现VLM在标准提示下 rarely 退避,MAS提升退避但引入准确率-退避权衡,序列设计表现优异,表明退避意识训练比提示或更多代理更重要。
Comments 10 pages and 4 figures (excluding appendix)