Beyond Text-Dominance: Understanding Modality Preference of Omni-modal Large Language Models
超越文本主导:理解多模态大语言模型的模态偏好
机构 * University of Chinese Academy of Sciences(中国科学院大学) ; Chinese Information Processing Laboratory(中文信息处理实验室) ; Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所)
专题命中 多模态评测 :omni-modal(title,abstract);multi-modal(abstract);cross-modal(abstract);分类 cs.AI
AI总结 本文研究多模态大语言模型的模态偏好现象,通过新基准和模态选择率指标量化发现,大多数模型表现出显著的视觉偏好,并通过层间探测揭示偏好在中后期层逐步出现,进而用于诊断跨模态幻觉,提升模型可信度。