Mixture of Probes: Learning from Privileged Modalities in Multimodal LLMs Through Probing
混合探针:通过探针在多模态大语言模型中从特权模态学习
机构 * Sony Group Corporation(索尼集团公司) ; Sony AI(索尼人工智能) ; University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校)
专题命中 多模态评测 :multimodal(title,abstract);MLLM(abstract,abstract_cn);cross-modal(abstract);分类 cs.CV
AI总结 研究多模态大语言模型在特权模态设置下的问题,提出混合探针(MoP)框架及MoP跨模态训练(MoP-X),通过结构化探测机制分离模态信号,经评估在多任务中优于基线,有效利用辅助模态训练可提升性能。
Comments Preprint (16 pages)