Latent Noise Mask for Reducing Visual Redundancy in Multimodal Large Language Models
潜在噪声掩码:减少多模态大语言模型中的视觉冗余
机构 * School of Artificial Intelligence, OPtics and ElectroNics (iOPEN), Northwestern Polytechnical University(人工智能学院、光学和电子学(iOPEN)、西北工业大学) ; Institute of Artificial Intelligence, China Telecom (TeleAI)(人工智能研究院、中国电信(TeleAI)) ; Fudan University(复旦大学) ; The University of Hong Kong(香港大学)
专题命中 多模态训练与对齐 :multimodal(title,abstract);MLLM(abstract,abstract_cn);分类 cs.CV
AI总结 提出Lens框架,通过轻量级LET令牌为视觉令牌评分,并注入自适应噪声抑制低相关令牌,在不改变模型结构的情况下提升多模态推理性能。
Comments 21 pages, 7 figures;