PUMA: Layer-Pruned Language Model for Efficient Unified Multimodal Retrieval with Modality-Adaptive Learning
PUMA: 基于层剪枝的语言模型,用于具有模态自适应学习的高效统一多模态检索
机构 * Harbin Institute of Technology(哈尔滨工业大学)
专题命中 其他VLM :MLLM(summary_cn,abstract_cn);multimodal large language model(abstract);分类 cs.CV
AI总结 提出PUMA,通过层剪枝自蒸馏减少MLLM参数,并设计模态自适应对比学习损失(MAC-Loss)提升检索效率,在降低资源消耗的同时保持性能。