QAPruner: Quantization-Aware Vision Token Pruning for Multimodal Large Language Models
QAPruner: 量化感知的多模态大语言模型视觉标记剪枝
机构 * Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机技术研究所)
专题命中 多模态训练与对齐 :multimodal(title,abstract);MLLM(abstract);分类 cs.CV、cs.AI
AI总结 本文提出QAPruner框架,通过结合量化误差模拟与异常强度指标,实现多模态大语言模型的视觉标记剪枝与后训练量化联合优化,提升低比特下的推理精度。
Comments 12 pages