ShaRP: SHAllow-LayeR Pruning for Efficient Video Large Language Models
ShaRP: 用于高效视频大语言模型的浅层层剪枝
机构 * VCIP & TMCC & DISSec, College of Computer Science, Nankai University(VCIP与TMCC与DISSec学院,南开大学计算机科学学院) ; LIX, Ecole Polytechnique, IP Paris(LIX,巴黎高等理工学院,IP巴黎) ; OPPO Research Institute(OPPO研究院) ; Beijing University of Posts and Telecommunications(北京邮电大学)
AI总结 本文提出ShaRP框架,通过改进局部信息聚合、校准位置偏差和减少冗余,解决浅层解码器剪枝中的性能下降问题,实现97.2%的性能保留和86%的TFLOPs减少。