Look Less, Reason More: Block-wise Attention Skipping for Efficient Multimodal LLMs
少看多思:面向高效多模态大语言模型的块级注意力跳过
机构 * Xiamen University(厦门大学)
专题命中 其他推理 :reasoning(abstract)
AI总结 针对多模态大语言模型视觉注意力饱和问题,提出训练无关的Visual-Skip方法,通过选择性跳过冗余的视觉自注意力模块实现块级稀疏性,并利用轻量级校准动态选择最优稀疏路径,在保持性能的同时显著降低计算成本。