When Sinks Help or Hurt: Unified Framework for Attention Sink in Large Vision-Language Models
当汇点帮助或伤害:面向大视觉-语言模型的注意力汇点统一框架
机构 * KAIST(韩国科学技术院) ; Chung-Ang University(中央大学) ; Technical University of Munich(慕尼黑工业大学)
专题命中 视觉空间推理 :reasoning(abstract)
AI总结 本文研究了大视觉-语言模型中注意力汇点的影响,提出统一框架分析其作为冗余 artifacts 或全局先验的作用,并通过 Layer-wise Sink Gating 模块平衡全局推理与局部证据。
Comments Acknowledgments updated