State Rank Dynamics in Linear Attention LLMs
线性注意力大语言模型中的状态排名动态
机构 * The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)) ; University of Chinese Academy of Sciences(中国科学院大学) ; CAS Key Laboratory of AI Safety, Institute of Computing Technology, CAS(中国科学院人工智能安全重点实验室) ; University of Science and Technology of China(中国科学技术大学) ; Harbin Institute of Technology(哈尔滨工业大学) ; University of Oxford(牛津大学) ; Tsinghua University(清华大学)
专题命中 推理评测 :reasoning(abstract);分类 cs.AI、cs.LG
AI总结 本研究揭示了线性注意力模型中状态排名分层现象,提出联合秩-范数剪枝策略,有效降低KV缓存开销并维持模型准确性。