From Local to Global: Revisiting Structured Pruning Paradigms for Large Language Models
从局部到全局:重新审视大型语言模型的结构剪枝范式
机构 * University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校) ; DreamSoul ; University of Minnesota(明尼苏达大学) ; Intel Corporation(英特尔公司)
AI总结 本文提出GISP,一种基于全局重要性度量的迭代结构剪枝方法,通过去除注意力头和MLP通道提升模型效率和下游任务性能。
Comments 20 pages, 6 figures. Accepted by ACL2026 Main Conference