Pruning via Causal Attribution Preserves Reasoning Performance in Large Language Models
基于因果归因的剪枝保留大型语言模型的推理性能
专题命中 其他推理 :因果归因剪枝保留推理性能
AI总结 提出无需训练的因果归因剪枝(CAP)方法,通过测量注意力头对推理任务的因果影响进行细粒度剪枝,在20%稀疏度下相比Wanda在ARC-Challenge上准确率提升高达61%。
Comments Accepted at the ICLR 2026 Workshop on LLM Reasoning. 13 pages, 2 figures