Modeling LLM Unlearning as an Asymmetric Two-Task Learning Problem
将LLM去学习视为一个非对称的双任务学习问题
机构 * Shanghai University of Finance and Economics(上海金融学院) ; Alibaba Group(阿里巴巴集团) ; Southern University of Science and Technology(南方科技大学) ; Beihang University(北航) ; MoE Key Laboratory of Interdisciplinary Research of Computation and Economics(计算与经济交叉学科研究教育部重点实验室)
AI总结 本文将LLM去学习视为非对称双任务问题,提出优先保留的梯度合成框架,通过分离任务特定梯度提取与冲突感知组合,改进梯度冲突解决方法,实验证明通过重塑梯度几何而非重新平衡损失,有效缓解去学习-保留的权衡。
Comments ACL 2026