PASs-MoE: Mitigating Misaligned Co-drift among Router and Experts via Pathway Activation Subspaces for Continual Learning
PASs-MoE：通过路径激活子空间减轻路由器与专家之间的错位协同漂移以进行持续学习
机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； University of Chinese Academy of Sciences（中国科学院大学） ； National University of Singapore（新加坡国立大学） ； Southeast University, Nanjing, China（南京东南大学） ； Wuhan AI Research, Wuhan, China（武汉人工智能研究院）
AI总结 研究持续指令调整中多模态大语言模型的问题，提出基于路径激活子空间的固定容量PASs - MoE - LoRA方法，含PAS引导的重新加权和PAS感知的秩稳定，实验表明该方法在准确性和抗遗忘性上优于基线和变体且不增参数。
Comments Published in the Proceedings of the 64th Annual Meeting of the Association for Computational Linguistics (ACL 2026), Volume 1: Long Papers. 14 pages. Code is available at https://github.com/yueluoshuangtian/PASs-MoE
Journal ref Proceedings of the 64th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pages 31959--31972, San Diego, California, United States, July 2026. Association for Computational Linguistics
