Auto-FlexSwitch: Efficient Dynamic Model Merging via Learnable Task Vector Compression
Auto-FlexSwitch: 通过可学习的任务向量压缩实现高效的动态模型合并
机构 * School of Mathematics, Harbin Institute of Technology, Harbin, P. R. China(哈尔滨工业大学数学学院,哈尔滨,中华人民共和国) ; Shanghai Artificial Intelligence Laboratory, Shanghai, P. R. China(上海人工智能实验室,上海,中华人民共和国)
AI总结 本文提出Auto-FlexSwitch,通过可学习的任务向量压缩实现高效动态模型合并,解决传统方法存储开销大的问题。