ZO-Act: Efficient Zeroth-Order Fine-Tuning via One-Shot Activation-Informed Low-Rank Subspaces
ZO-Act: 通过一次性激活信息低秩子空间实现高效零阶微调
机构 * University at Albany, SUNY(纽约州立大学奥尔巴尼分校) ; IBM T. J. Watson Research Center(IBM托马斯·J·沃森研究中心)
专题命中 指令微调 :LLM(summary_cn,abstract);large language model(abstract);language model(abstract);分类 cs.LG
AI总结 提出ZO-Act方法,利用输入激活构建固定低秩子空间,仅优化系数矩阵,降低扰动维度并支持Adam优化器,实现高效零阶微调,在多个LLM上取得一致提升。