3BASiL: An Algorithmic Framework for Sparse plus Low-Rank Compression of LLMs
3BASiL: 一种用于大型语言模型稀疏加低秩压缩的算法框架
机构 * Operations Research Center(运筹学研究中心) ; Massachusetts Institute of Technology(麻省理工学院)
AI总结 3BASiL-TM提出了一种高效的单次后训练方法,用于LLMs的稀疏加低秩分解,显著提升了压缩效果和效率。
Comments The Thirty-ninth Annual Conference on Neural Information Processing Systems