BiSCo-LLM: Lookup-Free Binary Spherical Coding for Extreme Low-Bit Large Language Model Compression
BiSCo-LLM:用于极低比特大语言模型压缩的无查找表二进制球面编码
机构 * Nanjing University of Science and Technology(南京理工大学) ; Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所) ; Huawei(华为)
专题命中 效率与部署 :LLM(title,title_cn);large language model(title,abstract);language model(title,abstract);分类 cs.LG
AI总结 研究大语言模型部署时的压缩问题,提出BiSCo-LLM框架,通过将局部权重块映射到超球面二值化、编码重建误差、进行类别恢复蒸馏及设置保护通道路径等方法,实现极低比特权重压缩并减少存储开销。