SliderQuant: Accurate Post-Training Quantization for LLMs
SliderQuant: 针对LLMs的准确后训练量化
机构 * Intel Labs China(英特尔中国研究院) ; BUPT(北京邮电大学)
专题命中 后训练与偏好优化 :post-training(title,abstract);LLM(abstract);large language model(abstract);language model(abstract)
AI总结 本文提出SliderQuant框架,通过分层滑动量化方法优化不同层的量化敏感性,提升LLM在不同位宽下的精度。
Comments This work is accepted to ICLR 2026. Code is available at https://github.com/deep-optimization/SliderQuant