arXivDaily arXiv每日学术速递 周一至周五更新

大厂专区

Intel(英特尔)

2026-08-06 至 2026-08-06 共收录 1
2608.04048 2026-08-06 cs.LG cs.AI 新提交

Recurrent Residual Quantization: A Progressive Multi-Precision Representation for LLMs

循环残差量化:面向大语言模型的渐进式多精度表示

Yu Luo, Bo Dong, Wenhua Cheng, Haihao Shen

机构 * Intel(英特尔)

AI总结 本文提出循环残差量化(RRQ)框架,可从单个检查点生成LLM的多种精度表示,构建速度比MatGPTQ快3.3倍,在6、8比特精度下表现有竞争力,代码将公开。

Comments NeurIPS 2026 submission; 14 tables, 1 algorithm, and no figures

详情

展开后加载摘要…

URL PDF HTML 收藏