ReQuant: Fixed-Grid Discrete Refinement for Post-Training Quantization
ReQuant:用于训练后量化的固定网格离散细化
机构 * School of Computer Science, Peking University(北京大学计算机学院) ; School of Software and Microelectronics, Peking University(北京大学软件与微电子学院) ; School of Physics, Peking University(北京大学物理学院) ; The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)) ; Central Research Institute, ZTE Corporation(中兴公司中央研究院)
AI总结 ReQuant是用于训练后量化(PTQ)的无反向传播固定网格细化方法,可作为即插即用后处理阶段,提升各类PTQ初始化器生成的量化模型性能,在低位宽下增益显著。
Comments 10 pages, 3 figures, 16 tables