Intel（英特尔）

StatQAT: Statistical Quantizer Optimization for Deep Networks

StatQAT: 深度网络的统计量化优化

Mehmet Aktukmak, Daniel Huang, Ke Ding

机构 * Intel（英特尔） 纠错

AI总结 本文提出了一种新的统计误差分析框架，用于统一和浮点量化，以提供理论洞察，针对不同数据分布的量化配置误差行为。基于此分析，作者提出了适用于任意数据分布的迭代量化器和适用于高斯似分布权重的分析量化器，从而实现了高效的低误差量化，适用于激活和权重。将这些量化器整合到量化感知训练中，并在整数和浮点格式上进行了评估，实验表明提高了准确性和稳定性，展示了该方法在训练低精度神经网络中的有效性。

SignRoundV2: Toward Closing the Performance Gap in Extremely Low-Bit Post-Training Quantization for LLMs

SignRoundV2：朝着关闭LLMs极低比特后训练量化性能差距的目标

Wenhua Cheng, Weiwei Zhang, Heng Guo, Haihao Shen, Zaner Ma

机构 * Intel（英特尔公司） ； Beijing Institute of Technology（北京理工大学） 纠错

AI总结 本文提出SignRoundV2框架，通过自适应混合精度策略和轻量稳定技术，在极低比特量化下保持高性能，实验表明在混合MXFP设置中实现接近无损性能，将性能差距缩小到约1%。