AMD

Pushing the Limits of Block Rotations in Post-Training Quantization

推动后训练量化中块旋转的极限

Sai Sanjeet, Ian Colbert, Pablo Monteagudo-Lago, Giuseppe Franco, Yaman Umuroglu, Nicholas J. Fraser

机构 * Advanced Micro Devices, Inc. (AMD)（Advanced Micro Devices公司） ； State University of New York at Buffalo（纽约州立大学布法罗分校） ； Norwegian University of Science（挪威科学与技术大学） 纠错

AI总结 本文提出PeRQ框架，通过置换和旋转重新分布激活值，以克服块旋转在抑制异常值时的几何限制，显著提升后训练量化精度。