FAAR: Format-Aware Adaptive Rounding for NVFP4
FAAR:面向NVFP4的格式感知自适应取整
机构 * Li Auto Inc.(李自动公司)
AI总结 本文提出FAAR方法,通过整合NVFP4非均匀数域特性,改进低精度量化策略,降低取整误差,提升模型性能,实验表明在WikiText-2和Qwen3-1.7B上 perplexity 显著降低。
大厂专区
FAAR:面向NVFP4的格式感知自适应取整
机构 * Li Auto Inc.(李自动公司)
AI总结 本文提出FAAR方法,通过整合NVFP4非均匀数域特性,改进低精度量化策略,降低取整误差,提升模型性能,实验表明在WikiText-2和Qwen3-1.7B上 perplexity 显著降低。