Quantization Effects of Artificial Neural Networks for Embedded Edge-Computing Applications
人工神经网络量化效果用于边缘计算应用
专题命中 效率与部署 :post-training(abstract)
AI总结 本文研究了量化神经网络在资源受限的科学应用中的使用,包括半导体量子比特的自动校准和科学粒子探测器。通过评估PTQ、QAT和超低比特二值神经网络(BNNs)在延迟和资源使用方面的权衡,发现PTQ在U型CNN架构中可将内存使用减少四倍,同时保持或略微提高分割精度。对于非可微的定制BNNs训练,提出了一种基于遗传算法的硬件受限学习方法,展示了适用于直接转换为VHDL的LUT-based BNN架构。该方法在无需专用DSP或BRAM资源的情况下实现了纳秒级的推理延迟。
Comments deRSE26 proceedings pre-print