XConv: Low-memory stochastic backpropagation for convolutional layers
XConv: 卷积层的低内存随机反向传播
机构 * University of Central Florida(中央佛罗里达大学) ; Rice University(里士满大学) ; DevitoCodes Ltd(DevitoCodes有限公司) ; Michigan State University(密歇根州立大学) ; Georgia Institute of Technology(佐治亚理工学院)
专题命中 图像修复 :inpainting(abstract)
AI总结 提出XConv方法,通过存储激活的压缩投影并利用多通道随机迹估计近似梯度,在不增加计算、不约束架构、不大量修改代码的情况下,大幅降低卷积层反向传播的内存需求。