OrderDP: A Theoretically Guaranteed Lossless Dynamic Data Pruning Framework
OrderDP:一种理论上保证无损的动态数据剪枝框架
机构 * The Chinese University of Hong Kong(香港中文大学) ; Beijing Normal-Hong Kong Baptist University(北京师范大学-香港 Baptist大学) ; Guangzhou Nanfang College(广州南方学院) ; Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所) ; Xiangtan University(湘潭大学) ; University of Utah(犹他大学)
AI总结 提出OrderDP框架,通过随机子集选取与top-q样本选择实现无偏梯度估计,提供收敛性和泛化性理论保证,在CIFAR和ImageNet上降低40%训练成本且保持精度。
Comments Published as a conference paper at ICLR 2026
Journal ref International Conference on Learning Representations (ICLR), 2026