arXivDaily arXiv每日学术速递 周一至周五更新

高校专区

Xi'an Jiaotong University(西安交通大学)

2026-06-25 至 2026-06-25 共收录 2
2505.23866 2026-06-25 cs.LG cs.AI 版本更新

Towards Understanding The Calibration Benefits of Sharpness-Aware Minimization

理解锐度感知最小化的校准优势

Chengli Tan, Yubo Zhou, Haishan Ye, Guang Dai, Junmin Liu, Zengjie Song, Jiangshe Zhang, Zixiang Zhao, Yunda Hao, Yong Xu

机构 * Northwestern Polytechnical University(西北工业大学) SGIT AI Lab, State Grid Corporation of China(国网SGIT人工智能实验室) Xi’an Jiaotong University(西安交通大学) ETH Zürich(苏黎世联邦理工学院) Chinese University of Hong Kong(香港中文大学)

AI总结 本文通过理论分析揭示锐度感知最小化(SAM)通过隐式最大化预测分布熵来改善模型校准,并提出变体CSAM进一步降低校准误差。

Comments ICLR2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2206.04359 2026-06-25 cs.LG cs.AI 版本更新

Learning Non-Vacuous Generalization Bounds from Optimization

从优化中学习非平凡泛化界

Chengli Tan, Jiangshe Zhang, Junmin Liu, Yihong Gong

机构 * Northwestern Polytechnical University(北华科技大学) Xi’an Jiaotong University(西安交通大学) SGIT AI Lab(SGIT人工智能实验室) State Grid Corporation of China(国家电网公司)

AI总结 针对深度神经网络泛化界过松或仅适用于压缩网络的问题,提出基于优化视角的非平凡泛化界,利用随机梯度算法访问的假设集具有分形特性,通过分数布朗运动驱动的随机微分方程推导出更紧的算法依赖Rademacher复杂度界。

Comments made some important revisions

详情

展开后加载摘要…

URL PDF HTML 收藏