Beyond Post-Hoc Temperature Scaling: Bilevel Optimization for LLM Calibration
超越事后温度缩放:用于大语言模型校准的双层优化方法
机构 * Dartmouth College(达特茅斯学院) ; University of Pennsylvania(宾夕法尼亚大学) ; National University of Singapore(新加坡国立大学)
AI总结 针对LLM偏好对齐导致的过度自信与校准问题,提出基于双层优化的校准方法,通过最大化预测分布熵实现,在多项选择与开放式问答任务中提升了校准效果与域外泛化能力。
Comments Third Conference on Language Modeling (COLM 2026)