Calibration Is Not Enough: Evaluating Confidence Estimation Under Language Variations
校准还不够:评估语言变化下的置信度估计
机构 * Faculty of Computer Science, UniVie Doctoral School Computer Science(计算机科学系,维也纳大学计算机科学博士学院) ; Faculty of Philological and Cultural Studies, University of Vienna, Austria(文学与文化研究系,维也纳大学,奥地利) ; ILLC, University of Amsterdam, Netherlands(阿姆斯特丹大学ILLC,荷兰) ; Khoury College of Computer Sciences, Northeastern University, USA(东北大学计算机科学学院,美国) ; LMU Munich, Munich Center for Machine Learning (MCML), Germany(慕尼黑大学,慕尼黑机器学习中心(MCML),德国)
专题命中 评测与基准 :large language model(abstract);language model(abstract);分类 cs.CL
AI总结 提出一个基于鲁棒性、稳定性和敏感性的新评估框架,揭示现有置信度估计方法在区分语义不同答案方面的不足。