Beyond Surface Statistics: Robust Conformal Prediction for LLMs via Internal Representations
超越表面统计:通过内部表示实现LLM的鲁棒置信预测
机构 * Imperial College London(伦敦帝国学院) ; Zhejiang University(浙江大学) ; University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校) ; City University of Hong Kong(香港城市大学)
AI总结 本文提出一种基于内部表示的置信预测框架,通过层间信息评分提升LLM在分布偏移下的鲁棒性,优于文本层面基线方法。