NOVA: NOise-aware Verbal Confidence CAlibration for Robust Large Language Models in RAG Systems
NOVA: 面向RAG系统中鲁棒大语言模型的噪声感知言语置信度校准
机构 * HKUST(香港科技大学) ; UIUC(伊利诺伊大学香槟分校) ; Northwestern University(西北大学)
AI总结 提出NOVA框架,通过规则引导的监督微调,解决检索增强生成中噪声上下文导致的过度自信问题,在域内和域外分别提升ECE 10.9%和8.0%。