Sanity Checks for Long-Form Hallucination Detection
长形式幻觉检测的合理性检查
机构 * Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室) ; The University of Texas at Austin(德克萨斯大学奥斯汀分校) ; University of British Columbia(不列颠哥伦比亚大学)
专题命中 复杂问题求解 :reasoning(abstract);chain-of-thought(abstract);分类 cs.CL、cs.AI
AI总结 本文提出一种控制不变性方法,通过强制和移除测试区分推理本身与最终答案的表面关联,展示轻量级评分器TRACT在未扰动轨迹上的有效性。