Detecting Hallucinations in SpeechLLMs at Inference Time Using Attention Maps
通过注意力图在推理时间检测语音大语言模型中的幻觉
机构 * University of Edinburgh(爱丁堡大学) ; Amazon AGI(亚马逊人工智慧实验室)
AI总结 本文提出四种基于注意力的指标,用于检测语音大语言模型中的幻觉,通过轻量级逻辑回归分类器实现高效推理检测,在多个任务中优于基线方法,展示了注意力模式在检测幻觉中的价值。
Comments Accepted to Findings of ACL 2026