Eliciting Intrinsic Hallucinations in LLMs via Semantically Equivalent Adversarial Attacks
通过语义等价对抗攻击引出大语言模型的内在幻觉
机构 * Imperial College London(帝国理工学院) ; Safe Intelligence(安全智能研究院)
专题命中 RAG评测 :RAG(abstract,abstract_cn);retrieval-augmented generation(abstract);分类 cs.CL
AI总结 本文提出新框架,通过语义等价对抗攻击测试LLMs鲁棒性,发现先进模型易受语义保留扰动影响致忠实度大幅下降,凸显需开发鲁棒接地的LLM架构与训练目标。
Comments To be presented at COLM 2026