Hallucination as Exploit: Evidence-Carrying Multimodal Agents
幻觉作为利用:证据承载多模态智能体
机构 * Shenzhen University(深圳大学) ; HKUST(香港科技大学)
专题命中 多模态Agent :multimodal(title,abstract);分类 cs.AI
AI总结 本文研究了多模态智能体中幻觉导致授权失败的问题,提出证据承载多模态智能体(ECA)方法,通过分解工具调用、获取类型证书并使用确定性门控来授权,从而将模型的模糊信念转换为可审计的残余,提高了系统的安全性。
Comments 23 pages, 6 figures, 15 tables