Agent Data Injection Attacks are Realistic Threats to AI Agents
智能体数据注入攻击对人工智能智能体构成现实威胁
机构 * Seoul National University(首尔国立大学) ; Largosoft ; University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
专题命中 软件智能体 :agent(title,abstract);AI agent(title,abstract);分类 cs.AI
AI总结 介绍智能体数据注入攻击(ADI)这一新型间接提示注入,其伪装可信数据注入恶意数据使智能体执行意外操作,研究发现现实智能体漏洞及ADI在多种模型和智能体设置中有效,揭示智能体安全关键差距。
Comments 19 pages, 19 figures, 7 tables