RAG / 检索增强生成

Trojan Hippo: Weaponizing Agent Memory for Data Exfiltration

Trojan Hippo：利用代理记忆进行数据外泄

Debeshee Das, Julien Piet, Darya Kaviani, Luca Beurer-Kellner, Florian Tramèr, David Wagner

机构 * ETH Z\"urich 纠错

专题命中 RAG评测 ：RAG(abstract,abstract_cn)；分类 cs.AI

AI总结 研究提出Trojan Hippo攻击，通过单次不可信工具调用在代理长期记忆中植入潜伏载荷，当用户讨论敏感话题时激活并外泄数据。通过动态评估框架评估不同内存架构和防御措施，发现现有防御措施在安全性和实用性之间存在显著权衡。