MemAudit: Post-hoc Auditing of Poisoned Agent Memory via Causal Attribution and Structural Anomaly Detection
MemAudit:通过因果归因和结构异常检测对中毒代理记忆进行事后审计
机构 * Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所) ; Qiyuan Tech(齐元科技) ; Laboratory of Multimedia Information Processing, School of Computer Science, Peking University(北京大学计算机科学学院多媒体信息处理实验室) ; School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络安全学院)
AI总结 提出MemAudit框架,结合反事实记忆影响评分和记忆一致性图,对记忆增强型LLM代理中的恶意注入记忆进行事后因果审计,显著降低攻击成功率。