Cordon-MAS: Defending RAG against Knowledge Poisoning via Information-Flow Control
Cordon-MAS:通过信息流控制防御 RAG 的知识投毒
机构 * Zhejiang University(浙江大学) ; Binjiang Institute of Zhejiang University(浙江大学滨江研究院) ; Shanghai Jiao Tong University(上海交通大学) ; Zhejiang Lab(浙江实验室) ; Harbin Institute of Technology(哈尔滨工业大学) ; Hangzhou Dianzi University(杭州电子科技大学)
专题命中 检索器与排序 :RAG(title,title_cn);retrieval-augmented generation(abstract);分类 cs.AI
AI总结 针对检索增强生成(RAG)中的 Confundo 式投毒攻击,提出 Cordon-MAS 框架,通过分离证据提取、跨源审计和答案合成到具有非对称内存权限的智能体中,将攻击成功率相对降低 92.4%,将投毒问题从检测重新定义为信息流控制。