Detecting RAG Extraction Attack via Dual-Path Runtime Integrity Game
通过双路径运行时完整性游戏检测RAG提取攻击
机构 * Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所) ; School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院) ; Beijing University of Post and Telecommunications(北京邮电大学) ; Stanford University(斯坦福大学) ; North China Electric Power University(华北电力大学) ; AI Sec Lab, Beijing Chaitin Technology Co.,Ltd(北京长亭科技有限公司AI安全实验室)
AI总结 本文提出CanaryRAG,一种基于栈canary的运行时防御机制,通过双路径完整性游戏实时检测RAG知识库泄露,有效降低攻击成功率,不影响任务性能和延迟。
Comments Accepted by ACL 2026 Main