大模型对齐与安全

Security and Privacy in Retrieval-Augmented Generation: Architectures, Threats, Defenses, and Future Directions for Building Trustworthy Systems

检索增强生成中的安全与隐私：构建可信系统的架构、威胁、防御与未来方向

Balamurugan Palanisamy, G S S Chalapathi, Vikas Hassija, Rajkumar Buyya

机构 * Department of Electrical and Electronics Engineering（电子与电气工程系） ； Birla Institute of Technology and Science, Pilani, Pilani Campus（比拉理工学院和科学学院，比拉校区） ； Department of Computer Engineering, KIIT University（计算机工程系，KIIT大学） ； Quantum Cloud Computing and Distributed Systems (qCLOUDS) Laboratory（量子云计算与分布式系统（qCLOUDS）实验室） ； Department of Computing and Information Systems（计算与信息系统系） ； The University of Melbourne（墨尔本大学） 纠错

专题命中 隐私与版权 ：trustworthy(title,abstract)；分类 cs.CL

AI总结 本文综述了检索增强生成系统在集中式、设备端、联邦和混合范式下的隐私与安全挑战，提出了涵盖检索、上下文构建和生成阶段的统一威胁分类，并分析了攻击类别及防御策略。