Architecting Secure AI Agents: Perspectives on System-Level Defenses Against Indirect Prompt Injection Attacks
构建安全的AI代理:系统级防御间接提示注入攻击的视角
机构 * NVIDIA(英伟达) ; Independent Researcher(独立研究员) ; Johns Hopkins University(约翰霍普金斯大学)
AI总结 本文探讨了针对间接提示注入攻击的系统级防御策略,提出动态重计划、安全策略更新及人类交互在代理设计中的重要性,同时指出现有基准的局限性及系统级防御的价值。