Self-State Attacks on Self-Hosted AI Agents: How Far Can OS Defenses Go?
对自托管人工智能代理的自我状态攻击:操作系统防御能走多远?
机构 * Center of Excellence for Generative AI(生成人工智能卓越中心) ; King Abdullah University of Science and Technology(卡瓦尔大学) ; The Swiss AI Lab, IDSIA-USI/SUPSI(瑞士人工智能实验室)
专题命中 记忆与上下文管理 :AI agent(title,abstract);agent(abstract);分类 cs.AI、cs.CL
AI总结 研究自托管人工智能代理的自我状态攻击,刻画四轴攻击空间,通过收集活动跟踪数据实现攻击空间并评估防御策略,发现分层防御堆栈有效但有残余攻击面,为操作系统级防御研究提供新思路。
Comments 21 pages, 4 figures