FORGE: Research-Trajectory Hijacking Attacks on Deep Research Agents
FORGE:对深度研究智能体的研究轨迹劫持攻击
机构 * Fudan University(复旦大学) ; Huazhong University of Science and Technology(华中科技大学) ; Explore Academy, JD(京东探索研究院)
AI总结 研究针对深度研究智能体,利用其工作流程中的规划层中毒面,提出FORGE两级攻击劫持子任务规划,还引入PRISM指标和Root Query Anchoring防御,展示攻击效果及防御作用。
Comments 20 pages,8 figures,Code available at https://github.com/yvepan/FORGE