Refused in Chat, Written in Code: Workflow-Level Jailbreak Construction in IDE Coding Agents
在聊天中被拒绝,用代码编写:IDE 编码代理中的工作流级越狱构造
机构 * The Alan Turing Institute(阿尔法·图灵研究院)
专题命中 软件智能体 :coding agent(title,abstract);分类 cs.SE、cs.AI
AI总结 研究 IDE 编码代理安全评估问题,介绍工作流级越狱构造,通过对特定模型在不同基准测试下表现研究发现,对话拒绝基准可能高估其安全性,需跨多轮 IDE 工作流评估安全。