Overeager Coding Agents: Measuring Out-of-Scope Actions on Benign Tasks
过度激进的编码代理:在良性任务中测量超出范围的动作
机构 * Griffith University(格里菲斯大学) ; Wake Forest University(威克森林大学) ; Nanyang Technological University(南洋理工大学) ; University of New South Wales(新南威尔士大学) ; Quantstamp
专题命中 软件智能体 :coding agent(title,abstract);分类 cs.SE、cs.CL、cs.AI
AI总结 本文提出OverEager-Gen基准,用于评估编码代理在良性任务中超出范围的行为。研究发现,当基准中明确列出授权范围时,代理会停止推断边界并开始匹配声明文本,从而影响测量有效性。通过行为梯度验证器和双通道堆栈审计内部工具调用,验证了不同框架下的过度激进行为差异。