The Blind Curator: How a Biased Judge Silently Disables Skill Retirement in Self-Evolving Agents
盲选策展人:有偏见的评判者如何在自我进化的智能体中悄然阻碍技能淘汰
机构 * AWS Generative AI Innovation Center(亚马逊云科技生成式人工智能创新中心) ; HSBC Holdings Plc., HSBC Technology Center, China(汇丰控股有限公司,汇丰科技中心,中国)
专题命中 评测与基准 :LLM(abstract);分类 cs.CL、cs.AI
AI总结 研究自我进化智能体中,有偏见的评判者对技能淘汰的影响。通过损坏奖励分析等方法发现,“误判通过”偏差会导致技能淘汰机制失效,此为行为安全结果。还提出廉价审计可判断评判者是否越过阈值影响智能体。