When Evidence is Sparse: Weakly Supervised Early Failure Alerting in Dialogs and LLM-Agent Trajectories
当证据稀疏时:对话和LLM-Agent轨迹中的弱监督早期失败预警
机构 * Intuit AI Research(Intuit AI研究院) ; Princeton University(普林斯顿大学)
专题命中 规划决策 :agent(title,title_cn);tool use(abstract);planning(abstract);分类 cs.AI、cs.CL、cs.LG
AI总结 针对对话和LLM-Agent轨迹中早期失败预警问题,提出一种两阶段方法,通过注意力机制从稀疏的轨迹级标签中学习回合级失败证据,并结合α-STOP策略实现可控的早期预警,在多个基准上显著提升帕累托前沿质量并降低训练成本。
Comments 9 pages, 14 figures, and appendix