TraceLab: Characterizing Coding Agent Workloads for LLM Serving
TraceLab: 表征用于LLM服务的编码代理工作负载
机构 * University of Washington(华盛顿大学) ; Wuhan University of Technology(武汉理工大学) ; Shanghai Jiao Tong University(上海交通大学)
专题命中 软件智能体 :agent(title,abstract);agentic(abstract);分类 cs.AI、cs.LG
AI总结 通过收集4300个编码代理会话(含35万LLM步骤和43万工具调用)的真实轨迹,分析发现长自主循环、长上下文短输出、多样化重尾工具调用及高但不完美前缀缓存命中率等特征,为优化服务提供具体方向。