CurveShift: Is Agent Progress Scalar? Separating Level from Shape
CurveShift:智能体的进展是标量吗?区分水平与形态
机构 * University of Southern California(南加利福尼亚大学) ; University of Chicago(芝加哥大学) ; University of California, Berkeley(加利福尼亚大学伯克利分校) ; Massachusetts Institute of Technology(麻省理工学院) ; Stanford University(斯坦福大学) ; University of California, Davis(加利福尼亚大学戴维斯分校) ; Pennsylvania State University(宾夕法尼亚州立大学) ; Harvard University(哈佛大学) ; University of Oxford(牛津大学)
专题命中 推理评测 :reasoning(abstract);分类 cs.CL、cs.LG
AI总结 该研究针对大型语言模型进展的标量总结问题,通过LiveCodeBench基准分离混淆,发现2024年9月后发布的模型在竞赛编程难任务上有超出预期的增益,发布了相关数据集与代码。
Comments 25 pages, 4 figures, 7 tables. Data and code: https://github.com/harvenstar/CurveShift