TimeMachine-bench: A Benchmark for Evaluating Model Capabilities in Repository-Level Migration Tasks
TimeMachine-bench:一个评估仓库级迁移任务模型能力的基准
机构 * Tohoku University(东大理工大学) ; Future Corporation(未来公司) ; RIKEN(日本理化学研究所) ; NII LLMC(国家信息研究所LLMC)
专题命中 代码评测 :repository(title);分类 cs.SE、cs.CL
AI总结 本文提出TimeMachine-bench基准,用于评估软件迁移任务中的模型能力,通过自动化构建GitHub仓库测试失败数据集,评估基于11种模型的基线方法,发现LLM在迁移任务中仍存在可靠性挑战。
Comments Accepted to EACL 2026 Main, camera-ready
Journal ref Proceedings of the 19th Conference of the European Chapter of the Association for Computational Linguistics (Volume 1: Long Papers), pages 8233-8264, 2026