Embarrassingly Simple Self-Distillation Improves Code Generation
令人惊讶的简单自蒸馏方法提升代码生成能力
机构 * Apple(苹果公司)
专题命中 代码生成 :code generation(title,abstract);分类 cs.CL
AI总结 提出简单自蒸馏(SSD)方法,仅利用模型自身输出进行微调,无需验证器或强化学习,显著提升代码生成性能,并揭示其通过重塑token分布解决精度-探索冲突的机制。
AI 大模型
代码生成、软件工程智能体、程序修复、测试生成和开发者工具。
令人惊讶的简单自蒸馏方法提升代码生成能力
机构 * Apple(苹果公司)
专题命中 代码生成 :code generation(title,abstract);分类 cs.CL
AI总结 提出简单自蒸馏(SSD)方法,仅利用模型自身输出进行微调,无需验证器或强化学习,显著提升代码生成性能,并揭示其通过重塑token分布解决精度-探索冲突的机制。
类型错误消融与AI编码代理
专题命中 软件智能体 :coding agent(title,abstract);分类 cs.PL
AI总结 通过消融实验研究AI编码代理在修复类型错误时,更详细的错误消息是否比简洁消息更有效,并发现详细错误消息提升修复能力,类型系统比仅测试失败报告更有帮助。
面向分布式内存优化的通信高效二维并行随机梯度下降
专题命中 仓库级理解 :repository(abstract)
AI总结 提出二维并行SGD方法HybridSGD,通过理论分析和实验验证,在通信效率与收敛性能间取得连续权衡,相比一维方法实现高达121倍加速。