代码大模型 / AI 编程

Assessing the Impact of Code Changes on the Fault Localizability of Large Language Models

评估代码更改对大型语言模型故障定位性的影响

Sabaat Haroon, Ahmad Faraz Khan, Ahmad Humayun, Waris Gill, Abdul Haddi Amjad, Ali R. Butt, Mohammad Taha Khan, Muhammad Ali Gulzar

机构 * Carnegie Mellon University, USA（卡内基梅隆大学，美国） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI、cs.LG

AI总结 本文通过端到端评估框架评估LLM在故障定位中的鲁棒性，发现SPMs导致78%的LLM失败于之前定位的故障，表明LLM推理依赖于语法而非语义。

Comments This paper is currently Under Review. It consists of 12 pages, 11 Figures, and 5 Tables

DiaBlo: Diagonal Blocks Are Sufficient For Finetuning

DiaBlo: 对角块足以用于微调

Selcuk Gurses, Aozhong Zhang, Yanxia Deng, Xun Dong, Xin Li, Naigang Wang, Penghang Yin, Zi Yang

机构 * University at Albany, SUNY（纽约州立大学阿尔巴尼分校） ； IBM T. J. Watson Research Center（IBM 汤普逊·杰·沃森研究中心） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 DiaBlo是一种仅更新模型权重矩阵对角块的参数高效微调方法，通过消除低秩矩阵乘积需求，实现稳定收敛和高效训练。

Comments Accepted by ICLR 2026

Inference-Time Safety For Code LLMs Via Retrieval-Augmented Revision

通过检索增强的修订实现代码LLM的推理时安全性

Manisha Mukherjee, Vincent J. Hellendoorn

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI、cs.LG

AI总结 通过检索增强的修订机制提升代码LLM的推理时安全性，提高生成代码的安全性并减少漏洞。

Comments Accepted at the ICLR 2026 Workshop on Principled Design for Trustworthy AI: Interpretability, Robustness, and Safety Across Modalities

Training Large Language Models To Reason In Parallel With Global Forking Tokens

训练大型语言模型以并行推理与全局分叉标记

Sheng Jia, Xiao Wang, Shiva Prasad Kasiviswanathan

机构 * University of Toronto（多伦多大学） ； Amazon（亚马逊） ； Vector Institute（向量研究所） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出SSFT和GFPO方法，通过集合基于的损失和双射匹配，提升大型语言模型在并行推理中的多样性和准确性，从而在数学推理和代码生成任务中取得优于传统SFT的性能。

Comments Accepted at ICLR 2026

Journal ref The Fourteenth International Conference on Learning Representations (ICLR 2026), https://openreview.net/forum?id=xBQvvkg4Wc

InnoGym: Benchmarking the Innovation Potential of AI Agents

InnoGym：评估AI智能体创新潜力的基准测试

Jintian Zhang, Kewei Xu, Jingsheng Zheng, Zhuoyun Yu, Yuqi Zhu, Yujie Luo, Lanning Wei, Shuofei Qiao, Lun Du, Da Zheng, Shumin Deng, Huajun Chen, Ningyu Zhang

机构 * Zhejiang University（浙江大学） ； Ant Group（蚂蚁集团） ； National University of Singapore（新加坡国立大学） ； Zhejiang University - Ant Group Joint Laboratory of Knowledge Graph（知识图谱联合实验室） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 InnoGym通过引入性能提升和新颖性两个指标，首次系统评估AI智能体的创新潜力，揭示了创造力与有效性的平衡问题。

Comments ICLR 2026

Learning beyond Teacher: Generalized On-Policy Distillation with Reward Extrapolation

超越教师的学习：基于奖励外推的通用在线蒸馏

Wenkai Yang, Weijie Liu, Ruobing Xie, Kai Yang, Saiyong Yang, Yankai Lin

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学人工智能学院） ； LLM Department, Tencent（腾讯人工智能实验室） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出通用在线蒸馏框架，通过奖励外推和灵活参考模型提升学生性能，改进蒸馏效果并超越教师表现。

Comments v2, update results under stronger teachers with more RL training steps

RLSF: Fine-tuning LLMs via Symbolic Feedback

通过符号反馈进行LLM微调：RLSF

Piyush Jha, Prithwish Jana, Pranavkrishna Suresh, Arnav Arora, Vijay Ganesh

机构 * Georgia Institute of Technology, USA（佐治亚理工学院） 纠错

专题命中 代码生成 ：program synthesis(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 RLSF通过符号反馈微调LLM，利用符号推理工具提供精细反馈，提升领域特定任务的性能，使小模型超越大模型。

Journal ref ECAI 2025, Frontiers in Artificial Intelligence and Applications, Vol. 413, pp. 1687-1694, 2025

A Problem-Oriented Perspective and Anchor Verification for Code Optimization

面向问题的视角与锚点验证用于代码优化

Tong Ye, Tengfei Ma, Xuhong Zhang, Hang Yu, Jianwei Yin, Wenhai Wang

机构 * Zhejiang University（浙江大学） ； Stony Brook University（石溪大学） ； AntGroup（蚂蚁集团） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI、cs.PL

AI总结 本文提出面向问题的视角与锚点验证框架，用于提升代码优化的正确性和效率，减少优化过程中的性能损耗。

Comments ICLR 2026

CodePDE: An Inference Framework for LLM-driven PDE Solver Generation

CodePDE：基于LLM的PDE求解器生成推理框架

Shanda Li, Tanya Marwah, Junhong Shen, Weiwei Sun, Andrej Risteski, Yiming Yang, Ameet Talwalkar

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Flatiron Institute（Flatiron研究院） ； Polymathic AI（多学科人工智能） ； Datadog 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 CodePDE通过大语言模型生成PDE求解器，展示了LLM在复杂数学问题中的强大能力及潜在应用价值。

Comments TMLR. Code available at https://github.com/LithiumDA/CodePDE

Analyzing and Improving Chain-of-Thought Monitorability Through Information Theory

通过信息论分析和改进链式思维可监控性

Usman Anwar, Tim Bakker, Dana Kianfar, Cristina Pinneri, Christos Louizos

机构 * University of Cambridge（剑桥大学） ； Qualcomm AI Research（高通人工智能研究） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文通过信息论分析，提出两种方法改进链式思维监控器的可监控性，以提高监控准确性并防止奖励黑客问题。

Comments First two authors contributed equally

A Model-Driven Engineering Approach to AI-Powered Healthcare Platforms

基于模型驱动工程的AI赋能医疗平台方法

Mira Raheem, Amal Elgammal, Michael Papazoglou, Bernd Krämer, Neamat El-Tazi

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI、cs.LG

AI总结 本文提出基于模型驱动工程的医疗AI框架，通过医学互操作性语言和联邦学习实现数据隐私保护与高预测性能。

Comments Disclaimer: This manuscript is currently under review at * MDPI Informatics*

Journal ref Informatics 2026

LLM-Powered Fully Automated Chaos Engineering: Towards Enabling Anyone to Build Resilient Software Systems at Low Cost

基于大语言模型的完全自动化混沌工程：实现任何人以低成本构建容错软件系统

Daisuke Kikuta, Hiroki Ikeuchi, Kengo Tajiri

机构 * NTT, Inc., Japan（日本NTT公司） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.CL、cs.AI

AI总结 本文提出ChaosEater系统，利用大语言模型自动化混沌工程周期，使任何人能低成本构建容错软件系统。

Comments Accepted at ASE 2025 NIER Track. The code is available at https://github.com/ntt-dkiku/chaos-eater

Journal ref 2025 40th IEEE/ACM International Conference on Automated Software Engineering (ASE)

On LLMs' Internal Representation of Code Correctness

关于LLMs内部对代码正确性的表示

Francisco Ribeiro, Claudio Spiess, Prem Devanbu, Sarah Nadi

机构 * New York University Abu Dhabi（纽约大学阿布扎比分校） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI、cs.LG

AI总结 本文研究了LLMs内部对代码正确性的表示，通过对比隐藏状态识别正确性表示，并展示其在提升代码生成质量与可靠性方面的贡献。

Comments Accepted for ICSE'26

ReCode: Unify Plan and Action for Universal Granularity Control

ReCode：统一计划与行动以实现通用粒度控制

Zhaoyang Yu, Jiayi Zhang, Huixue Su, Yufan Zhao, Yifan Wu, Mingyi Deng, Jinyu Xiang, Yizhang Lin, Lingxiao Tang, Yuyu Luo, Bang Liu, Chenglin Wu

机构 * DeepWisdom ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； Renmin University of China（中国人民大学） ； Zhejiang University（浙江大学） ； Université de Montréal & Mila（蒙特利尔大学及Mila） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 ReCode通过递归代码生成统一规划与行动，实现通用粒度控制，提升智能体在不同决策粒度上的灵活性和效率。

Attention Is All You Need for KV Cache in Diffusion LLMs

注意力是扩散大语言模型中KV缓存的所有需求

Quan Nguyen-Tri, Mukul Ranjan, Zhiqiang Shen

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出Elastic-Cache方法，通过适应性缓存更新提升扩散LLM的解码效率和生成质量。

Comments Code at: https://github.com/VILA-Lab/Elastic-Cache

Accelerating Training Speed of Tiny Recursive Models with Curriculum Guided Adaptive Recursion

通过课程指导自适应递归加速小型递归模型的训练速度

Kaleem Ullah Qasim, Jiashu Zhang

机构 * School of Computing and Artificial Intelligence, Southwest Jiaotong University（计算机与人工智能学院，西南交通大学） 纠错

专题命中 代码生成 ：program synthesis(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 CGAR通过课程指导自适应递归方法，提升小型递归模型训练效率，实现加速训练和保持模型质量。

Toward Explaining Large Language Models in Software Engineering Tasks

向软件工程任务解释大型语言模型

Antonio Vitale, Khai-Nguyen Nguyen, Denys Poshyvanyk, Rocco Oliveto, Simone Scalabrino, Antonio Mastropaolo

机构 * University of Molise \& Politecnico di Torino Termoli Italy ； University of Molise Italy ； University of Molise \& Politecnico di Torino ； University of Molise 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI、cs.LG

AI总结 FeatureSHAP为软件工程任务提供首个自动化、模型无关的可解释性框架，通过Shapley值归因模型输出，提升代码生成和总结任务的解释性与准确性。

Automatic Detection of LLM-Generated Code: A Comparative Case Study of Contemporary Models Across Function and Class Granularities

大语言模型生成代码的自动检测：对当代模型在函数和类粒度上的比较案例研究

Musfiqur Rahman, SayedHassan Khatoonabadi, Ahmad Abdellatif, Emad Shihab

机构 * Concordia University（康科迪亚大学） ； University of Calgary（卡尔加里大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI、cs.LG

AI总结 本文通过比较四个大语言模型在函数和类粒度上的代码生成能力，发现粒度效应主导模型差异，且不同模型在不同粒度上的检测性能存在显著差异。

Comments Submitted to a journal for potential publication

EvoLattice: Persistent Internal-Population Evolution through Multi-Alternative Quality-Diversity Graph Representations for LLM-Guided Program Discovery

EvoLattice: 通过多替代质量-多样性图表示实现持久内部种群进化以指导LLM引导的程序发现

Kamer Ali Yuksel

专题命中 代码生成 ：program synthesis(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 EvoLattice通过多替代质量-多样性图表示实现持久内部种群进化，提升LLM引导程序发现的稳定性、表达力和改进轨迹

DreamPRM-Code: Function-as-Step Process Reward Model with Label Correction for LLM Coding

DreamPRM-Code: 一种基于函数作为步骤的进程奖励模型与标签校正用于LLM编码

Ruiyi Zhang, Peijia Qin, Qi Cao, Pengtao Xie

机构 * University of California, San Diego（加州大学圣迭戈分校） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 DreamPRM-Code通过链式函数提示策略和元学习校正机制，提升LLM在编码任务中的表现，达到LiveCodeBench的最高准确率

LLM as a Neural Architect: Controlled Generation of Image Captioning Models Under Strict API Contracts

将LLM作为神经架构：在严格API合同下控制生成图像描述模型

Krunal Jesani, Dmitry Ignatov, Radu Timofte

机构 * Computer Vision Lab, CAIDAS & IFI, University of Würzburg, Germany（计算机视觉实验室、CAIDAS与IFI、乌尔姆大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出了一种基于LLM的神经架构搜索方法，通过生成可运行的图像描述模型，展示了LLM在架构设计和超参数优化中的潜力。

Grammar-Aligned Decoding

语法对齐解码

Kanghee Park, Jiayu Wang, Taylor Berg-Kirkpatrick, Nadia Polikarpova, Loris D'Antoni

机构 * University of Wisconsin-Madison（威斯康星大学麦迪逊分校） ； University of California San Diego（加州大学圣地亚哥分校） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出语法对齐解码（GAD）方法，通过适应性采样与近似期望未来（ASAp）算法，提升语法约束下生成输出的质量和概率匹配度。

Comments Accepted to NeurIPS 2024

Chain of Unit-Physics: A Primitive-Centric Approach to Scientific Code Synthesis

单元物理链：一种以基础原理为中心的科学代码合成方法

Vansh Sharma, Venkat Raman

机构 * University of Michigan（密歇根大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI、cs.LG

AI总结 本研究提出单元物理链框架，通过以基础原理为中心的多代理系统，有效解决科学代码生成中的可靠性问题，实现高精度和高效能的代码生成。

Teaching Language Models to Critique via Reinforcement Learning

通过强化学习教学语言模型进行批评

Zhihui Xie, Jie Chen, Liyu Chen, Weichao Mao, Jingjing Xu, Lingpeng Kong

机构 * The University of Hong Kong（香港大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出CTRL框架，通过强化学习训练批评模型以提升代码生成的准确性和性能，实现迭代改进和误差缓解。

ORION: Teaching Language Models to Reason Efficiently in the Language of Thought

ORION：教语言模型以高效的方式在思维语言中推理

Kumar Tanmay, Kriti Aggarwal, Paul Pu Liang, Subhabrata Mukherjee

机构 * Harvard University（哈佛大学） ； Hippocratic AI（希波克拉底AI） ； Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 ORION通过SLPO优化实现高效压缩推理，提升推理效率和准确性，同时保持高精度。

The Devil in the Details: Emergent Misalignment, Format and Coherence in Open-Weights LLMs

细节中的魔鬼：开放权重语言模型中的涌现偏移、格式与连贯性

Craig Dickson

机构 * Independent Researcher（独立研究者） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文研究了开放权重语言模型中的涌现偏移现象，发现格式约束如JSON输出会增加偏移率，而Qwen-2.5系列比GPT-4o更抗压。

From Legacy Fortran to Portable Kokkos: An Autonomous Agentic AI Workflow

Sparsh Gupta, Kamalavasan Kamalakkannan, Maxim Moraru, Galen Shipman, Patrick Diehl

机构 * Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室） ； Franklin W. Olin College of Engineering（弗兰克林·W·奥林工程学院） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI、cs.LG

Comments 12 pages, 6 figures, 7 tables

Unintended Misalignment from Agentic Fine-Tuning: Risks and Mitigation

Dongyoon Hahm, Taywon Min, Woogyeol Jin, Kimin Lee

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Accepted at AAAI 2026 AI Alignment Track, Source code: https://github.com/HahmDY/agentic-ft-safety

Mitigating Overthinking in Large Reasoning Models via Manifold Steering

Yao Huang, Huanran Chen, Shouwei Ruan, Yichi Zhang, Xingxing Wei, Yinpeng Dong

机构 * Institute of Artificial Intelligence, Beihang University（北京航空航天大学人工智能研究院） ； College of AI, Tsinghua University（清华大学人工智能学院） ； Shanghai Qi Zhi Institute（上海启智研究所） ； State Key Laboratory of Virtual Reality Technology and Systems, Beihang University（北京航空航天大学虚拟现实技术与系统国家重点实验室） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments 19 pages, 7 figures

What You See Is Not Always What You Get: Evaluating GPT's Comprehension of Source Code

Jiawen Wen, Bangshuo Zhu, Huaming Chen

机构 * The University of Sydney（悉尼大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI、cs.LG

Comments This work has been accepted at APSEC 2025