代码大模型 / AI 编程

Do Uncertainty Signals Help? A Systematic Study of Uncertainty-Aware Decoding with Rollback Mechanisms

不确定信号是否有用？对带有回滚机制的不确定感知解码的系统研究

Xianzong Wu, Xiaohong Li, Yuejun Guo, Xinyang Liu, Tianlin Li, Junjie Wang, Qiang Hu

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 本文通过系统研究带有回滚机制的不确定感知解码，发现其可提升代码LLM的生成性能，其中token熵等信息论不确定信号效果最优，反馈引导的回滚是主要改进来源。

Aletheia: What Makes RLVR For Code Verifiers Tick?

Aletheia: 什么使得代码验证器的RLVR有效？

Vatsal Venkatkrishna, Indraneil Paul, Iryna Gurevych

机构 * INSAIT, Sofia University "St. Kliment Ohridski", Bulgaria（保加利亚索菲亚大学INSAIT实验室） ； Ubiquitous Knowledge Processing Lab (UKP Lab), Department of Computer Science, Technical University of Darmstadt and National Research Center for Applied Cybersecurity（德累斯顿技术大学计算机科学系及应用网络安全国家研究中心通用知识处理实验室） ； ATHENE, Germany（德国ATHENE研究院） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI

AI总结 通过消融实验研究RLVR训练代码验证器时，中间思考轨迹、负样本学习和策略内训练三个因素在不同规模下的性能-成本权衡，发现最优配方依赖于模型规模。

Training-Free Knowledge Transfer Across Model Scales through Activation-Guided Pruning

通过激活引导剪枝实现跨模型规模的无训练知识迁移

Jiahe Fan, Si Chen, Yinghao Hou, Aiyuan Zhang, Hong Xie

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出激活剪枝融合框架APM，通过激活引导选择源模型的显著组件并注入目标模型，无需训练和显式语义对齐，在16个基准上将3B目标模型平均准确率从55.5%提升至60.6%。

Comments 9 pages, 3 figures, and 7 tables

KBSpec: LLM-driven Formal Specification Generation with Evolving Domain Knowledge Base

KBSpec：基于演化领域知识库的LLM驱动形式化规约生成

Wenhan Wang, Zeyu Sun

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.PL

AI总结 提出KBSpec方法，利用外部官方文档和内部验证器反馈的双源知识增强LLM，通过自演化知识库持续更新成功轨迹，无需调参或标注数据，在JML规约生成上验证通过率提升10-25%。

Latent On-Policy Self-Distillation

隐式在线策略自蒸馏

Guibin Zhang, Jiayang Lyu, Ran Sun, Xinlei Yu, Haoyu Zhao, Qibing Ren, Shuicheng Yan

机构 * Shanghai Jiao Tong University（上海交通大学） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.LG

AI总结 本研究提出隐式在线策略自蒸馏（LOPD），将教师的特权上下文改为端到端可学习，在智能体工具使用和代码生成任务上，以远低于对比方法的rollout预算实现了更优性能。

GCPO: Diagnosing and Constraining Subspace Geometry in Rollout RL for LLMs

GCPO：针对大语言模型的rollout强化学习中子空间几何的诊断与约束

Kai Yang, Jingwei Xu, Wanyu Wang, Kai-Yuan Guo, Zhenbo Yu, Yi Wang, Yu Qiao

机构 * Shanghai AI Lab（上海人工智能实验室） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 GCPO通过几何约束策略优化方法，诊断rollout强化学习的子空间几何问题，在大语言模型后训练中提升了多任务性能并解决了训练不稳定等问题

Comments 15 pages, 10 figures

Is This Your Final Answer? Cross-Contextual Consistency as a Measure of LLM Credibility

这是你的最终答案吗？跨上下文一致性作为大语言模型可信度的度量

Siyang Wu, Yibo Jiang, Bryon Aragam

机构 * University of Chicago（芝加哥大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI

AI总结 该研究提出用跨上下文一致性（C3）度量大语言模型可信度，通过对比26个模型在6个基准上的原始与扰动提示生成结果，发现C3可作为互补评估维度与基准有用性诊断工具。

On Solomonoff Induction in Large Language Models and the Limits of Self-Improving: The Singularity Is Not Near Without Symbolic Model Synthesis

在大型语言模型中自我改进的极限：没有符号模型合成，奇点并不临近

Hector Zenil

机构 * Algorithmic Dynamics Lab（算法动力实验室） ； Department of Biomedical Computing（生物医学计算系） ； School of Biomedical Engineering and Imaging Sciences（生物医学工程与成像科学学院） ； King’s Institute for AI（国王人工智能研究所） ； King’s College London（伦敦国王学院） ； Oxford Immune Algorithmics（牛津免疫算法公司） ； Oxford University Innovation（牛津大学创新中心） ； London Institute for Healthcare Engineering（伦敦医疗工程研究所） 纠错

专题命中 代码生成 ：program synthesis(abstract)；分类 cs.AI、cs.LG

AI总结 研究指出大型语言模型在缺乏外部信号时自我改进会退化，提出神经符号整合方法以突破这一限制。

Comments 31 pages. Update: DPI and Levin's non-growth is not violated explanation when it comes to finite learners

Consilience for Verifier-Free Test-Time Scaling

无验证器的测试时扩展的一致性方法

Lecheng Kong, Like Hui, Haitao Mao, Jun Huan

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.LG

AI总结 本文针对现有基于置信度的无验证器测试时扩展（VF-TTS）方法在复杂任务上失效的问题，提出一致性（consilience）框架，通过评估置信度时间不对称性提升LLM推理性能，在数学和代码生成任务上优于基线。

WDL-OPD: Weak-Driven On-Policy Distillation via Mixture-Constrained Co-Training

WDL-OPD：基于混合约束协同训练的弱驱动在线策略蒸馏

Zehao Chen, Gongxun Li, Tianxiang Ai, Yifei Li, Zixuan Huang, Wang Zhou, Tao Huang, Fuzhen Zhuang, Xianglong Liu, Jianxin Li, Deqing Wang, Yikun Ban

机构 * Beihang University（北京航空航天大学） ； China Telecom eSurfing Cloud（中国电信天翼云） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 该研究提出WDL-OPD混合约束协同训练方法，在Qwen3 17亿和40亿参数实验中，于四个规模-领域设置里获最强学生检查点，提升MATH500准确率，稳定代码生成表现，支持稳定性假设。

Proxy OPD: On-Policy Distillation with Transferable Relative Proxy Update

代理探索与可重用引导：基于代理引导更新信号的模块化大语言模型训练后范式

Daocheng Fu, Rong Wu, Yu Yang, Jianbiao Mei, Licheng Wen, Pinlong Cai, Xuemeng Yang, Yong Liu, Botian Shi, Yu Qiao

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对大语言模型训练后优化信号耦合问题，提出PUST框架，通过代理模型探索、提取并传输相对改进信号，解耦更新信号探索与分布对齐，减少计算开销，支持异步处理与跨模型转移，提升训练后范式的模块化、可重用性与效率。

Themis: Training Robust Multilingual Code Reward Models for Flexible Multi-Criteria Scoring

Themis: 训练鲁棒的多语言代码奖励模型以实现灵活的多标准评分

Indraneil Paul, Goran Glavaš, Iryna Gurevych

机构 * UKP Lab, TU Darmstadt and National Research Center for Applied Cybersecurity ATHENE（UKP实验室，德累斯顿理工大学及应用网络安全国家研究中心ATHENE） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.LG

AI总结 本文提出Themis-CodeRewardBench基准，评估多语言多标准代码奖励模型，训练了Themis-RM系列模型，展示了其在多语言迁移和多标准训练中的优势。

StitchCUDA: An Automated Multi-Agents End-to-End GPU Programing Framework with Rubric-based Agentic Reinforcement Learning

StitchCUDA：一种基于规则的多智能体端到端GPU编程框架与基于代理的强化学习

Shiyang Li, Zijian Zhang, Winson Chen, Yuebo Luo, Mingyi Hong, Caiwen Ding

机构 * Department of Computer Science\&Engineering, University of Minnesota-Twin Cities, Minnesota, USA ； Department of Electrical Engineering, University of Minnesota-Twin Cities, Minnesota, USA 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.PL

AI总结 StitchCUDA通过基于规则的多智能体强化学习，实现了端到端GPU编程的高效生成与验证，显著提升了性能和准确性。

Contamination Means Overestimation? A Fine-Grained Empirical Study in Code Intelligence

重新审视数据污染在代码智能中的影响

Zhen Yang, Hongyi Lin, Yifan He, Junqi Wang, Zeyu Sun, Shuo Liu, Jie Xu, Pengpeng Wang, Zhongxing Yu, Qingyuan Liang

机构 * Shandong University（山东大学） ； Institute of Software, Chinese Academy of sciences（中国科学院软件研究所） ； City University of Hong Kong（香港城市大学） ； Columbia University（哥伦比亚大学） ； Peking University（北京大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI

AI总结 本文重新审视了数据污染对代码智能模型的影响，发现不同模型在不同污染场景下的表现差异显著，挑战了污染必然导致性能高估的传统观点。

Towards Assurance Closure in AI-Native Large-Scale Agile Software Development

面向AI原生大规模敏捷软件开发中的保证闭合

Ricardo Britto

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI

AI总结 针对AI原生大规模敏捷软件开发中保证推理机器可操作的缺口，提出基于共享语义保证层的高层架构及六项对应能力，以实现保证闭合。

CUDA-L1: Improving CUDA Optimization via Contrastive Reinforcement Learning

CUDA-L1: 通过对比强化学习提升CUDA优化

Xiaoya Li, Albert Wang, Guoyin Wang, Jiwei Li, Chris Shum

机构 * DeepReinforce Team（深强化团队） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 CUDA-L1通过对比强化学习提升CUDA优化，实现显著加速并展示出优化策略的可移植性和有效性。

Comments Accepted by ICLR 2026

IR2Solve: Structured Intermediate Representations for Cost-Efficient Optimization Autoformulation

IR2Solve：面向成本高效优化自动建模的结构化中间表示

Penglin Zhu, Linhai Zhang, Jungang Xu, Xinchi Wei, Xiuqi Wu

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI

AI总结 IR2Solve以结构化中间表示为核心构建优化自动建模流水线，仅用1次LLM语义调用，在保证目标函数正确性的同时大幅降低推理成本，性能优于Chain-of-Experts和SAC-Opt等系统。

Comments 17 pages, 3 figures, 13 tables

LEAP: Lean Environment-Feedback via Adaptive Pruning for Code RL in GPU Kernel Generation

LEAP：面向GPU内核生成的代码强化学习的自适应剪枝轻量环境反馈框架

Tankun Li, Zhi Chen, Yaohua Tang

机构 * Moore Threads（摩尔线程） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 LEAP是针对GPU内核生成的代码强化学习框架，通过难度条件剪枝与基于排名的奖励公式解决低级代码RL的信号稀疏性等问题，收敛更快且性能更优。

AdaMTP: An Adaptive Training Paradigm for Multi-Token Prediction

AdaMTP：一种面向多令牌预测的自适应训练范式

Ziqiang Cui, Han Shi, Bowei He, Yu Pan, Peiyang Liu, Shengyin Sun, Yankai Chen, Haoli Bai, Yichun Yin, Xue Liu, Chen Ma

机构 * City University of Hong Kong（香港城市大学） ； Huawei Technologies（华为技术有限公司） ； Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； McGill University（麦吉尔大学） ； Peking University（北京大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI

AI总结 AdaMTP是适配序列内在可预测性的自适应MTP训练范式，通过熵算法划分语义边界抑制噪声梯度，在三类主干模型的多任务基准中均优于标准MTP，兼具性能与推理速度优势。

Specula: Scaling formal specifications for autonomous model checking of system code

Specula：扩展用于系统代码自主模型检查的形式规范

Qian Cheng, Saad Mohammad Rafid Pial, Ruize Tang, Yiming Su, Emilie Ma, Finn Hackett, Ivan Beschastnikh, Yu Huang, Tianyin Xu

专题命中 代码生成 ：coding agent(abstract)；分类 cs.SE、cs.AI

AI总结 Specula利用大语言模型编码代理为系统代码生成形式规范，通过自我进化循环解决LLM技术局限，实现自主模型检查，应用于48个开源项目发现众多错误，消除形式方法应用障碍，助力系统代码验证。

Comments 17 pages, 11 figures

ECHO: Prune To Act, Trace To Learn With Selective Turn Memory In Agentic RL

ECHO: 在智能体强化学习中通过选择性回合记忆进行剪枝行动与追踪学习

Zijun Xie, Binbin Zheng, Enlei Gong, Jihua Liu, Yuyang You, Lingfeng Liu, Jiayao Tang, Guanqun Zhao, Aoqi Hu, Zeyu Chen

机构 * School of Mathematical Sciences, Peking University（北京大学数学科学学院） ； Baidu Inc.（百度公司） ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 提出ECHO框架，通过选择性回合记忆和源索引重建解决长程智能体强化学习中的历史崩溃与可追踪学习问题，在BrowseComp-Plus上达到43.4%准确率，优于GRPO和SUPO。

CARE: Context-Aware Ranking Evolution with Executable Scoring Programs for Budgeted Reaction Optimization

CARE：通过科学实验中的可审计证据审查控制LLM生成的策略

Guanyu Liu, Weiyi Kong, Chao Tang, Zeyu Wang, Boer Zhang, Baiqing Li, Peiyu Zhang, Tianyu Shi

机构 * University of Macau（澳门大学） ； University of Toronto（多伦多大学） ； UCLA（加州大学洛杉矶分校） ； Harvard University（哈佛大学） ； XtalPi（晶泰科技） ； McGill University（麦吉尔大学） 纠错

专题命中 代码生成 ：program synthesis(abstract)；分类 cs.AI、cs.LG

AI总结 提出CARE框架，通过可审计的干预门控机制，在保留非LLM优化器作为默认路径的同时，利用LLM修正挑战者排序策略，显著提升高通量实验优化性能。

Comments 27 pages, 5 figures. Code: https://github.com/SHITIANYU-hue/care

Kernel Foundry: A Diagnosis-driven Evolutionary Kernel Optimizer with Multi-Experts

Kernel Foundry：一种基于诊断的多专家进化内核优化器

Zixuan Huang, Da Chen, Kecheng Huang, Lihao Yin, Xing Li, Huiling Zhen, Mingxuan Yuan, Zili Shao

机构 * The Chinese University of Hong Kong（香港中文大学） ； Noah’s Ark Lab, Huawei Hong Kong（华为香港诺亚实验室） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.LG

AI总结 提出Kernel Foundry，一种结合专家引导初始化、多岛进化搜索和结构化诊断反馈的自动GPU内核优化框架，显著提升正确性和性能。

Syntax Without Semantics: Teaching Large Language Models to Code in an Unseen Language

无语义的语法：教大语言模型在未见过的语言中编程

Vinayshekhar Bannihatti Kumar, Disha Makhija, Manoj Ghuhan Arivazhagan, Rashmi Gangadharaiah

机构 * AWS AI Labs（AWS人工智能实验室） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.LG

AI总结 研究探讨大语言模型在未见过的语言中生成代码的能力，发现微调仅能教授语法而无法转移语义能力，揭示了推理与语言实现之间的鸿沟。

Comments Accepted at COLM 2026

SAF-OPD: Stable Advantage Fusion for On-Policy Distillation

SAF-OPD：面向策略内蒸馏的稳定优势融合

Yifan Ding, Xincheng Wei, Yoshua Y. Li, Ziheng Li, Yuquan Lu, Siyu Zhang, Dongsheng Ma, Rongxiang Weng, Xunliang Cai, Yun Chen

机构 * Shanghai University of Finance and Economics（上海财经大学） ； Meituan（美团） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Peking University（北京大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 该研究提出SAF框架解决RLVR与OPD固定系数融合的熵崩溃问题，通过四阶段机制优化优势融合，在7个推理与代码生成基准上提升模型性能与训练稳定性。

Comments Working in progress

Wrong Code, Right Structure: Learning Netlist Representations from Imperfect LLM-Generated RTL

错误代码，正确结构：从不完美的LLM生成RTL学习网表表示

Siyang Cai, Cangyuan Li, Haoyu Gao, Kun Wang, Yinhe Han, Ying Wang

机构 * CICS, Institute of Computing Technology, Chinese Academy of Sciences（计算技术研究所，中国科学院） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出利用不完美的LLM生成RTL进行网表表示学习，通过数据增强和端到端流程，提升电路分析任务的性能。

EvoPINN: Agentic Discovery of Executable Algorithms for Physics-Informed Neural Networks

EvoPINN：面向物理信息神经网络可执行算法的智能体式发现框架

Peng Yin, Kai Li, Yifan Zhang, Jian Cheng

机构 * School of Advanced Interdisciplinary Sciences, University of Chinese Academy of Sciences（中国科学院大学先进交叉科学学院） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 EvoPINN是智能体式框架，将PINN开发转化为基于执行的算法发现，通过LLM智能体迭代优化，自主发明SLRC-PINN，可显著降低PDE求解的相对L₂误差，为科学计算提供新机制。

Progress in Benchmarking Generics for Mathematical Computation

数学计算泛型基准测试的进展

Daniel Pang, Stephen M. Watt

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.PL

AI总结 该研究推出SciGMark 1.5基准，对比Rust等语言的泛型与专用实现，扩展了符号计算相关测试，揭示泛型编程成本与类型解析时机等因素相关，为泛型性能优化提供依据。

Think Short, Defer Smart, Act, and Repeat: Calibrated Reasoning and Uncertainty-Aware Deferral for Edge LLM Agents

短思考、智能延迟、行动与循环：面向边缘大语言模型智能体的校准推理与感知不确定性的延迟机制

Amirmohammad Farzaneh, Osvaldo Simeone

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 该研究提出TSDS框架，结合收敛探测器与困惑度延迟规则，经LTT流程校准后，可在边缘LLM智能体上减少43%-73%的思考计算量，同时保证奖励与云端调用率，在多类基准任务上表现优异。

REGEN: Replay-recycling for Expert-to-Generalist distillation with Offline Reinforcement Learning

REGEN：用于从专家到通用模型蒸馏的离线强化学习的重放回收

Yunjie Chen, Xiaoxin Chen, Fang Wang

机构 * vivo AI Lab（vivo人工智能实验室） ； Department of Computer Science, Sun Yat-Sen University（中山大学计算机科学系） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 针对大语言模型强化学习扩展的挑战，提出REGEN方法，通过回收重放记忆并运用离线强化学习算法训练通用模型，解耦训练过程，降低成本，在多任务上以低成本达类似准确率，还可能变革在线强化学习及扩展训练阶段。