代码大模型 / AI 编程

Train Large, Deploy Compact: Structured Compression for Compact Low-Rank Adaptation

大模型训练，紧凑部署：用于紧凑低秩适配的结构化压缩

Xin Yu, Cong Xie, Xunmei Liu, Tiantian Fan, Lingzhou Xue, Zhi Zhang

机构 * The Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 该研究针对LoRA表征能力不足的问题，提出PrunedLoRA框架，通过动态结构化剪枝实现自适应秩分配，在多项微调任务中性能优于LoRA及其变体和现有结构化剪枝方法。

SecDrift: Measuring Sector-Conditioned Security Drift in AI-Generated Code

SecDrift：测量人工智能生成代码中特定领域条件下的安全漂移

Narayanaswami Natraj Bharadwaj, Dhivya Chandramouleeswaran

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.LG

AI总结 研究大语言模型在关键基础设施代码生成中特定领域提示的安全效果，提出SecDrift基准，通过多模型多领域评估发现行业提示安全优势不显著，模型选择影响大，强调模型选择是更可靠的安全杠杆并开源相关内容。

Comments 11 pages, 3 figures

TopoFE: topology-aware LLM-guided Automated Feature Engineering

TopoFE：拓扑感知的大语言模型引导的自动特征工程

Sha Li, Naren Ramakrishnan

机构 * Virginia Tech（弗吉尼亚理工大学） 纠错

专题命中 代码生成 ：program synthesis(abstract)；分类 cs.AI、cs.LG

AI总结 研究表格学习中自动特征工程问题，提出拓扑感知多岛进化框架TOPOFE，结合特定族探索、自适应提示记忆和拓扑引导知识转移，在多个公共数据集实验中，相比现有方法有改进，能发现更多样可转移特征程序。

H$^2$SD: Hybrid Hindsight Self-Distillation

H$^2$SD：混合事后自蒸馏

Qiye Cai, Yichuan Ma, Peiji Li, Yongkang Chen, Qipeng Guo, Yicheng Zou, Linyang Li, Xiaocheng Feng, Bing Qin

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Harbin Institute of Technology（哈尔滨工业大学） ； Fudan University（复旦大学） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.LG

AI总结 研究针对强化学习中奖励监督问题，提出 H$^2$SD 混合事后自蒸馏框架。成功轨迹用教师概率调更新幅度，失败轨迹基于参考提示调整教师并最小化反向 KL 散度，实验表明该框架优于基线，能稳定优化且效率良好。

Enhancing SLMs for Sustainable Code Optimization in Radio-Astronomy

增强小型语言模型以实现射电天文学中的可持续代码优化

Elisa Chiarotto, Jingbo Li, P. Chris Broekema, Rob V. van Nieuwpoort

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI

AI总结 研究利用小型语言模型（SLMs）优化射电天文学代码，通过多采样生成策略和纳入编译器反馈两种方式增强SLMs，提高代码生成质量和性能，用更少计算资源匹配或超越大型单生成模型，且使所有测试模型持续改进。

Multi-turn RL with Structural and Performance Aware Rewards for CUDA Kernel Generation

用于 CUDA 内核生成的具有结构和性能感知奖励的多轮强化学习

Quazi Ishtiaque Mahmud, Nesreen K. Ahmed, Ali Jannesari

机构 * Iowa State University（爱荷华州立大学） ； Cisco AI Research（思科人工智能研究院） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对 CUDA 内核生成，提出 CudaPerf 框架，结合可验证执行奖励与结构代码感知奖励，分离线排序和在线训练两阶段，利用执行反馈迭代细化，通过实验证明其显著优于基线，在加速和正确性上有大幅提升。

WaveformQA: Benchmarking LLM Temporal Reasoning on Digital Waveforms

WaveformQA：对数字波形上的大语言模型时间推理进行基准测试

Yichuan Liu, Daniel Cummings, Nick Vadlamudi

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI

AI总结 研究大语言模型对数字波形的时间推理能力，提出开源问答基准WaveformQA，含360个不同难度问题，波形由开源设计生成。评估发现模型在简单查询有准确率，但复杂问题上因窗口限制等性能下降，JSON表示可提高准确率，框架支持扩展实验。

Comments 10 pages; abridged version published in IEEE International Conference on LLM-Aided Design (ICLAD), 2026

Scaling Closed-Loop Feature Channel Configuration with LLMs

使用大语言模型扩展闭环特征通道配置

Tolgay Atinc Uzun, Radu Timofte, Dmitry Ignatov

机构 * University of Würzburg（维尔茨堡大学） ； Computer Vision Lab, CAIDAS & IFI（计算机视觉实验室，CAIDAS与IFI） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 研究用大语言模型扩展闭环特征通道配置，将搜索设置扩展到每个微调周期250个候选网络，分析大量候选网络，发现准确率呈正线性趋势，参数效率提高，还揭示了架构规律，表明通道搜索信号可转移。

Comments 15 pages, 8 figures

Learn2Zinc: Fine-tuning Small Language Models for Text-to-Model Translation in MiniZinc

Learn2Zinc：微调小型语言模型以实现MiniZinc中的文本到模型翻译

Serdar Kadioglu, Karthik Uppuluri

机构 * AI Center of Excellence, Fidelity Investments（富达投资卓越人工智能中心） ； Department of Computer Science, Brown University（布朗大学计算机科学系） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对小型语言模型在MiniZinc文本到模型翻译的难题，提出跨模型错误引导方法，收集语法错误构建训练数据集微调模型，提升执行准确率至98%，虽语法可学但约束推理仍具挑战，且开源相关资源供后续研究。

Comments CP 2026 Workshop on LLMs meet Constraint Solving

Training Fast Robot Policies with Slow Foundation Models

用慢速基础模型训练快速机器人策略

Utsav Singh, Pramit Bhattacharyya, Vinay P. Namboodiri, Amrit Singh Bedi

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出VGRS方法，通过利用慢速基础模型训练快速机器人策略，结合LLM生成奖励与视觉分析诊断，提升机器人在复杂任务中的表现和部署效率。

An Analysis of Residual-Stream Geometry Across Transformer Depth

跨Transformer深度的残差流几何分析

Sunit Bhattacharya, Ravi Shankar Kolli

机构 * ProRata AI（ProRata人工智能公司） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 研究跨Transformer深度的残差流几何规律，提出以转换为中心的分析方法，通过相对位移等测量揭示规律，如相对位移与层有关、旋转幅度恒定等，构建了测量框架，表明深度曲线依赖模型且条件稳定。

Verify, Repair, Repeat, or Stop? Robust Stopping for Noisy Verify-Repair Loops in LLM Agents

验证、修复、重复还是停止？大语言模型代理中用于有噪声验证-修复循环的稳健停止方法

Yitao Wu, Si Shen, Rui Yang, Hong Peng, Bin Hu

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI

AI总结 研究大语言模型代理中验证-修复循环有噪声时缺乏停止原则的问题，提出VRR-Stop框架，通过四参数噪声模型和信念过滤估计有效性，依真实边际增益符号决策，配对VRR-Guard，提升了停止可靠性与真实有效性。

Comments 18 pages, 10 figures, 10 tables. Under review

OMAC: A Holistic Optimization Framework for LLM-Based Multi-Agent Collaboration

OMAC：一种面向基于大语言模型的多智能体协作的综合优化框架

Shijun Li, Hilaf Hasson, Joydeep Ghosh

机构 * Department of Electrical and Computer Engineering, The University of Texas at Austin, Austin, United States（得克萨斯大学奥斯汀分校电子与计算机工程系） ； Intuit AI Research, Mountain View, United States（Intuit AI研究） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出OMAC框架，通过五个关键优化维度提升基于大语言模型的多智能体系统性能，采用语义初始化器和对比比较器算法实现单维和多维联合优化。

Comments Accepted as a Oral paper at ICML 2026

NL2LOGIC: AST-Guided Translation of Natural Language into First-Order Logic with Large Language Models

NL2LOGIC: 基于抽象语法树的自然语言到一阶逻辑翻译框架

Rizky Ramadhana Putra, Raihan Sultan Pasha Basuki, Yutong Cheng, Peng Gao

机构 * Virginia Tech（弗吉尼亚理工大学） ； Universitas Ary Ginanjar（阿里·金纳jar大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI

AI总结 NL2LOGIC通过引入抽象语法树，结合递归大语言模型和生成器，实现了高准确性的自然语言到一阶逻辑转换，提升了逻辑求解的准确性和可执行性。

Comments Accepted to Findings of EACL 2026. 17 pages, 6 figures

Journal ref 2026.findings-eacl.317

LLM-Based Agentic Systems for Software Engineering: Challenges and Opportunities

基于大语言模型的代理系统在软件工程中的应用：挑战与机遇

Yongjian Tang, Thomas Runkler

机构 * Siemens AG（西门子股份公司） ； Technical University of Munich（慕尼黑技术大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI

AI总结 本文探讨了基于大语言模型的多代理系统在软件工程中的应用，分析了其挑战与未来研究方向。

Comments Accepted to GenSE 2026 workshop

Defining and Evaluating Physical Safety for Large Language Models

定义和评估大语言模型的物理安全性

Yung-Chen Tang, Pin-Yu Chen, Tsung-Yi Ho

机构 * The Chinese University of Hong Kong（香港中文大学） ； IBM Research（IBM研究院） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种无人机控制的全面基准，评估大语言模型在物理安全方面的风险与权衡，揭示了模型在安全性和实用性之间的不理想平衡。

Journal ref Communications of the ACM, 2026

Commenting with Copilot: A Taxonomy and Multi-Year Analysis of Student Code-Generation Specifications

使用Copilot进行注释：学生代码生成规范的分类法和多年分析

Nasser Giacaman, Valerio Terragni, Paul Denny, Viraj Kumar

机构 * University of Auckland（奥克兰大学） ； University of New South Wales（新南威尔士大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI

AI总结 研究人工智能代码工具融入编程环境下学生代码生成规范，通过分析四年数据集，引入涵盖注释类型、代码表达水平和代码结构的分类法，用自动分类研究维度变化及学生反思，发现学生注释特点及关注点。

Comments 7 pages, 2 figures, 2 tables. Accepted in the Proceedings of the 2nd ACM Virtual Global Computing Education Conference (SIGCSE Virtual 2026)

Reinforcement Learning with Verifiable Physics: Post-training LLMs with Continuous Rewards

具有可验证物理的强化学习：具有连续奖励的训练后语言模型

Pengfei Cai, Utkarsh Utkarsh, Alan Edelman, Christopher Vincent Rackauckas, Rafael Gomez-Bombarelli

机构 * Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对偏微分方程求解器代码生成，引入RLVP强化学习训练后框架，通过混合验证器解决可验证性问题，在多PDE族训练单个策略，优于基线且有零样本改进转移，训练后小LLM表现良好，策略有组合性证据。

The LLMbda Calculus: AI Agents, Conversations, and Information Flow

LLMlambda 计算：人工智能代理、对话与信息流

Zac Garby, Andrew D. Gordon, David Sands

机构 * University of Nottingham, UK（诺丁汉大学） ； University of Edinburgh, UK（爱丁堡大学） ； Chalmers University of Technology（查尔姆斯理工大学） ； The University of Gothenburg, Sweden（哥德堡大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.PL

AI总结 本文提出了一种无类型的lambda计算模型，用于形式化描述和验证人工智能代理中对话和信息流的安全性。

Large Language Models (LLMs) and Generative AI in Cybersecurity and Privacy: A Survey of Dual-Use Risks, AI-Generated Malware, Explainability, and Defensive Strategies

大型语言模型（LLMs）和生成式人工智能在网络安全与隐私中的应用：两用风险、人工智能生成的恶意软件、可解释性及防御策略综述

Kiarash Ahi, Saeed Valizadeh

机构 * Virelya Intelligence Research Labs（Virelya智能研究实验室） ； Google（谷歌） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI

AI总结 综述大型语言模型和生成式人工智能在网络安全中的应用，涵盖两用风险等多方面。通过回顾众多资料及实际案例研究，给出负责任部署建议与安全路线图，为应对人工智能驱动的网络安全挑战提供关键参考。

Comments Invited survey paper. 10 pages, 5 figures, 2 tables

Journal ref IEEE 6th Silicon Valley Cybersecurity Conference (SVCC), San Francisco, CA, USA, 2025, pp. 1-10

Cast a Wider Net: Coordinated Pass@K Policy Optimization for Code Reasoning

撒更宽的网：面向代码推理的协调 Pass@K 策略优化

Yilong Li, Suman Banerjee, Tong Che

机构 * University of Wisconsin–Madison（威斯康星大学麦迪逊分校） ； NVIDIA Research（英伟达研究） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI

AI总结 提出协调 Pass@K 策略优化 (CPPO)，通过规划器生成多种策略并协调求解器尝试，以解决代码生成中重复采样导致冗余推理路径的问题，在多个基准上显著提升 pass@4。

Comments Code reasoning; pass@K optimization; coordinated planning; verifiable rewards; strategy diversity

Mitigating Errors in LLM-Generated Web API Invocations via Retrieval-Augmented Generation and Constrained Decoding

通过检索增强生成和约束解码减轻大语言模型生成的Web API调用中的错误

Daniel Maninger, Leon Chemnitz, Jannis Brugger, Tushar Lamba, Amir Molzam Sharifloo, Mira Mezini

机构 * Technische Universität Darmstadt（德累斯顿技术大学） ； Hessian Center for Artificial Intelligence (hessian.AI)（黑森人工智能中心） ； Pariton AI ； National Research Center for Applied Cybersecurity ATHENE（应用网络安全国家研究中心ATHENE） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.LG

AI总结 研究如何减轻大语言模型生成的Web API调用错误，提出检索增强生成（RAG）和约束解码（CD）两种互补方法，设计相应技术细节，在合成和真实数据集上评估，结果显示RAG、CD各有优劣，能提升Web API调用代码正确性。

Comments 54 pages, 11 figures; supersedes arXiv:2509.20172v6, which is a discarded journal extension of our work

KAT-Coder-V2.5 Technical Report

KAT-Coder-V2.5技术报告

Bo Huang, Fengxiang Li, Hao Xu, Haoyang Huang, Hongyi Fu, Jinhua Hao, Kun Yuan, Minglei Zhang, Pengcheng Xu, Shiyang Liu, Wenhao Zhuang, Yuze Shi, Zongxian Feng, Chao Wang, Cheng He, Chongling Rao, Deyu Cao, Fan Yang, Gang Xiong, Haochen Liu, Jiabao Li, Jian Liang, Jinghui Jia, Jingwen Chang, Jun Du, Junyu Shi, Min Li, Mingqi Wu, Qiang Gao, Shangpeng Yan, Shaotong Qi, Shu Xu, Shuo Zhou, Tiankuo Xu, Tong Zheng, Weilun Zhao, Xiancheng Meng, Xianda Sun, Xiaoyu Jiang, Xunhao Jia, Yao Xia, Yimeng Xu, Yinghan Cui, Yingpeng Chen, Yiwen Ning, Yong Wang, Yuxuan Sun, Zhongsheng Liu, Ming Sun, Cheng Luo, Chen Yang, Han Li, Kun Gai

机构 * KwaiKAT Team（快手KwaiKAT团队） 纠错

专题命中 代码生成 ：repository(abstract)；分类 cs.SE、cs.AI

AI总结 介绍KAT-Coder-V2.5这一专注编码的智能模型，针对其受环境等因素限制的问题，通过端到端框架及多种技术手段解决，经多方法扩展强化学习并统一专家知识，在多个基准测试中取得优异成绩。

Comments 24 pages, 5 figures

dOPSD: On-Policy Self-Distillation for Diffusion Language Models

dOPSD：扩散语言模型的策略内自蒸馏

Phuong Tuan Dat, Qi Li, Xinchao Wang

机构 * National University of Singapore（新加坡国立大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI

AI总结 研究扩散语言模型强化推理难的问题，提出dOPSD，通过从学生去噪轨迹直接推导教师特权信息，实现策略内自蒸馏，提升模型在数学推理和代码生成等任务表现。

Builder, Defender, Breaker: The Case Against Removing the Human from the AI-Driven Security Lifecycle

构建者、防御者、破坏者：反对从人工智能驱动的安全生命周期中移除人类的理由

Mohamed Chahine Ghanem

机构 * School of Computer Science and Mathematics, Keele University（基尔大学计算机科学与数学学院） ； Cybersecurity Institute, University of Liverpool（利物浦大学网络安全研究所） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI

AI总结 探讨人工智能在安全生命周期中集多角色于一身的现象，指出移除人类会带来问题，基于多领域证据论证人类应是安全生命周期的永久结构要求，并阐述人机合理分工。

Comments 7 pages

Effectiveness of LLM-based Software Diversity for Reliability Improvement -- an Empirical Study

基于大语言模型的软件多样性对可靠性提升的有效性——一项实证研究

Gabriel Almeida, Ilir Gashi, Vladimir Stankovic, João R. Campos

机构 * University of Coimbra, CISUC/LASI（科英布拉大学，CISUC/LASI） ； Centre for Software Reliability（软件可靠性中心） ； Department of Informatics Engineering（信息工程系） ； Department of Computer Science（计算机科学系） ； City St George’s, University of London（伦敦城市圣乔治大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI

AI总结 研究大语言模型能否成为软件多样性的实用生成器及提升可靠性程度。通过扩展经典实证研究，对多种规范程序进行测试，探索大语言模型多样性多维度影响，结果表明其能助力可靠性提升。

Benchmarking API Drift in LLM-Generated Quantum Code Across Successive SDK Versions

跨连续软件开发工具包版本对大语言模型生成的量子代码中的 API 漂移进行基准测试

Mohammad Arif Rasyidi, Syahirul Faiz

机构 * Department of Computer Science（计算机科学系） ； Khalifa University（卡利法大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI

AI总结 研究大语言模型生成的量子代码能否可靠适配特定 SDK 版本（API 漂移问题），引入量子 API 漂移基准，以 Qiskit 为例评估 17 个模型，揭示版本对齐是量子代码生成评估新维度及 API 漂移恢复情况。

Focus Session: Hardware and Software Techniques for Accelerating Multimodal Foundation Models

聚焦会议：加速多模态基础模型的硬件和软件技术

Muhammad Shafique, Abdul Basit, Muhammad Abdullah Hanif, Alberto Marchisio, Rachmad Vidya Wicaksana Putra, Minghao Shao

机构 * eBRAIN Lab, New York University (NYU) Abu Dhabi（eBRAIN实验室，纽约大学（NYU）阿布扎比） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种多层方法，通过硬件和软件协同设计和优化流程，提升多模态基础模型的效率。方法包括混合精度量化、结构剪枝、推测解码等技术，结合硬件加速器优化计算和内存需求，验证了在医疗和代码生成任务中的有效性。

Comments Accepted at the Design, Automation and Test in Europe Conference (DATE), April 20-22, 2026 in Verona, Italy

Safe and Adaptive Cloud Healing: Verifying LLM-Generated Recovery Plans with a Neural-Symbolic World Model

安全且自适应的云修复：使用神经符号世界模型验证LLM生成的恢复计划

Junyan Tan, Haoran Lin, Siyuan Guo, Yichen Fang, Xinyue Luo, Tianyu Shen, Zeyu Qiao

机构 * Zhejiang University（浙江大学） 纠错

专题命中 代码生成 ：program synthesis(abstract)；分类 cs.CL、cs.AI

AI总结 提出PASE框架，将LLM作为规划引擎生成恢复计划，通过神经符号世界模型验证可行性，并利用DRL优化提示，实现动态自适应修复，显著降低恢复时间并提高未知故障检测精度。

Comments 13 pages

Is One Layer Enough? Training A Single Transformer Layer Can Match Full-Parameter RL Training

一层就够了吗？训练单个Transformer层可以匹配全参数RL训练

Zijian Zhang, Rizhen Hu, Athanasios Glentis, Dawei Li, Chung-Yiu Yau, Hongzhou Lin, Mingyi Hong

机构 * University of Minnesota（明尼苏达大学） ； Peking University（北京大学） ； Amazon（亚马逊） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.LG

AI总结 发现RL训练收益高度集中在少数Transformer层，仅训练单层即可恢复大部分全参数RL收益，且高贡献层集中在模型中部。