大模型推理能力

Compile to Compress: Boosting Formal Theorem Provers by Compiler Outputs

编译以压缩：通过编译器输出提升形式定理证明器

Guchan Li, Rui Tian, Hongning Wang

机构 * Department of Computer Science and Technology, Tsinghua University, Beijing, China（清华大学计算机科学与技术系） 纠错

专题命中 代码与定理证明 ：reasoning(abstract)；test-time compute(abstract)；verifier(abstract)；分类 cs.AI、cs.LG

AI总结 利用编译器将大量证明尝试压缩为结构化失败模式，提出一种学习-精炼框架，通过树搜索基于验证器反馈局部修正错误，在可比测试时预算下在PutnamBench上达到最先进性能。

Learning to Reason with Insight for Informal Theorem Proving

学习在非形式定理证明中进行洞察推理

Yunhe Li, Hao Shi, Bowen Deng, Wei Wang, Mengzhe Ruan, Hanxu Hou, Zhongxiang Dai, Siyang Gao, Chao Wang, Shuang Qiu, Linqi Song

机构 * City University of Hong Kong（香港城市大学） ； Tsinghua University（清华大学） ； Ke Holdings Inc.（Ke控股公司） ； Shenzhen University of Advanced Technology（深圳先进技术大学） ； Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） 纠错

专题命中 代码与定理证明 ：reasoning(abstract)；planning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 针对非形式定理证明中缺乏洞察（识别核心技巧）的瓶颈，提出统一训练框架DeepInsight，通过分层数据集、渐进式多阶段SFT和基于洞察的策略优化方法，显著提升大语言模型的数学推理能力。

LLMs Lean on Priors, Not Programming Language Semantics

LLMs 依赖先验而非编程语言语义

Aditya Thimmaiah, Jiyang Zhang, Jayanth Srinivasa, Junyi Jessy Li, Milos Gligoric

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） ； Cisco Research（思科研究） 纠错

专题命中 代码与定理证明 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 通过 PLSemanticsBench 基准测试，发现前沿大语言模型在程序执行任务中依赖预训练统计规律而非形式语义规则，语义变异和结构复杂度导致准确率大幅下降。

Comments Accepted at ICML 2026

Fighting Numerical Hallucinations via Data-centric Compilation for Online Financial QA

通过数据为中心的编译对抗在线金融问答中的数值幻觉

Hao Chen, Xing Tang, Qirui Liu, Weijie Shi, Shiwei Li, Fuyuan Lyu, Weihong Luo, Xiku Du, Xiuqiang He

机构 * Shenzhen Technology University（深圳科技大学） ； FiT, Tencent（腾讯金融科技部） ； South China University of Technology（华南理工大学） ； The Hong Kong University of Science and Technology（香港科学与技术大学） ； Huazhong University of Science and Technology（华中科技大学） ； McGill University（麦吉尔大学） 纠错

专题命中 代码与定理证明 ：reasoning(abstract)；分类 cs.AI

AI总结 提出数据为中心推理编译器（DCRC），通过对抗数据构建、多阶段训练和编译执行推理流程，解决在线金融问答中检索增强生成面临的噪声敏感、计算脆弱和可审计性危机，实现可靠的数值推理。

Comments Accepted by KDD 2026 ADS track

Automating Formal Verification with Reinforcement Learning and Recursive Inference

用强化学习和递归推理自动化形式验证

Max Tan

机构 * Department of Electrical Engineering and Computer Science（电气工程与计算机科学系） ； Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 代码与定理证明 ：verifier(abstract)；分类 cs.LG

AI总结 研究通过可验证奖励的强化学习和验证器引导的推理搜索，提升大语言模型生成验证程序和证明的能力，在Dafny和Lean上取得显著进展。

Comments Master's thesis, 140 pages, 16 figures, 17 tables

Distilling LLM Feedback for Lean Theorem Proving

蒸馏LLM反馈用于Lean定理证明

Gaetan Narozniak, Gérard Biau, Rémi Munos, Ahmad Rammal, Pierre Marion

机构 * FAIR at Meta（Meta 的 FAIR 部门） ； Inria（法国国家科学与技术研究院） ； Sorbonne Université（索邦大学） ； Institut universitaire de France（法国国家科学研究院） ； CERMICS École des Ponts ParisTech（巴黎理工学院 CERMICS 实验室） ； ENS, PSL Research University（巴黎高等师范学院与巴黎科学实验室） 纠错

专题命中 代码与定理证明 ：reasoning(abstract)；分类 cs.AI

AI总结 提出反馈蒸馏方法，通过让模型在token级别匹配自身分布（基于语言模型提供的特权反馈）来训练，以解决GRPO在推理后训练中的稀疏奖励和模式崩溃问题，并在Lean4定理证明中取得更好效果。

Neuroforger: certified violation witnesses for smart contracts verification via LLMs

Neuroforger: 通过大语言模型为智能合约验证生成认证违规见证

Massimo Bartoletti, Enrico Lipparini

专题命中 代码与定理证明 ：reasoning(abstract)

AI总结 针对自然语言属性歧义和LLM回答无正确性保证的问题，提出一种结合LLM、类型检查和具体执行的工作流，通过引入扩展Solidity的抽象类型形式规范语言，生成并验证违规见证（反例）。