大模型推理能力

Integrating Chain-of-Thought and Retrieval Augmented Generation Enhances Rare Disease Diagnosis from Clinical Notes

将链式思维与检索增强生成相结合增强了从临床笔记中诊断罕见疾病的性能

Zhanliang Wang, Da Wu, Quan Nguyen, Kai Wang

专题命中 其他推理 ：CoT(summary_cn,abstract)；chain-of-thought(title,abstract)；reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出RAG驱动的CoT和CoT驱动的RAG方法，通过结合链式思维与检索增强生成，提升从临床笔记中诊断罕见疾病的性能。

Track, Rank, Crack: Epistemic Working Memory Scales Multi-Hop Reasoning in Language Agents

追踪、排序、决断：认知工作记忆对语言智能体中的多跳推理进行衡量

Ning Liu

专题命中 其他推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究语言智能体多跳推理链变长性能下降问题，提出SLEUTH方法通过结构化认知工作记忆提升推理，经实验优势随难度增加，还发现证据充分性问题及解决办法，表明组织推理方式是扩展多跳推理关键。

Invariant Learning Dynamics of Transformers in Inductive Reasoning Tasks

归纳推理任务中Transformer的不变学习动态

Tiberiu Musat, Tiago Pimentel, Nicolas Zucchet, Thomas Hofmann

机构 * ETH Zurich（苏黎世联邦理工学院） ； Stanford（斯坦福大学） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 该研究提出理论框架解释Transformer语言模型归纳推理能力，研究广义归纳任务，证明其训练动态可限制在低维不变流形，刻画数据统计对学习竞争的影响，探讨初始化作用并展示坐标框架用途，向Transformer学习预测理论迈进。

DRIFTLENS: Measuring Memory-Induced Reasoning Drift in Personalized Language Models

DRIFTLENS: 测量个性化语言模型中记忆引发的推理漂移

Xi Fang, Weijie Xu, Yingqiang Ge, Yuhui Xu, Stephanie Eckman, Chandan K. Reddy

机构 * Amazon（亚马逊） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 提出DRIFTLENS框架，通过将推理步骤映射到价值类别并比较有无用户属性记忆的轨迹，量化个性化语言模型中的推理漂移，发现记忆会引发中等至大的推理变化，且现有后训练方法仅部分缓解。

Comments 10 pages, 5 figures

When is LLM-Based Program Reasoning Correct? A Completion Semantics for LLM-Based Code Inference

基于大语言模型的程序推理何时正确？基于大语言模型的代码推理的补全语义

Zhiyuan Liu, Yihe Li, Trevor E. Carlson, Huiyan Wang, Ruijie Meng, Gregory J. Duck

专题命中 其他推理 ：reasoning(title,abstract)

AI总结 研究基于大语言模型的程序推理何时正确，引入补全语义，将不完整程序形式化，定义存在性推理正确性。以见证生成工作流程实例化方法，在真实任务上评估，能区分合理与不合理推理，为验证不完整程序推理提供实用机制。

Comments 28 pages, 4 figures, 3 tables

NRR-Phi: A Typed External Text-to-State Interface and Update Contract for Inspectable Ambiguity-State Maintenance

NRR-Phi：LLM推理中为保持歧义性的文本到状态映射

Kei Saito

机构 * Independent Researcher, Japan（日本独立研究员） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出NRR-Phi框架，通过文本到状态映射保留多解释性，在LLM推理中延迟语义坍缩。

Comments 30 pages, 5 figures, 8 tables. Replacement synced to the current GitHub repository snapshot. Series hub: https://github.com/kei-saito-research/nrr-series-hub

Less Experts, Faster Decoding: Cost-Aware Speculative Decoding for Mixture-of-Experts

更少专家，更快解码：用于专家混合模型的成本感知推测解码

Jincheng Xie, Runheng Liu, Heyan Huang, Yawen Ling, Hanbin Dai, Yu Zheng, Wen Hu

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对大规模专家混合模型推理效率受专家激活模式影响的问题，提出成本感知推测解码框架EcoSpec，通过纳入预测的边际专家激活成本进行草稿选择，在多个模型和基准测试中减少活跃专家足迹、提高解码速度。

Language Identification with Succinct Machine-Independent Traces

基于简洁的与机器无关的迹进行语言识别

Moses Charikar, Jon Kleinberg, Chirag Pabbaraju

机构 * Stanford University（斯坦福大学） ； Cornell University（康奈尔大学） 纠错

专题命中 其他推理 ：chain-of-thought(abstract)；分类 cs.CL、cs.LG

AI总结 本文受大语言模型启发，针对语言识别的Gold-Angluin模型相关问题，解决能否用小字母表迹及能否直接从语言定义迹的问题，给出肯定答案，展示了如何定义计算迹实现极限识别，所用字母表与语言定义字母表大小成线性关系且与语言其他属性无关。

Knowledgeless Language Models: Suppressing Parametric Recall for Evidence-Grounded Language Modeling

无知识语言模型：抑制参数化记忆以进行基于证据的语言建模

Roi Cohen, Yvan Carré, Nick Lechtenbörger, Hendrik Droste, Lucas Kerschke, Russa Biswas, Gerard de Melo, Jan Buys

机构 * HPI / University of Potsdam（波茨坦大学哈索·普拉特纳数字工程学院） ； African Institute for Mathematical Sciences（非洲数学科学研究所） ； Department of Computer Science Aalborg University（奥尔堡大学计算机科学系） ； Department of Computer Science University of Cape Town（开普敦大学计算机科学系） ； Polytechnique Montréal（蒙特利尔理工大学） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL

AI总结 研究修改预训练信号能否使语言模型从参数化记忆转向基于证据的推理，引入无知识语言模型（KLLMs），其在命名实体匿名化语料库上预训练，实验表明能降低闭卷事实记忆，在多任务基准上表现优，提升鲁棒性与校准，为语言模型训练提供新思路。

Toward Trustworthy Autonomous Science: A Two-Year Community Roadmap

迈向可信自主科学：两年社区路线图

Rafael Ferreira da Silva, Milad Abolhasani, Peter Beaucage, Laura Biven, Michael Bussmann, Kyle Chard, Ryan Coffee, Stephen DeWitt, Sagar Dolas, Carrie Eckert, David Elbert, Ian Foster, Tirthankar Ghosal, Anna Giannakou, Tom Gibbs, Leslie Hamilton, Glenn Lockwood, Theresa Mayer, Ben Mintz, Raffi Nazikian, Sal Nimer, Amanda Randles, Woong Shin, Sreenivas Rangan Sukumar, Frédéric Suter, Mitra Taheri, Michela Taufer, Draguna Vrabie

机构 * U.S. Department of Energy, Office of Science, Office of Advanced Scientific Computing Research（美国能源部科学办公室高级科学计算研究办公室） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.AI

AI总结 该研究针对自主科学领域发展现状及问题，更新路线图围绕七个维度，评估原有里程碑并新增四个，规划两年发展路径，第一年聚焦接口等搭建验证框架，第二年针对联盟等，强调基层网络的互操作性。

Aïra: Rethinking AI Research Assistants for Interdisciplinary Science

Aïra：重新思考面向跨学科科学的人工智能研究助手

Diya Mirji, Tiffany Degbotse, Sharmil Nanjappa, Jiayi Zhou, Vishnu Manoj, Vihaan Nama, Boyuan Chen, Lee Tiedrich, Christopher Bail, David W. Johnston, Walter Sinnott-Armstrong, Brinnae Bent

专题命中 其他推理 ：reasoning(abstract)

AI总结 针对跨学科科学中人工智能研究助手缺乏协作推理支持的问题，提出构建Aïra，它能识别学科观点、翻译术语等，介绍了其设计原则、系统架构，展示输出并给出支持协作学术的人工智能系统未来研究方向。