大模型推理能力

PARALLEL: A Prefrontal-Aligned Reinforcement inspired Approach for Language-Model Learning under Explicit Limits

PARALLEL：显式约束下语言模型学习的前额叶对齐强化启发式方法

Namkyung Yoon, Sanghong Kim, Hwangnam Kim

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 PARALLEL是一种前额叶对齐的强化启发式语言模型学习方法，通过分配样本相关更新强度提升适配效率，在多任务上保留高性能且适配轨迹更稳定，支持高效稳定的部署后流式适配。

Comments 8 pages, 3 figures, and 5 tables

ScalableRAG: High-Quality RAG at Zero Ingestion Cost

ScalableRAG：零摄入成本下的高质量检索增强生成

Hilaf Hasson, Aditya Chakravarty, Jayant Thomas, Krishna Gogineni

机构 * Cohesity（科赫思） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 研究提出零摄入成本的ScalableRAG及有限摄入的改进版本，通过维护工作区实现即时聚合推理，在六个语料库测试中表现出色，平均准确率大幅超越基线，还通过固定LLM调用次数等进一步提升大规模时的准确率。

MM-ShiftKV: Decode-Aware Prefill-Stage KV Selection for Multimodal Large Language Models

MM-ShiftKV：用于多模态大语言模型的解码感知预填充阶段键值选择

Jinsong Shu, Chenyang Wu, Zhongle Xie, Baokun Wang, Lidan Shou

机构 * Zhejiang University（浙江大学） ； Ant Group（蚂蚁集团） ； The State Key Laboratory of Blockchain and Data Security, Zhejiang University（浙江大学区块链与数据安全国家重点实验室） ； Hangzhou High-Tech Zone (Binjiang) Institute of Blockchain and Data Security（杭州高新技术产业开发区（滨江）区块链与数据安全研究院） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 研究多模态大语言模型中KV缓存问题，提出MM-ShiftKV方法，通过构建方差扩展查询代理近似解码时查询行为，基于聚合注意力质量估计KV重要性，在严格缓存预算下性能优于现有方法。

Comments 19 pages, 11 figures

Adaptive Depth Sparse Framework: Similarity-Driven Resource Allocation for Pre-Trained LLMs

自适应深度稀疏框架：基于相似性驱动的预训练语言模型资源分配

Yidu Wu, Xiang Wang, Kejie Zhao, Zhangchi Wang, Qinghai Guo, Xiaoying Tang

机构 * Southern University of Science and Technology（南方科技大学） ； Huawei Technologies Co., Ltd.（华为技术有限公司） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL、cs.LG

AI总结 研究针对预训练语言模型推理成本高的问题，提出自适应深度稀疏框架AdaDSF，基于层输入输出隐藏状态余弦相似性分配令牌保留率，用轻量级路由器选择信息令牌，在多任务中大幅降推理FLOPs且精度退化小。

Comments Accepted by ICIC 2026. 12 pages, 2 figures, 4 tables

Monkey King Bang: A Unified Scientific Multimodal Foundation Model

孙悟空爆炸：一个统一的科学多模态基础模型

Hesen Chen, Xinyu Su, Xiaomeng Yang, Yuetan Lin, Zixiong Yang, Junyi An, Fenglei Cao, Yifeng Jiao, Yunqi Zhang, Yuan Cheng, Zhiyu Tan, Hao Li, Libo Wu, Yuan Qi

机构 * Shanghai Academy of AI for Science（上海人工智能研究院） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对科学多领域推理需求，引入统一科学多模态模型MKB，围绕共享Transformer主干及定制组件构建，涵盖多科学分支。通过两阶段训练，在多方面实验表现出色，证明该范式可行，为跨领域科学多模态探索提供基础。

The Storyteller in the Model: Narrative Pattern Inheritance, Escalation Dynamics, and Alignment Governance in LLMs

模型中的讲述者：大语言模型中的叙事模式继承、升级动态和对齐治理

Adam Rigby, Raz Saremi, Azadeh Sohrabinejad, Mehdi Rahimi

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 探讨大语言模型训练中是否吸收人类写作叙事模式并致输出漂移，通过文献综述和跨论文分析发现三个关键模式，包括复制训练数据模式、出现潜在特征及微调带来意外变化，指出叙事漂移是未监测的升级途径，需专门监测工具。

Comments 2 figures, 11 pages

Rewarding Better Thinking for LLM Preference Alignment

奖励更好的思维以实现大语言模型偏好对齐

Xubo Liu, Wenya Guo, Ruxue Yan, Xinying Qian, Ying Zhang

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 研究大语言模型偏好对齐问题，提出思维清单奖励（TCR）方法，将偏好对转化为思维清单评估推理轨迹，引入EMA残差公式减少与结果监督重叠，实验证明该方法能提升对齐性能。

Comments under review

FedLSG: LLM-Enhanced Semantic Calibration for Federated Graph Backdoor Defense

FedLSG：用于联邦图后门防御的大语言模型增强语义校准

Chenyu Zhou, Yabin Peng, Wei Huang, Kunlin Li, Shuaishuai Zhang, Xinyuan Miao

机构 * Southeast University（东南大学） ； Purple Mountain Laboratories（紫金山实验室） ； Institute of AI for Industries（人工智能产业研究院） ； Chinese Academy of Sciences（中国科学院） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 针对联邦图神经网络易受后门攻击问题，提出FedLSG框架，将大语言模型集成防御，通过图与行为到文本的转换及轻量级师生架构，在不损图完整性时显著提升对后门攻击的抵抗力。

ISO: An RLVR-Native Optimization Stack

ISO：一种原生 RLVR 的优化栈

Hanqing Zhu, Wenyan Cong, Zhizhou Sha, Sagnik Mukherjee, Xinyuan Song, David González-Martínez, Xiaoxia Wu, Yuandong Tian, Shiwei Liu, David Z. Pan, Zhangyang "Atlas" Wang

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） ； UIUC（伊利诺伊大学香槟分校） ； Emory University（埃默里大学） ； Together AI（联合人工智能公司） ； Recursive Superintelligence Inc（递归超级智能公司） ； ELLIS Institute Tübingen（图宾根埃利斯研究所） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 研究 RLVR 中缺失的优化层，提出等谱优化（ISO）框架，包括离线的 ISO-Merger 和在线的 ISO-Optimizer。通过光谱继承，在推理和编码任务中，用更少训练步骤提高准确率，为 RLVR 优化层问题提供了具体解决方案。

Comments Preprint

For What Reason? Interpreting Models' Encoding of Causation and Antithesis

出于什么原因？解释模型对因果关系和对立关系的编码

Abhidip Bhattacharyya, Shira Wein

机构 * University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校） ； University of South Florida（南佛罗里达大学） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 研究指令微调的Transformer模型对英语话语关系的编码，聚焦因果和对立关系。通过下一个token预测任务及可解释性技术，发现早期层在序列中间做预测，中层接近末尾确定决策，部分层有答案偏好，揭示话语推理的不对称表示。

Attacking Graph Foundation Models Through Their Shared Representation

通过共享表示攻击图基础模型

Pankaj Kumar, Subhankar Mishra

专题命中 其他推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 研究通过攻击图基础模型的共享表示来探索其脆弱性，采用表示空间扰动和输入空间攻击等方法，针对六个公共模型进行实验，发现不同模型的脆弱性表现，如OpenGraph的频谱分词器有特定脆弱性，还分析了脆弱性与解码器读取表示的关系。

ToolSciVer: Multimodal Scientific Claim Verification with Visual Tool Augmented Reinforcement Learning

ToolSciVer：基于视觉工具增强强化学习的多模态科学声明验证

Binglin Zhou, Peng Shi, Ryo Kamoi, Nan Zhang, Rui Zhang

机构 * The Pennsylvania State University（宾夕法尼亚州立大学） ； University of Waterloo（滑铁卢大学） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 研究多模态科学声明验证问题，提出ToolSciVer框架，为视觉语言模型配备三种类型感知视觉工具，用组相对策略优化训练策略，实验证明该方法在多模型上性能优于竞争基线。

MAPS: Modeling Co-Existing Subjective Perspectives and Shared Meaning in Multi-Agent Cognitive Dialogue

MAPS：在多智能体认知对话中建模共存的主观视角和共享意义

Molood Arman, Clément Bonnafous

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对当前AI对话系统问题，提出MAPS框架，通过领域加权配置文件、动态GRU记忆和令牌级注意力，让智能体保持个性化推理并趋向共享意义，在多数据集评估中支持语义对齐且不损主观性，为可解释对话系统发展提供路径。

Less Experts, Faster Decoding: Cost-Aware Speculative Decoding for Mixture-of-Experts

更少专家，更快解码：用于专家混合模型的成本感知推测解码

Jincheng Xie, Runheng Liu, Heyan Huang, Yawen Ling, Hanbin Dai, Yu Zheng, Wen Hu

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对大规模专家混合模型推理效率受专家激活模式影响的问题，提出成本感知推测解码框架EcoSpec，通过纳入预测的边际专家激活成本进行草稿选择，在多个模型和基准测试中减少活跃专家足迹、提高解码速度。

Language Identification with Succinct Machine-Independent Traces

基于简洁的与机器无关的迹进行语言识别

Moses Charikar, Jon Kleinberg, Chirag Pabbaraju

机构 * Stanford University（斯坦福大学） ； Cornell University（康奈尔大学） 纠错

专题命中 其他推理 ：chain-of-thought(abstract)；分类 cs.CL、cs.LG

AI总结 本文受大语言模型启发，针对语言识别的Gold-Angluin模型相关问题，解决能否用小字母表迹及能否直接从语言定义迹的问题，给出肯定答案，展示了如何定义计算迹实现极限识别，所用字母表与语言定义字母表大小成线性关系且与语言其他属性无关。

MemDecay: Region-Aware KV Cache Eviction for Efficient LLM Agent Inference

MemDecay：用于高效大语言模型智能体推理的区域感知键值缓存逐出策略

Venkatesha Matam, Keon Kim

机构 * Independent Researcher（独立研究者） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 研究大语言模型智能体KV缓存内存瓶颈问题，提出无需训练的区域感知逐出策略MemDecay，为令牌分配特定区域优先级和衰减率，经实验验证该策略能有效管理缓存，确立语义提示结构对KV缓存管理的作用并明确其与关注重要性的结合方式。

Mach-Mind-4-Flash Technical Report

马赫思维-4-闪技术报告

Foundation Model Team

机构 * Li Auto Inc（理想汽车公司） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL、cs.LG

AI总结 马赫思维-4-闪是含3B激活参数的35B参数专家混合智能体模型，通过训练后优化及可扩展交互环境提升性能。其流程含三个阶段，在多个基准测试中成绩优异，以低推理成本领先或匹配数倍激活规模模型。

RSF-GLLM: Bridging the Semantic Gap in Multi-Hop Knowledge Graph QA via Recurrent Soft-Flow and Decoupled LLM Generation

RSF-GLLM：通过循环软流和去耦语言模型生成弥合多跳知识图谱问答中的语义鸿沟

Sambaran Bandyopadhyay, Ananth Muppidi

机构 * Adobe Research（Adobe研究院） ； Adobe Systems（Adobe系统公司） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 研究多跳知识图谱问答中传统方法的语义鸿沟问题，提出RSF-GLLM框架，通过循环软流模块传播分数、引入正则化保证收敛，提取路径微调LLM，实验证明该方法性能优且推理效率高。

Comments Accepted for publication in ICML 2026 as a full research paper; 21 pages

Most LLM Conformity Needs No Speaker: Measuring the Speaker-Free Floor in Peer-Pressure Benchmarks

大多数大语言模型的从众现象无需说话者：在同伴压力基准测试中测量无说话者底线

Yibo Hu, Jiaming Qu

机构 * Illinois Institute of Technology（伊利诺伊理工学院） ； Amazon（亚马逊） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 研究大语言模型从众现象，发现多数从众在去除同伴后仍存。因标准提示混杂线索致现有基准无法分辨。引入无来源条件测试，发现其在多数案例中致有害修正，还揭示来源框架对底线的调节作用及相关问题，强调从众基准测试应先测无说话者底线。

CCBENCH: Assessing LLM Cultural Competence via Implicitly Signaled Norms using Health Queries

CCBENCH：通过健康查询使用隐式信号规范评估大语言模型的文化能力

Vasudha Varadarajan, Akhila Yerukola, Mona T. Diab, Maarten Sap

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 其他推理 ：CoT(abstract)；分类 cs.CL、cs.AI

AI总结 该研究引入CCBENCH框架，以健康领域为案例创建CCBENCH-Health评估大语言模型文化能力。通过60个角色、3120次互动对五个领先模型进行基准测试，发现模型文化恰当回应比例低，提示关注文化线索能适度提升性能，还揭示了模型与文化线索互动的一些特点。

Comments 34 pages

TACTIC-KG: Toward Small Agent Teams for Cyber Threat Intelligence Knowledge Graph Construction

TACTIC-KG：面向网络威胁情报知识图谱构建的小型智能体团队

Mouhamed Amine Bouchiha, Gregory Blanc

机构 * SAMOVAR, Télécom SudParis, Institut Polytechnique de Paris（SAMOVAR， Telecom SudParis， Institute of Paris Polytechnic） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对网络威胁情报报告构建知识图谱的问题，提出TACTIC-KG框架，将任务分解给模块化专业语言模型智能体，用轻量级模型提升性能并降低成本，实验表明优于整体式模型。

Comments 20 pages, 2 figures, 10 tables

The Remarkable Effectiveness of Providing AI Agents with Natural Language Tools: A Replication Study Validating NLT Performance Across 14 Models

为人工智能智能体提供自然语言工具的显著有效性：一项在14个模型上验证自然语言工具性能的复制研究

Alexander Somma, Isabelle Plante, Fred Premji

机构 * Sage.is AI-UI（Sage.is人工智能用户界面） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 该研究独立复制并扩展了自然语言工具（NLT）框架，在14个模型和8560次试验中评估NLT，验证其效果，发现其能提升工具调用准确率、减少关键错误、降低令牌使用量，还证实模型能力对NLT优势有调节作用。

Comments 28 pages, 6 figures, replication study, replication of arXiv:2510.14453 findings

A Precedent-Guided Co-Scientist for Side-Effect-Aware Drug Redesign

一种用于副作用感知药物重新设计的先例引导协同科学家

Yujin Kim, Charmgil Hong

专题命中 其他推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 提出PRECEDE用于副作用感知药物重新设计，将重新设计视为基于证据的推理，由LLM编排，定位为人监督的科学工作流，可审核、证伪且受先前药理学限制。

Comments Accepted at the ICML 2026 Workshop on AI for Science

Neuron-Aware Active Few-Shot Learning for LLMs

面向大语言模型的神经元感知主动少样本学习

Zhuowei Chen, Liwei Chen, Christian Schunn, Raquel Coelho, Xiang Lorraine Li

机构 * University of Pittsburgh, USA（匹兹堡大学） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 提出NeuFS框架，利用神经元激活模式从模型内部动态选择最具价值的少样本示例，提升大语言模型在专业领域的适应性和性能。

Bayesian Sparse Low-Rank Adaptation for Large Language Model Uncertainty Estimation

贝叶斯稀疏低秩自适应用于大语言模型不确定性估计

Jijie Zhang, Zhe Ren, Quan Zhang, Dandan Guo

机构 * School of Artificial Intelligence, Jilin University（吉林大学人工智能学院） ； Michigan State University（密歇根州立大学） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL、cs.LG

AI总结 提出DALorRA，一种变分贝叶斯稀疏框架，通过随机掩码低秩适应中的秩维度实现模型容量正则化和校准，在不牺牲推理精度下提升LLM校准性能。

Comments Preprint. 16 pages, 7 figures, 6 tables

PARTREP: Learning What to Repeat for Decoder-only LLMs

PARTREP: 学习在仅解码器LLM中重复什么

Andikawati P Widjaja, Yongjun Kim, Hyounghun Kim, Jaeho Lee

机构 * Bandung Institute of Technology（万隆理工学院） ； Pohang University of Science and Technology（浦项科技大学） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL、cs.LG

AI总结 针对仅解码器LLM因果注意力导致的信息流不对称问题，提出PartRep方法，通过选择最不可预测的token进行重复，在保留大部分性能提升的同时显著降低KV缓存和预计算开销。

Comments 15 pages and 7 figures (including appendix)

Wait, am I Being Fair? Characterizing Deductive Stereotyping and Mitigating It with Fair-GCG

等等，我公平吗？刻画演绎刻板印象并用 Fair-GCG 缓解它

Naihao Deng, Yilun Zhu, Joan Nwatu, Clayton Scott, Rada Mihalcea

机构 * University of Michigan（密歇根大学） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 本文识别出大语言模型中的演绎刻板印象失败模式，提供统计解释，并提出推理时注入框架 Fair-GCG 以发现有效短语，提升多个公平性基准的性能。

Gradient Smoothing: Coupling Layer-wise Updates for Improved Optimization

梯度平滑：耦合逐层更新以改进优化

Haoming Meng, Anton Sugolov, Vardan Papyan

机构 * Vector Institute（向量研究所） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 提出深度梯度增强框架，通过窗口平滑算子沿深度方向变换优化器更新，在不改变模型架构或训练目标下提升多种架构和任务的优化与泛化性能。

Comments Published in the Proceedings of the 43rd International Conference on Machine Learning (ICML 2026)

Using AI Agents to Automate Black-Box Audits of Personalization Algorithms at Scale

使用AI代理自动化大规模黑盒审计个性化算法

Alessandro Morosini, Sarah H. Cen, Andrew Ilyas, Hedi Driss, Aleksander Mądry, Chara Podimata

机构 * Massachusetts Institute of Technology（麻省理工学院） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL、cs.LG

AI总结 提出用生成式AI代理作为行为引擎进行黑盒审计，通过固定人设和反事实扰动解耦用户属性与行为，在X平台部署1120个代理发现算法推荐放大有毒、极化内容且效果因用户意识形态而异。

Comments 43 pages, 10 figures

End-to-End Dynamic Sparsity for Resource-Adaptive LLM Inference

端到端动态稀疏性用于资源自适应的大语言模型推理

Yuhang Chen, Jinhao Duan, Ruichen Zhang, Mingfu Liang, Xiaohan Wei, Yunchen Pu, Fei Tian, Chonglin Sun, Parish Aggarwal, Frank Shyu, Luke Simon, Sandeep Pandey, Tianlong Chen, Xi Liu

机构 * Meta AI ； University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 提出L2A框架，通过预算条件和输入感知的门控网络，实现层跳过、头剪枝和推理令牌减少的资源自适应推理，在Llama-3-8B和Qwen-3-4B上达到34%层稀疏性且性能损失小于0.6%。