语言大模型 / LLM

INFRAMIND: Infrastructure-Aware Multi-Agent Orchestration

INFRAMIND: 基础设施感知的多智能体编排

Ahasan Kabir, Jiaqi Xue, Mengxin Zheng, Qian Lou

机构 * University of Central Florida（中佛罗里达大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 提出INFRAMIND框架，通过强化学习将基础设施状态（队列深度、KV缓存压力等）融入多智能体LLM编排的规划、路由和调度决策，在共享GPU集群上实现质量与延迟的平衡，相比基线提升最高7.6%准确率并降低7倍延迟。

Comments Preprint

Trace2Policy: From Expert Behavior Traces to Self-Evolving Decision Agents

Trace2Policy：从专家行为轨迹到自我进化的决策代理

Junli Zha, Jinbo Wang, Chao Zhou, Xiang Song

机构 * SF Express（顺丰速运） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 提出Trace2Policy框架，通过错误驱动的迭代技能精炼（EISR）从专家行为中提取可读规则，在合规敏感任务中规则质量是关键性能杠杆，经8轮迭代后编译为确定性Python代码达到79.6%准确率，并在实际部署中优于纯LLM基线。

Multilingual Fact-Checking at Scale: Fine-Tuned Compact Models vs LLMs

大规模多语言事实核查：微调紧凑模型 vs 大语言模型

Pratuat Amatya, Vinay Setty

机构 * Factiverse 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.CL

AI总结 提出一个多语言事实核查系统，通过微调XLM-RoBERTa、mmBERT和SetFit模型，在114种语言的声明检测和28种语言的真实性预测中，与GPT-5.2等LLM相比，展示了紧凑模型的高效和稳定性能。

Trajectory-Refined Distillation

轨迹精炼蒸馏

Li Jiang, Haoran Xu, Yichuan Ding, Amy Zhang

机构 * McGill University（麦吉尔大学） ； Mila Quebec AI Institute（米拉魁北克人工智能研究所） ； UT Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 效率与部署 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 提出轨迹精炼蒸馏（TRD），通过教师指导修正学生轨迹中的前缀错误，解决在线策略蒸馏中的前缀失败问题，提升大语言模型的单次准确率和推理覆盖。

Comments under review

OmniMem: Perturbation-aware Memory Compression for Streaming Audio-Visual LLMs

OmniMem: 面向流式音视频大语言模型的扰动感知记忆压缩

Guangzhi Sun, Yixuan Li, Yudong Yang, Chao Zhang

机构 * Tsinghua University（清华大学） ； ByteDance（字节跳动） ； Department of Engineering, University of Cambridge（剑桥大学工程系） 纠错

专题命中 效率与部署 ：LLM(summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出OmniMem，一种针对音视频LLM的流式记忆压缩框架，通过模态感知分配和扰动感知选择压缩KV缓存，在保持长视频理解的同时减少内存，在多个基准上提升2-4%准确率。

Comments Code: https://github.com/bytedance/SALMONN/tree/omni_mem

Watch, Remember, Reason: Human-View Video Understanding with MLLMs

Watch, Remember, Reason: 基于多模态大语言模型的人类视角视频理解

Jiahao Meng, Yue Tan, Qi Xu, Kuan Gao, Weisong Liu, Yanwei Li, Jason Li, Lingdong Kong, Haochen Wang, Qianyu Zhou, Jiangning Zhang, Guangliang Cheng, Yunhai Tong, Lu Qi, Minghsuan Yang

机构 * School of Intelligence Science and Technology, Peking University（北京理工大学智能科学与技术学院） ； Wuhan University（武汉大学） ； Shanghai Jiao Tong University（上海交通大学） ； Nanyang Technological University（南洋理工大学） ； CASIA（中国科学院自动化研究所） ； University of Tokyo（东京大学） ； University of Liverpool（利物浦大学） ； Zhejiang University（浙江大学） ； National University of Singapore（新加坡国立大学） ； UC Merced（加州大学默塞德分校） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出人类视角下视频理解的三个功能能力（观看、记忆、推理），构建统一框架分析视频MLLM的感知、记忆、推理和预测，并总结挑战、方法、应用及未来方向。

The Three-Ring Architecture: Governing Agents in the Era of On-Platform Organisations

三环架构：平台型组织时代中的智能体治理

Sergio Alvarez-Telena, Marta Diez-Fernandez

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 针对企业AI部署中缺乏治理基础设施导致失败率高达95%的问题，提出三环架构：环1为现有生产架构，环2为基于策略的智能体联邦层，环3为LLM前沿智能层，其中环2作为智能体企业的操作系统，实现资源抽象、进程协调、权限执行和智能积累，并区分环2与环3的风险轮廓。

Comments 28 pages

Queen-Bee Agents: A BeeSpec-Centered Architecture for Governed Enterprise MCP Orchestration

蜂后智能体：一种以BeeSpec为中心的受治理企业MCP编排架构

Dutao Zhang, Liaotian

机构 * Polytechnic University（理工学院） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出Queen-Bee多智能体架构，通过Queen控制平面检索能力、规划任务并编译BeeSpec，由Bee智能体在受限工具访问下执行，实现策略执行、租户隔离和边界内执行，在59个企业任务中达到0.964成功率且零治理失败。

Comments Technical report. Prototype-level systems evidence; 59 enterprise-style tasks

Matryoshka Language Model Suites

套娃语言模型套件

Nathan Godey, Yoav Artzi

机构 * Cornell University（康奈尔大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 该研究提出Matryoshka训练框架，将尺寸递增的子模型堆叠为端到端嵌套架构，训练含5亿、15亿、30亿参数子模型的套件，其性能与基线相当，训练计算量减少36%，推测解码吞吐量提升14-26%。

Depth-adaptive Inference of Looped Language Models via Continuous Depth Batching

基于连续深度批处理的循环语言模型深度自适应推理

Kristian Schwethelm, Daniel Rueckert, Georgios Kaissis

机构 * Technical University of Munich (TUM)（慕尼黑工业大学（TUM）） ； Imperial College London（帝国理工学院） ； Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心） ； University of Potsdam（波茨坦大学） ； Hasso Plattner Institute for Digital Engineering（哈索·普拉特纳数字工程研究所） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文针对循环语言模型深度自适应推理中标准批处理失效的问题，提出连续深度批处理（CDB）方案，在两个模型上实现了接近理论上限的加速比，显著提升了吞吐量并降低了延迟。

One Qubit Can Beat One Bit: Quantum Advantage for Post-Training Quantization

一个量子比特可胜过一个比特：后训练量化的量子优势

Yuma Ichikawa, Moeto Mishima

专题命中 效率与部署 ：post-training(title,abstract)；分类 cs.AI、cs.LG

AI总结 该研究提出量子随机存取量化（QRAQ）框架，证明其在重构风险等方面优于共享符号的1比特后训练量化，展现了后训练量化中的量子优势。

Comments 40 pages, 6 figures

FOUND-AF: Benchmarking ECG Foundation Models for Atrial Fibrillation Detection

FOUND-AF：用于心房颤动检测的心电基础模型基准测试

Amirhossein Taleshinosrati, Yangyang Wang, Atitaya Phoemsuk, Vahid Abolghasemi, Naser Hossein Motlagh, Sadasivan Puthusserypady, Daniel Teichmann, Abdolrahman Peimankar

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本研究提出FOUND-AF基准框架，在统一条件下评估9种心电基础模型在4种数据集上的心房颤动检测性能，发现ECGFounder综合表现最优，为相关模型选择提供可复现方案。

REFLEX: Rethinking MoE Inference as Refinement-Aware Compute Allocation in Diffusion Language Models

REFLEX：将MoE推理重新思考为扩散语言模型中的感知细化的计算分配

Xiang Xia, Cheng Yan, Yiming Zhang, Jiazheng Liu, Hongyu Zhang, Wuyang Zhang

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 REFLEX是一种无需训练的MoE推理方法，通过粗到细的专家预算分配和前沿进度分数，在扩散语言模型中平均减少15%专家计算量，同时保持或提升生成质量，实现更优的质量-计算权衡。

Stop When Memory Suffices: Evidence-Conditioned Progressive Execution for LLM Agents

当内存充足时停止：面向大语言模型智能体的证据条件渐进式执行

Yidan Lin, Kaixiang Wang, Jiong Lou, Jie Li

专题命中 效率与部署 ：LLM(title,abstract_cn)；分类 cs.AI、cs.LG

AI总结 该研究针对大语言模型智能体记忆系统的延迟与质量矛盾，提出Router-Mem框架，通过证据条件渐进式执行，在降低推理时间的同时保持了优异的任务性能。

Stemma: Induced Decision Regions Reveal LLM Provenance

Stemma：诱导决策区域揭示大语言模型的来源

Keyu Zhang, Vadim Safronov, Andrew Martin

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究针对大语言模型来源测试中现有黑盒方法可靠性不足的问题，引入诱导决策区域，提出Stemma方法，以稳定性等为探针选择原则，在多组源-可疑对测试中表现出色，显著优于基线，对不同部署设置具鲁棒性。

Comments 25 pages, 4 figures

Tokens are All You Need: Dual-purpose Semantic IDs for Achieving LLM-Level I/O Efficiency in recommendation systems

令牌即所需：用于在推荐系统中实现大语言模型级I/O效率的双用途语义ID

Baolei Li, Yiping Yuan, Yilin Zheng, Likang Yin, Ling Liu, Fabio Soldo, Romer Rosales, Xinyang Yi, Lichan Hong

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究针对大规模推荐系统的“内存墙”瓶颈，受计算机视觉数据压缩启发，提出双用途语义ID，用分层量化将连续嵌入压缩为离散语义ID执行协作身份和内容重建角色，经实验验证该方法能有效减少系统开销和数据占用，实现高效推荐。

Comments RecSys 2026

Bigger or Cheaper? Scale and Quantization Effects on Uncertainty Signals in Vision-Language Models Under Image Degradation

更大还是更便宜？图像退化下视觉语言模型中尺度和量化对不确定性信号的影响

M M Asif Ferdous

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 研究在图像退化下视觉语言模型中尺度和量化对不确定性信号的影响，通过对Qwen2-VL系列模型的实验发现，尺度提升内部不确定性信号，4位量化对准确性影响小但对置信信号影响大，建议固定内存预算下选更大量化模型，如7B-4bit。

Comments 12 pages, 4 figures. Code and data: https://github.com/Asif-Ferdous/vlm-scale-quant

Similarity Is Not Logic: Factored Inference for Dual-Encoder Vision-Language Models

相似性并非逻辑：双编码器视觉语言模型的因式推理

Sultan Alshehri, Zhantao Yang, Han Zhang, Marios Savvides

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 研究双编码器视觉语言模型组合约束失效问题，提出因式推理，将证据提取与约束执行分离，引入LCSE方法，在FACTOR-Bench上实验，提升了准确率并保持检索性能。

Comments Accepted at ICML 2026. 18 pages, 8 figures. Project page: https://sultanmo.github.io/factored-vlm Code and benchmark: https://github.com/SultanMo/factored-vlm

MXSens: Sensitivity-Aware Mixed-Precision Quantization for Efficient LLM Inference

MXSens：用于高效大语言模型推理的灵敏度感知混合精度量化

Simla Burcu Harma, Danila Mishin, Zhengyuan Su, Ayan Chakraborty, Elizaveta Kostenok, Dongho Ha, Babak Falsafi, Martin Jaggi, Yunho Oh, Amir Yazdanbakhsh

机构 * EPFL（洛桑联邦理工学院） ； Tsinghua University（清华大学） ； MangoBoost Inc.（芒果助推公司） ； Korea University（韩国大学） ； Google DeepMind（谷歌DeepMind） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究针对大语言模型推理中4位量化因异常值致精度降的问题，提出MXSens方法，基于列和层灵敏度分配混合尾数比特宽度，无需训练，利用MXINT块结构，在多模型任务中优于现有方法，平衡了量化的准确性与资源效率。

Adaptive Multi-Step Lookahead Decoding for Diffusion Language Models

扩散语言模型的自适应多步前瞻解码

Yingqian Cui, Wei Deng, Lantao Mei, Hang Li, Charu C. Aggarwal, Hui Liu, Yue Xing

机构 * Michigan State University（密歇根州立大学） ； Morgan Stanley（摩根士丹利） ； IBM T.J. Watson Research Center（IBM 托马斯·J·沃森研究中心） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 研究针对扩散语言模型解码，提出自适应多步前瞻框架AdaLook，基于候选分数方差动态决定是否继续展开及进行分支扩展，避免不必要的深度展开，实验证明其在准确性和解码步骤权衡上优于现有一步前瞻解码方法。

Eluna: An Agentic LLM System for Automating Warehouse Operations with Reasoning and Task Execution

Eluna：一个用于通过推理和任务执行实现仓库运营自动化的智能语言模型系统

Ning Liu, Kalle Kujanpää, Zhaoxuan Zhu, P Aditya Sreekar, Kaiwen Liu, Chuanneng Sun, Jorge Marchena Menendez, Matthew Bales, Tianyu Yang, Shahnawaz Alam, Rose Yu, Baoyuan Liu, Kristina Klinkner, Shervin Malmasi

机构 * Amazon.com, Inc. Fulfillment Technologies and Robotics（亚马逊公司履约技术与机器人部门） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究针对仓库运营中SOP执行问题，提出Eluna智能体系统，它是图形引导多智能体框架，采用非对称情节蒸馏方法，在基准测试和生产应用中，微调模型表现出色，匹配或超教师模型，击败基线，在票务处理应用达94%专家一致性。

Predicting LLM Safety Before Release by Simulating Deployment

通过模拟部署预测大语言模型发布前的安全性

Marcus Williams, Hannah Sheahan, Cameron Raymond, Tomek Korbak, Deng Pan, Peilin Yang, Leon Maksin, Ningyi Xie, Phillip Guo, Ian Kivlichan, Micah Carroll

机构 * OpenAI（开放人工智能研究公司） 纠错

专题命中 效率与部署 ：LLM(title)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究通过模拟部署预测大语言模型发布前安全性的方法，从去识别化对话出发，固定前缀用候选模型生成回复来评估。该方法能估计行为不当率，优于基线，还能克服工具重新采样挑战，为外部研究提供途径，助力预测模型现实行为及评估部署风险。

Comments 31 pages

When Does Small Data Work? Accuracy and Efficiency Trade-offs Between Tabular Foundation Models and Conventional Methods for Crowd-State Classification at Hajj and Umrah

小数据何时起作用？朝觐和副朝人群状态分类中表格基础模型与传统方法之间的准确性和效率权衡

AlJawharh S. AlOtaibi, Mohamed Eltahir, Jude AlSubaie

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究在朝觐和副朝人群状态分类中，测试表格基础模型在标签稀缺时的作用，将其与传统机器学习方法比较，评估不同模型，揭示标签数量影响模型选择及两种方法在准确性和效率上的权衡。

Comments 6 pages, 3 figures, 10 tables

Variable Bit-width Quantization: Learning Per-Group Precision for "Bigger-but-Smaller" Language Models

可变比特宽度量化：为“更大但更小”的语言模型学习每组精度

Hamish Ogilvy

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 研究提出可变比特宽度量化（VBQ），通过Gumbel-Softmax松弛为每组64个权重学习分辨率，经交替优化联合训练。VBQ能实现强异构分配，有更好存储效率和推理加速，还揭示了深层自修复量化误差机制。

Comments 15 pages, 6 figures

Self-conditioned Flow Map Language Models via Fixed-point Flows

自条件流映射语言模型通过不动点流

Jaehoon Yoo, Wonjung Kim, Floor Eijkelboom, Chanhyuk Lee, Nicholas M. Boffi, Seunghoon Hong, Jinwoo Kim

机构 * KAIST（韩国科学技术院） ； University of Amsterdam（阿姆斯特丹大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 提出不动点流框架，将自条件机制解释为不动点迭代，并设计二维流模型同时压缩迭代与流过程，实现少步生成，在OpenWebText上超越现有模型。

The Simulacrum: Decision-Theoretic Pretraining for Near-Optimal Time-Series Forecasting and Inference

模拟体：面向近乎最优时间序列预测与推断的决策理论预训练

Pablo Montero-Manso, Marcel Scharth

机构 * Google（谷歌） 纠错

专题命中 效率与部署 ：pretraining(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出一种通过决策理论预训练学习时间序列估计器的神经网络框架，通过指定生成世界和决策目标，训练网络逼近最优决策规则，在零样本推断中实现近乎最优风险、偏差控制和均匀校准。

Automating Potential-based Reward Shaping with Vision Language Model Guidance

基于视觉语言模型引导的势能奖励塑形自动化

Henrik Müller, Daniel Kudenko

机构 * L3S Research Center Leibniz University Hannover（莱布尼茨汉诺威大学L3S研究中心） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出VLM-PBRS框架，利用轻量级视觉语言模型的偏好学习势能函数，实现自动化奖励塑形，保证最优策略不变，提升样本效率并避免奖励黑客。

Agentic evolution of physically constrained foundation models

物理约束基础模型的智能体演化

Jiangwei Zhang, Wen Sun, Chong Wang, Shiyao Li, Cheng Che, Chunjing Han, Dan Meng, Jian Yang, Yu Wang, Rui Hou

机构 * University of Chinese Academy of Sciences（中国科学院大学） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出基于演化知识图谱的多智能体发现引擎，自动设计硬件兼容计算系统，在基础模型部署中演化出超越人工的压缩方法，实现大规模模型高效部署。

Comments 29 pages, 5 main figures and 4 extended data figures

Dense Supervision Is Not Enough: The Readout Blind Spot in Looped Language Models

密集监督还不够：循环语言模型中的读出盲点

Rituraj Sharma, Tu Vu

机构 * Virginia Tech（弗吉尼亚理工大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文揭示循环语言模型中密集交叉熵损失仅控制读出变量，忽略隐藏状态尺度，导致尺度失控；提出尺度可见读出、显式范数惩罚或尺度移除循环的修复方法。

Protocol-Aware Tokenization and Architecture Co-Design for Wireless Packet Foundation Models

协议感知分词与架构协同设计用于无线数据包基础模型

Swadhin Pradhan, Shazal Irshad, Jerome Henry

机构 * Cisco Systems（思科系统） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 通过2x2对比实验发现，协议感知分词是无线数据包基础模型性能的主要杠杆，改变分词器可使准确率波动32个百分点，而改变架构仅影响2个百分点。

Comments 10 pages, 5 figures, 3 tables