语言大模型 / LLM

GQLA: Group-Query Latent Attention for Hardware-Adaptive Large Language Model Decoding

GQLA: 面向硬件自适应的大语言模型解码的分组查询潜在注意力

Fanxu Meng

机构 * Institute for Artificial Intelligence（人工智能研究院） 纠错

专题命中 效率与部署 ：large language model(title)；language model(title)；pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 提出GQLA，一种对MLA的极小修改，通过暴露MQA和GQA两种等价解码路径，使单一权重集在不同硬件（如H100和H20）上达到最优性能，并支持零冗余张量并行，同时通过TransGQLA将预训练GQA检查点转换为GQLA模型，显著压缩KV缓存。

Comments https://github.com/MuLabPKU/TransArch

FinRAG-12B: A Production-Validated Recipe for Grounded Question Answering in Banking

FinRAG-12B：一家银行中基于事实的问题回答的生产验证配方

Denys Katerenchuk, Pablo Duboue, Keelan Evanini, David Gondek, Nithin Govindugari, Olivier Allauzen, Joshua Baptiste, David J More, Joshua Schechter

机构 * Kasisto ； Textualization ； NBME 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出了一种高效框架，通过数据生成管道和校准拒绝机制，提升银行领域LLM的准确性与合规性，实现7.1个百分点的查询解决率提升。

Comments 7 pages, ACL 2026 conference

Intelligent Multi-UAV Navigation in ITNTNs: A Hierarchical LLM Approach

智能多无人机在综合陆地与非陆地网络中的导航：一种分层大语言模型方法

Zijiang Yan, Hao Zhou, Wael Jaafar, Jianhua Pei, Ping Wang, Halim Yanikomeroglu, Hina Tabassum

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对高速无人机在三维空中高速公路部署中面临的协调问题，提出分层大语言模型驱动控制框架，利用云端大语言模型管理全局负载平衡，边缘大语言模型转化局部观测为子目标，引导深度强化学习控制器执行轨迹，降低碰撞率并提高系统吞吐量。

Comments This paper has been accepted by IEEE GLOBECOM 2026

Accelerating Heterogeneous Agent Collaboration in Dynamic Edge Networks

加速动态边缘网络中的异构智能体协作

Tianji He, Yulin Shao, Fen Hou

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 研究在动态边缘网络中加速异构智能体协作的问题，提出PRADA框架，通过将PRM作为离线教师，结合轻量级策略和拉格朗日调度器解决资源竞争，大幅降低延迟并保留LLM准确性，还揭示阈值效应，为资源配置提供指导。

InstantInfer: Enabling Fast LLM Cold Start with Communicating Finite Automata

InstantInfer：使用通信有限自动机实现快速大语言模型冷启动

Yitao Yuan, Yongchao He, Shaoke Fang, Wenfei Wu

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 研究大语言模型推理服务冷启动低效问题，提出通信有限自动机抽象及编程框架，经证明其正确性后应用于vLLM相关环节形成InstantInfer，大幅加速冷启动且在多场景表现鲁棒。

Comments 15 pages, 18 figures

Breaking the MoE LLM Trilemma: Dynamic Expert Clustering with Structured Compression

打破MoE大语言模型三重困境：动态专家聚类与结构压缩

Peijun Zhu, Ning Yang, Baoliang Tian, Jiayu Wei, Weihao Zhang, Haijun Zhang, Pin Lv

机构 * Guangzhou University（广州大学） ； Institue of Automation Chinese Academy of Sciences（中国科学院自动化研究所） ； ByteDance Inc.（字节跳动公司） ； University of Science and Technology Beijing（北京科技大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出动态专家聚类与结构压缩框架，通过参数分解和分层路由策略，显著提升MoE大语言模型的效率和内存利用率。

Comments 10 pages, 2 figures, 8 tables. Under review as a conference paper at ICML 2026

CWind: A Cross-site Router for Large Language Model Inference Serving at Renewable Energy Farms

XWind: 面向可再生能源农场的跨站点大语言模型推理服务路由器

Tella Rajashekhar Reddy, Atharva Deshmukh, Liangcheng Yu, Chaojie Zhang, Mike Shepperd, Rohan Gandhi, Anjaly Parayil, Srinivasan Iyengar, Ajay Manchepalli, Debopam Bhattacherjee

机构 * Microsoft（微软） 纠错

专题命中 效率与部署 ：large language model(title)；language model(title)；分类 cs.AI

AI总结 提出AI绿色围栏部署模式，并构建XWind路由器，利用实时信号动态配置站点和分发请求，以在可变风力供电下高效服务推理请求。

Decode-Time Grammars: Constrained LLM Generation over a Refinement Order of Grammar Fragments

解码时语法：基于语法片段细化顺序的受限大语言模型生成

Shuoming Zhang, Ruiyuan Xu, Haofeng Li, Qiuchu Yu, Yangyu Zhang, Chunwei Xia, Xiaobing Feng, Chenxi Wang, Huimin Cui, Jiacheng Zhao

机构 * SKLP, Institute of Computing Technology, Chinese Academy of Sciences（SKLP，计算技术研究所，中国科学院） ； University of Leeds（利兹大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究大语言模型在低资源编程表面生成代码的问题，提出解码时语法方法，通过运行时环境实例化语法片段，经特定策略和算子确保语法语义正确，实现中在多种语言和模型上消除幽灵引用。

Agentic Calibration of Grey-Box Simulation Models: An LLM-Driven Alternative

灰箱仿真模型的智能校准：一种由大语言模型驱动的替代方法

David Gómez-Guillén, Mireia Diaz, Josep Lluis Arcos, Jesús Cerquides

机构 * Catalan Institute of Oncology-IDIBELL（加泰罗尼亚肿瘤研究所-IDIBELL） ； Autonomous University of Barcelona（巴塞罗那自治大学） ； Centro de Investigación Biomédica en Red de Epidemiología y Salud Pública（国家公共卫生与流行病学网络生物医学研究中心） ； Artificial Intelligence Research Institute, IIIA-CSIC（人工智能研究所，西班牙科学研究委员会-人工智能研究所） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究灰箱仿真模型校准问题，提出用大语言模型作优化器的智能校准方法，在肛门癌仿真模型上评估，结果表明该方法在减少模型评估次数上有优势，虽迭代推理时间增加，但可审计和解释，适用于仿真时间占主导的情况。

Comments Manuscript: 19 pages, 2 figures. Appendix: 11 pages, 1 figure

Compressing What Matters: Neuron Importance Meets Data-Aware Low Rank Approximation for Language Model Compression

压缩关键内容：神经元重要性与数据感知低秩近似用于语言模型压缩

Athanasios Ntovas, Alexandros Doumanoglou, Petros Drakoulis, Dimitris Zarpalas

机构 * Information Technologies Institute (ITI), Centre for Research and Technology HELLAS (CERTH)（信息技术研究所（ITI），希腊研究与技术中心（CERTH）） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究语言模型压缩问题，结合神经元重要性和数据感知低秩近似方法，提出动态压缩率分配算法，实验表明该方法在高压缩率下性能与或优于现有技术。

Journal ref EEE Access, vol. 14, pp. 6106-6120, 2026

Agents in the Wild: Where Research Meets Deployment

野外的智能体：研究与部署的交汇点

Grace Hui Yang, Pranav N. Venkit, Hooman Sedghamiz, Enrico Santus, Victor Dibia, Ioana Baldini

机构 * Georgetown University（乔治敦大学） ； Salesforce（Salesforce公司） ； Bayer（拜耳公司） ； Bloomberg（彭博公司） ； Microsoft Research（微软研究院） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 探讨基于大语言模型的智能体系统从研究到部署的转变，通过案例研究分析成功设计模式及失败缓解策略，为与会者提供跨行业安全可靠部署的全面视角、设计模式、评估清单和模板。

AgentJet: A Distributed Swarm Training Framework for Agentic Reinforcement Learning

AgentJet：一种用于智能体强化学习的灵活群体训练框架

Qingxu Fu, Boyin Liu, Shuchang Tao, Zhaoyang Liu, Cheng Chen, Xuanfa Jin, Rong Zhu, Bolin Ding

机构 * Tongyi Lab, Alibaba Group（通义实验室，阿里巴巴集团） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出AgentJet，一种解耦的多节点群体训练框架，支持异构多模型强化学习、多任务鸡尾酒训练、容错执行和实时代码迭代，并通过上下文跟踪模块实现1.5-10倍训练加速。

Comments Technical report, 32 pages

DiffAxE: Diffusion-driven Hardware Accelerator Generation and Design Space Exploration

DiffAxE：扩散驱动的硬件加速器生成与设计空间探索

Arkapravo Ghosh, Abhishek Moitra, Abhiroop Bhattacharjee, Ruokai Yin, Priyadarshini Panda

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 针对硬件加速器设计空间探索难题，传统方法有局限。本文提出生成方法，将硬件设计建模为基于目标性能的一维图像合成，能有效学习相关映射，在降低生成误差、提升性能及加速搜索等方面有显著贡献。

Comments Accepted at ICCAD 2026

HERAKLES: Hierarchical Skill Compilation for Open-ended LLM Agents

HERAKLES：用于开放式语言模型智能体的分层技能编译

Thomas Carta, Clément Romac, Loris Gaven, Pierre-Yves Oudeyer, Olivier Sigaud, Sylvain Lamprier

机构 * Inria(Flowers)（Inria） ； University of Bordeaux（波尔多大学） ； Sorbonne Université (ISIR)（索邦大学） ； Univ Angers (LERIA) SFR MATHSTIC（昂格斯大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.LG

AI总结 研究部分可观测、稀疏奖励且目标空间大的环境中目标条件强化学习，提出HERAKLES分层智能体，联合学习高级语言模型策略与低级控制器，通过同时训练实现可扩展技能组合，提升开放式组合环境下的效率和适应性。

Comments 42 pages

Rationale-Guided Knowledge Distillation for Cross-Lingual Stance Detection

用于跨语言立场检测的基于理由引导的知识蒸馏

Qiuli Zhou, Jingyuan Yao, Shengeng Tang, Hongzhi Chen, Jun Tang, Richang Hong

机构 * School of Foreign Studies, Hefei University of Technology（合肥工业大学外国语学院） ； School of Computer Science and Information Engineering, Hefei University of Technology（合肥工业大学计算机与信息工程学院） ； Hefei Institute of Technology（合肥学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.CL

AI总结 针对跨语言立场检测中现有方法忽视推理过程及大语言模型存在局限性的问题，提出基于理由引导的知识蒸馏框架，用思维链提示引导大语言模型生成理由并提炼知识至学生模型，设计双路径蒸馏机制及对比学习策略，实验证明该方法优于基线。

Comments 23 pages, 7 figures, 3 tables

Stochastic Thermodynamics for Autoregressive Generative Models: A Non-Markovian Perspective

自回归生成模型的随机热力学：非马尔可夫视角

Takahiro Sagawa

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文从非马尔可夫视角出发，建立自回归生成模型的随机热力学框架，提出熵产概念，通过采样轨迹高效估计熵产，探讨了在大语言模型中的应用及非马尔可夫过程的不可逆性量化。

Comments 30 pages, 11 figures

Beyond Accuracy and Cost: Latency-Aware LLM Query Routing for Dynamic Workloads

超越准确性和成本：针对动态工作负载的延迟感知大语言模型查询路由

Shivam Patel, Akaash R. Parthasarathy, Ankur Mallick, Gauri Joshi

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Microsoft（微软） 纠错

专题命中 效率与部署 ：LLM(title)；分类 cs.AI

AI总结 研究针对动态工作负载的大语言模型查询路由，设计轻量级延迟估计器，纳入延迟感知路由器，联合优化延迟、准确性和成本，实验表明该方法能在保持延迟的同时提升准确性 - 成本效用达40%。

AdaFlash: Adaptive Speculative Decoding via On-Policy Distilled Diffusion Drafters

AdaFlash：通过策略蒸馏扩散草稿器实现自适应推测解码

Yu-Yang Qian, Hao-Cong Wu, Chen Chen, Jiacheng Sun, Zhenhua Dong, Peng Zhao, Zhi-Hua Zhou

机构 * State Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室） ； School of Artificial Intelligence, Nanjing University（南京大学人工智能学院） ； Huawei Foundation Model Dept（华为基础模型部） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究针对扩散草稿器在推测解码中存在的问题，提出AdaFlash框架，包含基于策略蒸馏算法和自适应长度头，有效降低方差，实验证明该框架能提高推理速度，尤其在高并发场景中吞吐量显著提升。

The Economics of Autonomy: Real-Time Risk Indexing for Insurable AI-Driven 6G Systems

自主性经济学：适用于可保险的人工智能驱动的6G系统的实时风险索引

Anthony Kiggundu, Michael Zentarra, Christoph Lipps, Hans D. Schotten

机构 * German Research Center for Artificial Intelligence (DFKI), Germany（德国人工智能研究中心（DFKI）） ； RPTU University of Kaiserslautern-Landau, Germany（莱茵-威斯伐尔大学科堡分校） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究6G网络中传统治理框架在风险管理上的不足，提出GIRAF框架，通过机器可读运行时信号得出总风险指数，形式化验证陈旧性权衡，经模拟验证该框架能保持操作完整性并为多利益相关者责任归属等提供精算基线。

Comments Accepted at the IEEE 104th Vehicular Technology Conference - VTC2026-Fall

M-RAG: Semantic Key-Value Indexing for Retrieval-Augmented Generation

M-RAG：使RAG更快、更强和更高效

Xu Sun, Tongkai Xu, Baiheng Xie, Li Huang, Qiang Gao, Kunpeng Zhang

机构 * Southwestern University of Finance and Economics（西南财经大学） ； Zhida AI, Zhida Technology（智达AI，智达科技） ； University of Maryland, College Park（马里兰大学帕克分校） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 M-RAG提出一种无片段检索策略，通过提取结构化元标记提升检索与生成效率，实验证明其在低资源环境下优于传统RAG方法。

RAPT: Model-Predictive Out-of-Distribution Detection and Failure Diagnosis for Sim-to-Real Humanoid Deployment

RAPT：面向真实人类机器人的模型预测异常检测与故障诊断

Humphrey Munn, Brendan Tidd, Peter Bohm, Marcus Gallagher, David Howard

机构 * School of Electrical Engineering and Computer Science, University of Queensland（电气工程与计算机科学学院，昆士兰大学） ； CSIRO Robotics, Data61（CSIRO机器人，Data61） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.LG

AI总结 RAPT通过模型预测异常检测和故障诊断技术，提升人形机器人在仿真到现实转移中的鲁棒性和可解释性。

Continual Video-MLLM Adaptation over Evolving Domains

在不断演变的领域上进行连续视频 - MLLM 适应

Rui Cheng, Meixing Shi, Yuxiang Cai, Jingcai Guo, Jianwei Yin, Zhi Chen

机构 * School of Software Technology, Zhejiang University（浙江大学软件学院） ； Hong Kong Polytechnic University（香港理工大学） ； The University of Southern Queensland（南昆士兰大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 研究视频多模态大语言模型对不断演变领域的适应问题，提出分布感知专家路由框架 DAER，通过保持领域隔离的轻量级专家、引入多种路由和优化机制，在域增量基准上评估，结果优于现有方法。

Comments Accepted to ACM MM 2026

Brewing Stronger Features: Dual-Teacher Distillation for Multispectral Earth Observation

酿造更强的特征：多光谱地球观测的双教师蒸馏

Filip Wolf, Blaž Rolih, Luka Čehovin Zajc

机构 * University of Ljubljana, Faculty of Computer and Information Science（卢布尔雅纳大学计算机与信息科学学院） 纠错

专题命中 效率与部署 ：foundation model(abstract)；pretraining(abstract)

AI总结 本文提出双教师对比蒸馏框架，用于多光谱地球观测，通过结合多光谱和光学教师，实现跨模态表示学习，提升多光谱和光学数据的性能。

Comments Accepted to CVPR 2026 as Highlight

Timeripple: Accelerating vDiTs by Understanding the Spatio-Temporal Correlations in Latent Space

Timeripple：通过理解潜在空间中的时空相关性加速视频扩散变换器

Wenxuan Miao, Yulin Sun, Aiyue Chen, Jing Lin, Yiwu Yao, Yiming Gan, Jieru Zhao, Jingwen Leng, Minyi Guo, Yu Feng

机构 * Shanghai Jiao Tong University（上海交通大学） ； Shanghai Qizhi Institute（上海启智研究院） ； Huawei Technologies Co.,Ltd（华为技术有限公司） ； Institute of Computing Technology, Chinese Academy of Science（中国科学院计算技术研究所） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 针对视频生成中vDiT模型推理延迟问题，利用潜在空间时空相关性，提出轻量级自适应重用策略，通过重用相关令牌部分注意力分数近似计算，相比现有技术计算节省85%，且视频质量损失小。

ABOPD: Antibody CDR Design via On-Policy Distillation

ABOPD：通过策略蒸馏进行抗体CDR设计

Zhuo Yang, Jiaying He, Jiaqing Xie, Daolang Wang, Xipeng Qiu, Yuxin Wang, Tianfan Fu, Beilun Wang

专题命中 效率与部署 ：post-training(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对抗体CDR设计，提出基于策略蒸馏的ABOPD框架，利用天然几何结构监督模型去噪轨迹，提升了RAbD CDR-H3生成的结构恢复，降低均方根偏差，优于其他控制方法，为高保真蛋白质设计开辟道路。

OPD-IAD: From Language Judgment to Industrial Anomaly Detection via On-Policy Self-Distillation

OPD-IAD：通过策略内自蒸馏从语言判断到工业异常检测

Shuimu Chen, Jing Jin, Nan Su, Hongbo Xu, Zebang Cheng, Wenming Yang, Fei Ma, Guijin Wang

机构 * Tsinghua University（清华大学） ； Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ)（广东省人工智能与数字经济实验室（深圳）） ； Shenzhen University（深圳大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 研究如何利用大型视觉语言模型进行工业异常检测，提出OPD-IAD框架，通过策略内自蒸馏和语言引导视觉锚定，将语言判断转化为像素级异常图，在相关方法中取得最佳性能。

HPD-Parsing: Hierarchical Parallel Document Parsing

HPD解析：分层并行文档解析

Shu Wei, Jingjing Wu, Lingshu Zhang, Qunyi Xie, Hao Zou, Le Xiang, Xu Fan, Yangliu Xu, Manhui Lin, Xiaolong Ma, Cheng Cui, Tengyu Du, YY

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL

AI总结 研究基于统一视觉语言模型的文档解析器顺序瓶颈问题，提出HPD解析，采用分层并行解码范式，含主要布局分支和P-MTP，实验显示其吞吐量高且精度有竞争力，为高效统一文档解析开辟新方向。

Using Fine-Tuned LLMs to Identify Indicators of Vulnerability in UK Police Incident Logs

使用微调的语言模型识别英国警方事件日志中的脆弱性指标

Sam Relins, Daniel Birks

机构 * ESRC Vulnerability and Policing Futures Research Centre（经济与社会研究理事会脆弱性与警务未来研究中心） ； School of Law, University of Leeds（利兹大学法学院） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.CL

AI总结 研究探讨基于美国开源警方数据的语言模型分类管道能否用于估计英国警方事件叙述中四种脆弱性指标流行率。通过多阶段管道分析近3000份日志，虽能产生流行率估计，但单纯部署不可靠，纠正偏差需大量人工和统计调整，强调了该方法的潜力与局限。

Comments 24 pages, 4 figures. Preprint. Under review

Human-AI Governance (HAIG): A Trust-Utility Approach

人类-人工智能治理（HAIG）：一种信任-效用方法

Zeynep Engin

机构 * The Digital Statecraft Academy, United Kingdom（英国数字国家学府） ； Department of Computer Science, University College London (UCL), United Kingdom（英国伦敦大学学院计算机科学系） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.AI

AI总结 本文提出HAIG框架，通过强调人类与AI主体间的关系动态，而非将AI系统视为治理对象。框架涵盖三个层级：维度、连续体和阈值，适用于从个体决策到国际监管的设计。

Comments 35 pages including references and appendix, 28 pages core text, 3 figures, 3 tables

JD-BP: A Joint-Decision Generative Framework for Auto-Bidding and Pricing

JD-BP：一种联合决策生成框架用于自动出价和定价

Linghui Meng, Chun Gan, Shengsheng Niu, Chengcheng Zhang, Chenchen Li, Chuan Yang, Yi Mao, Xin Zhu, Jie He, Zhangang Lin, Ching Law

机构 * The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 效率与部署 ：preference optimization(abstract)；分类 cs.LG

AI总结 本文提出JD-BP框架，通过联合生成出价和定价修正项，提升自动出价和定价效率，并通过轨迹增强算法和能量基直接偏好优化方法提升性能，实验表明其在广告收入和目标成本方面有显著提升。

Comments 11 pages, 2 figures