语言大模型 / LLM

Reducing Prompt Sensitivity in LLM-based Speech Recognition Through Learnable Projection

通过可学习投影减少基于LLM的语音识别中的提示敏感性

Sergio Burdisso, Esaú Villatoro-Tello, Shashi Kumar, Srikanth Madikeri, Andrés Carofilis, Pradeep Rangappa, Manjunath K E, Kadri Hacioglu, Petr Motlicek, Andreas Stolcke

机构 * Idiap Research Institute（Idiap研究 institute） ； EPFL（苏黎世联邦理工学院） ； Uniphore（Uniphore公司） ； University of Zurich（苏黎世大学） ； Brno University of Technology（布拉格技术大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；foundation model(abstract)

AI总结 本文提出一种可学习的提示投影模块，通过优化LLM输入空间提升语音识别性能，减少提示设计的不稳定性。

Comments Paper accepted at ICASSP 2026

Users as Annotators: LLM Preference Learning from Comparison Mode

用户作为标注者：从比较模式中学习LLM的偏好

Zhongze Cai, Xiaocheng Li

机构 * Imperial College Business School（帝国理工商业学院） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出通过用户日常交互收集偏好数据，利用期望最大化算法估计用户质量因子，提升LLM对齐效果。

GELATO: Generative Entropy- and Lyapunov-based Adaptive Token Offloading for Device-Edge Speculative LLM Inference

GELATO：生成熵和李雅普诺夫基于的自适应令牌卸载用于设备-边缘推测LLM推理

Zengzipeng Tang, Yuxuan Sun, Wei Chen, Jianwen Ding, Bo Ai

机构 * School of Electronic and Information Engineering, Beijing Jiaotong University, Beijing 100044, China（北京交通大学电子与信息工程学院，北京，100044，中国） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出GELATO框架，通过生成熵和李雅普诺夫方法优化设备-边缘协同推测LLM推理中的令牌卸载，提升吞吐量并降低能耗，优于现有方法。

Comments This work has been submitted to the IEEE for possible publication

Toward General and Robust LLM-enhanced Text-attributed Graph Learning

迈向通用且稳健的LLM增强型文本属性图学习

Zihao Zhang, Xunkai Li, Rong-Hua Li, Zhenjun Li, Bing Zhou, Guoren Wang

机构 * Beijing Institute of Technology（北京理工大学） ； Shenzhen Institute of Technology（深圳理工大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出UltraTAG框架，解决LLM与GNN交互中的统一优化问题，并通过UltraTAG-S应对现实中的文本和边稀疏性问题，实验表明其在不同稀疏度下均表现优异。

Different Prompts, Different Ranks: Prompt-aware Dynamic Rank Selection for SVD-based LLM Compression

不同提示，不同秩：基于SVD的LLM压缩的提示感知动态秩选择

Hengyi Zhu, Zhendong Mi, Grace Li Zhang, Shaoyi Huang

机构 * Stevens Institute of Technology（史蒂文斯理工学院） ； Technical University of Darmstadt（达姆施塔特技术大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 本文提出PARSE框架，通过提示感知的动态秩选择提升SVD压缩LLM的效率与性能，实现任务准确率提升10%及推理速度提升。

ToolScope: Enhancing LLM Agent Tool Use through Tool Merging and Context-Aware Filtering

ToolScope: 通过工具合并和上下文感知过滤增强LLM代理的工具使用

Marianne Menglin Liu, Daniel Garcia, Fjona Parllaku, Vikas Upadhyay, Syed Fahad Allam Shah, Dan Roth

机构 * Oracle AI 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 ToolScope通过自动校正的工具合并和上下文感知检索提升LLM代理的工具选择准确性，实验表明在三个顶级LLM和开源基准上提升了8.38%至38.6%的准确率。

Comments ACL Main Conference 2026

Deterministic vs. LLM-Controlled Orchestration for COBOL-to-Python Modernization

确定性与LLM控制的编译流程在COBOL到Python现代化中的对比

Naing Oo Lwin, Rajesh Kumar

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 本文通过实验对比确定性和LLM控制的编译流程，发现确定性方法在准确性、鲁棒性和效率上更优，且成本更低。

TetraJet-v2: Accurate NVFP4 Training for Large Language Models with Oscillation Suppression and Outlier Control

TetraJet-v2：用于大语言模型的准确NVFP4训练方法，具有振荡抑制和异常值控制

Yuxiang Chen, Yifan Liu, Xiaoming Xu, Pengle Zhang, Michael Beyer, Martin Rapp, Jun Zhu, Jianfei Chen

机构 * Dept. of Comp. Sci. and Tech., Institute for AI, BNRist Center, THBI Lab, Tsinghua-Bosch Joint ML Center, Tsinghua University（计算机科学与技术系，人工智能研究所，BNRist中心，THBI实验室，清华-博世联合机器学习中心，清华大学） ； Zhili College, Tsinghua University（紫荆学院，清华大学） ； Bosch AI Research, Renningen, Germany（博世人工智能研究，德国Renningen） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 TetraJet-v2通过NVFP4格式实现低精度训练，解决权重振荡和异常值问题，提升大语言模型性能，减少与BF16的性能差距达51.3%，并实现1.67倍速度提升。

Journal ref Proceedings of the 43rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026 (ICML 2026)

LLM4Branch: Large Language Model for Discovering Efficient Branching Policies of Integer Programs

LLM4Branch：用于发现整数规划高效分支策略的大语言模型

Zhinan Hou, Xingchen Li, Yankai Zhang, Tianxun Li, Keyou You

机构 * Department of Automation, BNRist, Tsinghua University, Beijing, China.（自动化系，BNRist，清华大学，北京，中国） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文提出LLM4Branch，利用大语言模型自动发现整数规划的高效分支策略，通过程序骨架生成和参数优化，实现CPU基方法的新状态-of-the-art性能。

Comments ICML2026 preprint, camera ready in progress

Merlin: Deterministic Byte-Exact Deduplication for Lossless Context Optimization in Large Language Model Inference

Merlin：用于无损上下文优化的大语言模型推理中的确定性字节精确去重

Sietse Schelpe

机构 * Corbenic AI, Inc.（Corbenic AI公司） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 Merlin通过高效去重和上下文优化提升大语言模型推理效率，减少冗余文本处理瓶颈，实验显示在高冗余数据中减少71%输入，保持数据完整性。

Comments Preprint. Implementation and open-source community version available at: https://github.com/corbenicai/merlin-community - https://doi.org/10.5281/zenodo.20090991

Large Language Models over Networks: Collaborative Intelligence under Resource Constraints

网络上的大语言模型：在资源限制下的协作智能

Liangqi Yuan, Wenzhi Fang, Shiqiang Wang, H. Vincent Poor, Christopher G. Brinton

机构 * Purdue University（普渡大学） ； University of Exeter（埃克塞特大学） ； Princeton University（普林斯顿大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.LG

AI总结 本文探讨了在资源受限环境下，通过设备与云端协同以及多智能体协作提升大语言模型性能的方法，提出了协同推理的两种维度，并讨论了协作学习与开放研究挑战。

Agent-Omit: Adaptive Context Omission for Efficient LLM Agents

Agent-Omit：适应性上下文省略以提高LLM代理效率

Yansong Ning, Jun Fang, Naiqiang Tan, Hao Liu

机构 * AI Thrust, The Hong Kong University of Science（香港科学与技术大学人工智能前沿） ； Didichuxing Co. Ltd（滴滴出行有限公司） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI、cs.LG

AI总结 本文提出Agent-Omit框架，通过省略冗余思考和观察提升LLM代理效率，实验表明其在多个基准测试中表现优异。

Comments ICML 2026

ServeGen: Workload Characterization and Generation of Large Language Model Serving in Production

ServeGen：生产环境中大型语言模型服务的工作负载特征与生成

Yuxing Xiang, Xue Li, Kun Qian, Wenyuan Yu, Ennan Zhai, Xin Jin

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)

AI总结 本文通过深入分析真实世界中的大型语言模型服务工作负载，提出ServeGen框架，通过按客户端组合生成真实工作负载，有效避免了50%的欠配问题，提升了性能基准测试效果。

Comments 15 pages, NSDI'26

Detector-Empowered Video Large Language Model for Efficient Spatio-Temporal Grounding

基于检测器的视频大语言模型用于高效的时空定位

Shida Gao, Feng Xue, Xiangfeng Wang, Anlong Ming, Zhaowen Lin, Haiyang Zhang, Teng Long, Nicu Sebe, Yihua Shao, Haozhe Wang, Wei Wang

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； University of Trento（特伦特大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Hong Kong University of Science and Technology（香港科技大学） ； ZTE Corporation（中兴通讯） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)

AI总结 本文提出DEViL模型，通过将密集空间定位任务转移给训练良好的检测器，提升视频时空定位的效率与性能，实现43.1%的m_vIoU和14.33 FPS的高效表现。

Calibrate, Don't Curate: Label-Efficient Estimation from Noisy LLM Judges

校准，而非筛选：从噪声LLM评判者中高效估计

Yanran Li

机构 * Department of Biostatistics（生物统计学系） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.CL

AI总结 本文研究了在噪声LLM评判者中如何通过校准而非筛选来提高估计效率，发现校准全组评判者优于基于准确率的筛选，且在多个基准测试中表现更优。

SafeHarness: Lifecycle-Integrated Security Architecture for LLM-based Agent Deployment

SafeHarness：面向LLM代理部署的生命周期集成安全架构

Xixun Lin, Yang Liu, Yancheng Chen, Yongxuan Wu, Yucheng Ning, Yilong Liu, Nan Sun, Shun Zhang, Bin Chong, Chuan Zhou, Yanan Cao

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院） ； Institute of Applied Physics and Computational Mathematics（应用物理与计算数学研究所） ； Peking University（北京大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出SafeHarness架构，通过四个防御层集成到代理生命周期中，解决现有安全方法的结构性不匹配问题，降低不安全行为和攻击成功率。

Comments 26 pages, 6 figures

EdgeFlowerTune: Evaluating Federated LLM Fine-Tuning Under Realistic Edge System Constraints

EdgeFlowerTune: 在现实边缘系统约束下评估联邦大语言模型微调

Jiaxiang Geng, Yiyi Lu, Lunyu Zhao, Yan Gao, Nicholas D. Lane, Bing Luo

机构 * Duke Kunshan University（杜克-肯尼思大学） ； Flower Labs（Flower实验室） ； University of Cambridge（剑桥大学） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出EdgeFlowerTune基准，评估联邦LLM微调在现实边缘系统中的可行性，通过联合评估模型质量和系统成本，包括通信、时延、内存使用、能耗和动态边缘条件鲁棒性，揭示仅凭准确率评估的局限性。

Comments 30 pages, 10 figures

OSAQ: Outlier Self-Absorption for Accurate Low-bit LLM Quantization

OSAQ: 用于准确低比特LLM量化中的异常自吸收

Zhikai Li, Zhen Dong, Xuewen Liu, Jing Zhang, Qingyi Gu

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； University of California, Santa Barbara（加州大学圣芭芭拉分校） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 本文提出OSAQ方法，通过利用Hessian的低秩特性，利用加法权重抑制技术有效抑制低比特量化中的异常，提升模型性能。

Comments ICML 2026

Reliable LLM-Based Edge-Cloud-Expert Cascades for Telecom Knowledge Systems

可靠的基于大语言模型的边缘-云-专家级联系统用于电信知识系统

Qiushuo Hou, Sangwoo Park, Matteo Zecchin, Yunlong Cai, Guanding Yu, Osvaldo Simeone, Tommaso Melodia

机构 * College of Information Science and Electronic Engineering, Zhejiang University（浙江大学信息科学与电子工程学院） ； Centre for Intelligent Information Processing Systems (CIIPS), Department of Engineering, King’s College London（伦敦国王学院工程系智能信息处理系统中心） ； Intelligent Networked Systems Institute (INSI) at Northeastern University（东北大学智能网络化系统研究所） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出一种边缘-云-专家级联的LLM知识系统，通过问答流程实现决策，利用高效边缘模型处理常规查询，云模型处理复杂问题，必要时引入专家。通过统计严谨的阈值选择方法，保证在给定置信水平下可靠性。

Comments This paper has been submitted to a journal

SkillLens: Adaptive Multi-Granularity Skill Reuse for Cost-Efficient LLM Agents

SkillLens: 适应性多粒度技能重用以实现成本高效的LLM代理

Yongliang Miao, Ziyang Yu, Liang Zhao, Bowen Zhu, Hasibul Haque

机构 * Emory University（埃默里大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 SkillLens通过分层技能进化框架实现多粒度技能重用，解决技能重用中的相关性与成本矛盾，提升LLM代理在MuLocbench和ALFWorld中的性能。

Reasoning emerges from constrained inference manifolds in large language models

推理源自大型语言模型中受限推断流形

Yanbiao Ma, Fei Luo, Linfeng Zhang, Chuangxin Zhao, Mingxuan Wang, Yinan Wu, Zhe Qian, Yang Lu, Long Chen, Zhao Cao, Xiaoshuai Hao, Ji-Rong Wen, Jungong Han

机构 * Renmin University of China（中国人民大学） ； Tsinghua University（清华大学） ； Xiaomi EV（小米电动车） ； Xiamen University（厦门大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract_cn)；分类 cs.CL、cs.LG

AI总结 研究通过分析推理过程中的内部表示演变，发现推理动态在高维空间中自组织为低维流形，但需满足表示能力、流形压缩和非退化信息体积等条件才能实现稳定推理。

TourMart: A Parametric Audit Instrument for Commission Steering in LLM Travel Agents

TourMart: 一种用于LLM旅行代理佣金管理的参数审计工具

Yao Liu

专题命中 效率与部署 ：LLM(title,title_cn)

AI总结 TourMart通过参数lambda和kappa驱动反事实分析，区分LLM工程故障与真实商业引导，验证代理引导效果，输出合规报告。

Agentic AI-Driven UAV Network Deployment: An LLM-Enhanced Exact Potential Game Approach

基于代理AI的无人机网络部署：一种增强型精确势博弈方法

Xin Tang, Xiaohuan Li, Qian Chen, Binhan Liao, Yaqi Zhang, Jianxin Chen, Changyuan Zhao, Junchuan Fan, Junxi Tian

专题命中 效率与部署 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出基于精确势博弈的无人机网络部署优化框架，结合代理AI与双重空间尺度算法，提升网络连接性与吞吐量，通过LLM自动生成效用权重以增强适应性。

Comments 16 pages, 8 figures

Deterministic Differentiable Structured Pruning for Large Language Models

确定性可微结构剪枝用于大语言模型

Weiyu Huang, Pengle Zhang, Xiaolu Zhang, Jun Zhou, Jun Zhu, Jianfei Chen

机构 * Department of Computer Science and Technology, Tsinghua University, Beijing, China（清华大学计算机科学与技术系） 纠错

专题命中 效率与部署 ：large language model(title)；language model(title)；LLM(abstract,abstract_cn)；分类 cs.CL、cs.LG

AI总结 本文提出确定性可微剪枝方法，通过优化离散l0目标的确定性软替代，减少训练-测试不匹配并提升收敛速度，实验证明在大语言模型中实现高效剪枝。

Comments Published at ICML26;

CoreQ: Learning-Free Mismatch Correction and Successive Rounding for Quantization

CoreQ: 无学习的不匹配校正与连续舍入用于量化

Seohyeon Cha, Huancheng Chen, Dongjun Kim, Haoran Zhang, Kevin Chan, Gustavo de Veciana, Haris Vikalo

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） ； DEVCOM Army Research Laboratory（陆军研究实验室） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 CoreQ提出一种无学习的PTQ框架，通过几何分解得到闭式系数校正不匹配，减少过拟合并提升性能，适用于多种LLM场景。

FlexPipe: Adapting Dynamic LLM Serving Through Inflight Pipeline Refactoring in Fragmented Serverless Clusters

FlexPipe：通过片段化无服务器集群中的飞行管道重构实现动态LLM服务

Yanying Lin, Shijie Peng, Chengzhi Lu, Chengzhong Xu, Kejiang Ye

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 FlexPipe通过动态重构管道架构，解决无服务器集群中资源碎片化和请求模式变化带来的效率问题，实现8.5倍资源利用率提升和38.3%的延迟降低。

Comments EuroSys 26

The Astonishing Ability of Large Language Models to Parse Jabberwockified Language

大型语言模型解析jabberwockified语言的惊人能力

Gary Lupyan, Senyi Yang

机构 * Department of Psychology, University of Wisconsin-Madison（威斯康星大学麦迪逊分校心理学系） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本研究展示大型语言模型能从严重退化的英文文本中恢复意义，通过替换内容词为无意义字符串的文本，模型能生成接近原文的常规英文，揭示了语法结构对词汇意义的强约束作用。

Comments Submitted to the 2026 Annual Meeting of the Cognitive Science Society

A Game Theoretic Free Energy Analysis of Higher Order Synergy in Attention Heads of Large Language Models

基于博弈自由能分析的大型语言模型注意力头中高阶协同效应

Djamel Bouchaffra

机构 * DAVID Lab, University of Paris-Saclay, UVSQ Campus, 78035 Versailles, France（巴黎萨克雷大学DAVID实验室，UVSQ校区，法国Versailles） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文通过博弈自由能原理分析大型语言模型注意力头中的高阶协同效应，揭示了高阶冗余性，并展示了通过剪枝降低计算成本的方法。

Comments this manuscript has been submitted to Neural Networks

Majority Bit-Aware Watermarking For Large Language Models

多数位感知水印技术用于大语言模型

Jiahao Xu, Rui Hu, Olivera Kotevska, Zikai Zhang

机构 * University of Nevada, Reno（内华达大学里诺分校） ； Oak Ridge National Laboratory（橡树岭国家实验室） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出多数位感知编码方法，通过放松绿色列表大小对水印信号强度的限制，提升大语言模型生成文本的解码准确性和文本质量。

Comments Preprint

RUBEN: Rule-Based Explanations for Retrieval-Augmented LLM Systems

RUBEN：基于规则的检索增强大语言模型输出解释工具

Joel Rorseth, Parke Godfrey, Lukasz Golab, Divesh Srivastava, Jarek Szlichta

机构 * University of Waterloo（滑铁卢大学） ； York University（约克大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 RUBEN通过新型剪枝策略发现最小规则集解释检索增强大语言模型输出，用于测试安全训练和对抗性提示注入效果。

Comments Accepted by ICDE 2026 (Demonstration Track)