语言大模型 / LLM

Rocks, Pebbles and Sand: Modality-aware Scheduling for Multimodal Large Language Model Inference

岩石、鹅卵石和沙子：面向多模态大语言模型推理的模态感知调度

Konstantinos Papaioannou, Thaleia Dimitra Doudali

机构 * IMDEA Software Institute（IMDEA软件研究所） ； Universidad Politécnica de Madrid（马德里理工大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI

AI总结 针对多模态大语言模型推理中资源需求差异大导致的延迟和内存问题，提出RPS-Serve调度器，通过动态优先级和老化机制实现高效资源利用，降低TTFT并提升响应性能。

A Pipelined Collaborative Speculative Decoding Framework for Efficient Edge-Cloud LLM Inference

一种用于高效边缘-云LLM推理的流水线协同推测解码框架

Yida Zhang, Zhiyong Gao, Shuaibing Yue, Jie Li, Rui Wang

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；small language model(abstract)

AI总结 本文提出PicoSpec框架，通过异步流水线解决边缘协作中的等待问题，并引入稀疏压缩降低通信延迟，实现在边缘-云协同推理中的高效性能。

Comments 8 pages, 6 figures

TernaryLM: Memory-Efficient Language Modeling via Native 1.5-Bit Quantization with Adaptive Layer-wise Scaling

TernaryLM: 通过原生1.5位量化与自适应层间缩放实现内存高效的语言模型

Nisharg Nargund, Priyesh Shukla

机构 * KIIT Bhubaneshwar, India（印度KIIT大学） ； IIIT Hyderabad, India（印度国际信息技术学院海德拉巴分校） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；pretraining(abstract)；post-training(abstract)

AI总结 TernaryLM通过原生1.5位量化与自适应层间缩放，在保持语言建模能力的同时显著减少内存使用，实验显示其在多个任务上的表现优异，且在小数据集上防止过拟合。

CLASP: Defending Hybrid Large Language Models Against Hidden State Poisoning Attacks

CLASP：防御混合大语言模型中的隐藏状态污染攻击

Alexandre Le Mercier, Thomas Demeester, Chris Develder

机构 * Ghent University–imec（根特大学–imec） 纠错

专题命中 效率与部署 ：large language model(title)；language model(title)；LLM(abstract)；分类 cs.CL

AI总结 CLASP通过分析Mamba块输出嵌入的差异模式，利用XGBoost分类器检测恶意token，实现高效防御隐藏状态污染攻击，具有轻量级部署优势。

Comments 22 pages, 6 figures

AgentCollab: A Self-Evaluation-Driven Collaboration Paradigm for Efficient LLM Agents

AgentCollab: 一种以自我评估驱动的高效大语言模型代理协作范式

Wenbo Gao, Renxi Liu, Xian Wang, Fang Guo, Shuai Yang, Xi Chen, Hui-Ling Zhen, Hanting Chen, Weizhe Lin, Xiaosong Li, Yaoyuan Wang

机构 * Huawei（华为） ； Hong Kong Polytechnic University（香港理工大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出AgentCollab框架，通过自我反思信号动态协调不同推理能力的模型，提升LLM代理在复杂任务中的准确性和效率。

ETA-VLA: Efficient Token Adaptation via Temporal Fusion and Intra-LLM Sparsification for Vision-Language-Action Models

ETA-VLA：通过时间融合和内在LLM稀疏化实现高效标记适应的视觉-语言-动作模型

Yiru Wang, Anqing Jiang, Shuo Wang, Yuwen Heng, Zichong Gu, Hao Sun

机构 * Bosch Corporate Research, Bosch (China) Investment Ltd.（博世企业研究，博世（中国）投资有限公司） ； School of Communication and Information Engineering, Shanghai University（上海大学通信与信息工程学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出ETA-VLA框架，通过时间融合和内在LLM稀疏化技术，减少视觉-语言-动作模型的计算负担，实验表明在保持高精度的同时，显著降低计算量。

Distilling Conversations: Abstract Compression of Conversational Audio Context for LLM-based ASR

对话蒸馏：用于基于LLM的ASR的对话音频上下文抽象压缩

Shashi Kumar, Esaú Villatoro-Tello, Sergio Burdisso, Kadri Hacioglu, Thibault Bañeras-Roux, Hasindri Watawana, Dairazalia Sanchez-Cortes, Srikanth Madikeri, Petr Motlicek, Andreas Stolcke

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文研究了多模态上下文对基于LLM的ASR的提升效果及高效表示方法，提出抽象压缩技术以减少先前对话的音频负载，实验证明其在领域内和领域外数据集上均有效。

Comments 11 pages

TurboESM: Ultra-Efficient 3-Bit KV Cache Quantization for Protein Language Models with Orthogonal Rotation and QJL Correction

TurboESM: 3-bit KV缓存量化在蛋白质语言模型中的超高效实现，结合正交旋转与QJL校正

Yue Hu, Junqing Wang, Yingchao Liu

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)

AI总结 本文提出TurboESM，通过正交旋转和QJL校正实现蛋白质语言模型的3-bit KV缓存量化，实现7.1倍内存减少和高相似度，同时优化解码速度，但存在预填充开销。

Comments 16 pages, 7 tables

Shape and Substance: Dual-Layer Side-Channel Attacks on Local Vision-Language Models

形状与物质：针对本地视觉-语言模型的双层侧信道攻击

Eyal Hadad, Mordechai Guri

机构 * Ben-Gurion University of the Negev（内盖夫本-古里安大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文针对本地视觉-语言模型的动态高分辨率预处理引入的算法侧信道，提出双层攻击框架，通过执行时间差异和缓存竞争分析，揭示隐私敏感内容的推理能力。

Comments 13 pages, 8 figures

Dual-objective Language Models: Training Efficiency Without Overfitting

双目标语言模型：无需过拟合的训练效率

David Samuel, Lucas Georges Gabriel Charpentier

机构 * University of Oslo（奥斯陆大学） ； National Library of Norway（挪威国家图书馆） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文结合自回归和掩码扩散训练目标，提出灵活的语言模型，优于单一目标模型。通过训练50个模型，证明双目标训练在效率与抗过拟合间取得最佳平衡。

Journal ref The Fourteenth International Conference on Learning Representations (ICLR 2026)

LiteCache: A Query Similarity-Driven, GPU-Centric KVCache Subsystem for Efficient LLM Inference

LiteCache: 一种基于查询相似性的、以GPU为中心的KVCache子系统，用于高效的大语言模型推理

Jiawei Yi, Ping Gong, Youhui Bai, Zewen Jin, Shengnan Wang, Jiaqi Ruan, Jia He, Jiaan Zhu, Pengcheng Wang, Haibo Wang, Weiguang Wang, Xia Zhu, Cheng Li

机构 * University of Science and Technology of China（中国科学技术大学） ； Independent Researcher（独立研究者） ； Huawei Technologies Co., Ltd（华为技术有限公司） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.LG

AI总结 LiteCache通过基于查询相似性的头粒度缓存算法QSAC，减少CPU开销，充分利用PCIe带宽，提升解码吞吐量。

EVA: Efficient Reinforcement Learning for End-to-End Video Agent

EVA: 为端到端视频代理的高效强化学习

Yaolun Zhang, Ruohui Wang, Jiahao Wang, Yepeng Tang, Xuanyu Zheng, Haonan Duan, Hao Lu, Hanming Deng, Lewei Lu

机构 * SenseTime Research（商汤科技研究院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.CL、cs.AI

AI总结 EVA通过迭代总结-计划-行动-反思推理实现先规划后感知，提升长视频理解效率，采用三阶段学习流程和高质量数据集，在六个视频理解基准上取得显著提升。

Comments CVPR2026

WiMamba: Linear-Scale Wireless Foundation Model

WiMamba：线性标度无线基础模型

Tomer Raviv, Nir Shlezinger

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 本文提出WiMamba，一种基于Mamba架构的无线基础模型，通过选择性状态空间模型替代注意力机制，实现线性时间序列建模，提升无线系统推理效率与表达能力。

IncreRTL: Traceability-Guided Incremental RTL Generation under Requirement Evolution

IncreRTL: 基于需求演化的跟踪引导增量RTL生成

Luanrong Chen, Renzhi Chen, Xinyu Li, Shanshan Li, Rui Gong, Lei Wang

机构 * National University of Defense Technology（国防科技大学） ； Defense Innovation Institute, Academy of Military Sciences（军事科学院国防创新研究院） ； Qiyuan Lab（启元实验室） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出IncreRTL框架，通过构建需求-代码追踪链接，实现增量RTL生成，提升生成一致性和效率，推动LLM在RTL生成中的工程应用。

LLaDA-TTS: Unifying Speech Synthesis and Zero-Shot Editing via Masked Diffusion Modeling

LLaDA-TTS: 通过掩码扩散建模统一语音合成与零样本编辑

Xiaoyu Fan, Huizhi Xie, Wei Zou, Yunzhang Chen

机构 * BRVoice Team, Bairong, Inc., China（百融云创BRVoice团队，中国） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 LLaDA-TTS通过掩码扩散模型替代自回归解码，实现语音合成与零样本编辑的统一，提升生成速度并减少推理延迟。

Comments 11 pages, 6 figures, 2 tables

Experimental study on surveillance video-based indoor occupancy measurement with occupant-centric control

基于监控视频的室内占用测量实验研究：以以 occupant-centric 控制为中心

Irfan Qaisar, Kailai Sun, Qingshan Jia, Qianchuan Zhao

机构 * Center for Intelligent and Networked Systems, Department of Automation, BNRist, Tsinghua University（清华大学自动化系智能与网络化系统中心，北京信息科学与技术国家研究中心） ； Urban Mobility Lab, Massachusetts Institute of Technology（麻省理工学院城市移动实验室） ； Singapore-MIT Alliance for Research and Technology Centre, Massachusetts Institute of Technology（麻省理工学院新加坡-麻省理工学院研究与技术联盟中心） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文研究了基于监控视频的室内占用测量方法，通过比较检测、跟踪和LLM优化流程，展示了LLM对提高测量精度和减少误报的影响，最终在HVAC控制中实现了17.94%的节能潜力。

Hierarchical Control Framework Integrating LLMs with RL for Decarbonized HVAC Operation

分层控制框架：整合大语言模型与强化学习用于去碳化暖通空调操作

Dianyu Zhong, Tian Xing, Kailai Sun, Xu Yang, Heye Huang, Irfan Qaisar, Tinggang Jia, Shaobo Wang, Qianchuan Zhao

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出一种分层控制框架，结合大语言模型与强化学习，通过生成状态依赖的可行动作掩码，优化多区暖通空调系统的去碳化操作，提升探索效率和训练稳定性。

JAL-Turn: Joint Acoustic-Linguistic Modeling for Real-Time and Robust Turn-Taking Detection in Full-Duplex Spoken Dialogue Systems

JAL-Turn：联合声学-语言建模用于全双工语音对话系统中实时且鲁棒的轮流检测

Guangzhao Yang, Yu Pan, Shi Qiu, Ningjie Bai

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出JAL-Turn框架，通过联合声学-语言建模实现高效实时轮流检测，利用交叉注意力模块整合预训练声学表示与语言特征，同时共享冻结的ASR编码器以并行处理，提升准确性和实时性。

Comments 8 pages, in porgress

Generative Score Inference for Multimodal Data

多模态数据生成分数推断

Xinyu Tian, Xiaotong Shen

机构 * School of Statistics, University of Minnesota（明尼苏达大学统计学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出生成分数推断（GSI）框架，通过深度生成模型生成合成样本近似条件分数分布，提升多模态学习中的不确定性量化能力，在大语言模型幻觉检测和图像描述不确定性估计中取得最佳性能。

Comments 25 pages, 4 figures

To See is Not to Master: Teaching LLMs to Use Private Libraries for Code Generation

看清并非掌握：教LLM使用私有库进行代码生成

Yitong Zhang, Chengze Li, Ruize Chen, Guowei Yang, Xiaoran Jia, Yijie Ren, Jia Li

机构 * College of AI, Tsinghua University（清华大学人工智能学院） ； Proxseer Inc.（Proxseer公司） ； School of Computer Science, Nanjing University（南京大学计算机科学与技术学院） ； Software Institute, Nanjing University（南京大学软件学院） ； School of Computer Science and Technology, Beijing Institute of Technology（北京理工大学计算机科学与技术学院） ； School of Computer Science and Engineering, Beihang University（北京航空航天大学计算机科学与工程学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出PriCoder方法，通过自动生成数据教LLM有效调用私有库API，提升私有库代码生成能力，实验显示在多种设置下pass@1指标提升超20%。

Comments 12 pages

Compositional Image Synthesis with Inference-Time Scaling

基于推理时缩放的图像合成

Minsuk Ji, Sanghyeok Lee, Namhyuk Ahn

机构 * Inha University（仁荷大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出一种无需训练的框架，结合对象中心方法与自我完善，提升布局忠实度并保持美学质量，通过大语言模型生成布局并注入图像生成过程，利用对象中心视觉-语言模型进行迭代选择，实现更强的场景对齐。

Comments projcet page: https://github.com/gcl-inha/ReFocus

Dynamic Token Compression for Efficient Video Understanding through Reinforcement Learning

通过强化学习实现高效的视频理解动态令牌压缩

Shida Wang, YongXiang Hua, Zhou Tao, Haoyu Cao, Linli Xu

机构 * University of Science and Technology of China（中国科学技术大学） ； State Key Laboratory of Cognitive Intelligence（认知智能国家重点实验室） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 本文提出SCORE框架，通过强化学习学习自适应令牌压缩策略，有效解决视频理解中的计算成本和上下文旋转问题，实现16倍的预填充加速且性能损失仅0.5%。

One Is Not Enough: How People Use Multiple AI Models in Everyday Life

一个不够：人们如何在日常生活中使用多个AI模型

Seunghwa Pyo, Donggun Lee, Jungwoo Rhee, Soobin Park, Youn-kyung Lim

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 研究探讨了人们如何在日常生活中协调多个多模态大语言模型，揭示用户构建模型层级和切换策略以优化任务效率与输出可信度。

Comments Accepted as a poster at CHI 2026

Can a Robot Walk the Robotic Dog: Triple-Zero Collaborative Navigation for Heterogeneous Multi-Agent Systems

机器人能否行走：异构多智能体系统的三零协同导航

Yaxuan Wang, Yifan Xiang, Ke Li, Xun Zhang, BoWen Ye, Zhuochen Fan, Fei Wei, Tong Yang

机构 * Yuanpei College, Peking University（北京大学元培学院） ； School of Computer Science, Peking University（北京大学计算机学院） ； School of Computer Science, Beijing University of Posts and Telecommunications（北京邮电大学计算机学院） ； Pengcheng Laboratory（鹏城实验室） ； Beijing Jinruyi Large Model Technology Co., Ltd.（北京金如意大模型科技有限公司） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 本文提出三零路径规划框架，通过协调者-探索者架构实现无需训练、无需先验知识和无需模拟的异构多机器人系统协作导航，实验显示其在复杂环境中具有鲁棒性和适应性。

Comments 8 pages, 2 figures

A Human-Inspired Decoupled Architecture for Efficient Audio Representation Learning

一种受人类启发的解耦架构用于高效的音频表示学习

Harunori Kawano, Takeshi Sasaki

机构 * University of Technology Sydney（悉尼科技大学） ； Shibaura Institute of Technology（芝浦工业大学） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出HEAR架构，通过解耦模块和知识蒸馏实现高效音频表示学习，减少参数和计算成本，同时保持高性能。

AgentTrace: Causal Graph Tracing for Root Cause Analysis in Deployed Multi-Agent Systems

AgentTrace: 多智能体系统部署中的因果图追踪用于根本原因分析

Zhaohui Geoffrey Wang

机构 * USC Viterbi School of Engineering（南加州大学维特比工程学院） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI、cs.LG

AI总结 AgentTrace通过构建因果图追踪多智能体系统部署中的根本原因，实现高精度和低延迟的故障诊断，优于启发式和LLM基线方法。

Comments 11 pages, 1 figure, 19 tables. Published at ICLR 2026 Workshop on Agents in the Wild. Camera-ready version with revised layout and framework overview figure

MAGNET: Autonomous Expert Model Generation via Decentralized Autoresearch and BitNet Training

MAGNET：通过去中心化自研与BitNet训练实现自主专家模型生成

Yongwan Kim, Sungchul Park

机构 * Holo Studio Co., Ltd.（Holo Studio 有限公司） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 MAGNET通过去中心化自研和BitNet训练，实现跨通用硬件的领域专家语言模型自主生成、训练与服务，核心贡献包括自研流水线、BitNet三进制训练、分布式融合与链上贡献追踪。

Comments 20 pages, 4 figures, 8 tables

SonicMoE: Accelerating MoE with IO and Tile-aware Optimizations

SonicMoE：通过IO和Tile-aware优化加速MoE

Wentao Guo, Mayank Mishra, Xinle Cheng, Ion Stoica, Tri Dao

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出SonicMoE算法，通过减少激活缓存和设计GPU内核，提升MoE模型的计算效率和内存利用率，实现45%的内存节省和1.86倍的计算吞吐量提升。

Comments Include the new Blackwell benchmark results

DUET-VLM: Dual stage Unified Efficient Token reduction for VLM Training and Inference

DUET-VLM：双阶段统一高效令牌减少用于VLM训练和推理

Aditya Kumar Singh, Hitesh Kandala, Pratik Prabhanjan Brahma, Zicheng Liu, Emad Barsoum

机构 * Advanced Micro Devices, Inc. (AMD)（超威半导体公司（AMD）） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 DUET-VLM通过双阶段令牌压缩框架，在保持语义的同时显著减少视觉令牌数量，实现高效训练和推理。

Comments 15 Pages, 8 figures, 15 tables, CVPR 2026; Code: AGI/DUET-VLM" target="_blank" rel="noopener">https://github.com/AMD-AGI/DUET-VLM

Sigmoid Head for Quality Estimation under Language Ambiguity

用于语言歧义下的质量估计的Sigmoid头

Tu Anh Dinh, Jan Niehues

机构 * Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL

AI总结 本文提出Sigmoid头模块，通过改进语言模型的概率估计方法，解决语言歧义导致的输出质量评估不准确问题，提升模型在非领域场景下的鲁棒性。