语言大模型 / LLM

QaRL: Rollout-Aligned Quantization-Aware RL for Fast and Stable Training under Training--Inference Mismatch

QaRL：基于回放对齐的量化感知强化学习用于在训练-推理不匹配下的快速稳定训练

Hao Gu, Hao Wang, Jiacheng Liu, Lujun Li, Qiyuan Zhu, Bei Liu, Binxing Xu, Lei Wang, Xintong Yang, Sida Lin, Sirui Han, Yike Guo

机构 * The Hong Kong University of Science and Technology（香港科技大学） ； City University of Hong Kong（香港城市大学） ； Zhejiang University（浙江大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出QaRL，通过对齐训练和回放的量化过程，解决训练-推理不匹配问题，提升训练效率和稳定性，同时保持低比特吞吐量优势。

Real-Time Cross-Layer Semantic Error Correction Using Language Models and Software-Defined Radio

实时跨层语义错误校正使用语言模型和软件定义无线电

Yuchen Pan, Yuyang Du, Yirun Wang, Shiqi Xu, Lihao Zhang, Soung Chang Liew

专题命中 效率与部署 ：language model(title,abstract)

AI总结 本文提出利用语言模型和软件定义无线电实现实时跨层语义错误校正，通过融合物理层和语义层信息提升纠错性能。

Comments 2 pages, 4 figures, submitted to MobiSys' 26

ParkSense: Where Should a Delivery Driver Park? Leveraging Idle AV Compute and Vision-Language Models

ParkSense: 送货司机应该在哪里停车？利用空闲自动驾驶计算和视觉-语言模型

Die Hu, Henan Li

机构 * University of California, Santa Barbara（加州大学圣塔芭芭拉分校） ； Independent Researcher（独立研究员） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 本文提出ParkSense框架，利用自动驾驶低风险状态下的空闲计算资源运行视觉-语言模型，解决精准停车问题，并提出Delivery-Aware Precision Parking问题，展示量化7B VLM在硬件上的推理速度及对司机收入的提升。

Comments 7 pages, 3 tables. No university resources were used for this work

Multi-Agent Orchestration for High-Throughput Materials Screening on a Leadership-Class System

面向领导级系统的高通量材料筛选多智能体协调

Thang Duc Pham, Harikrishna Tummalapalli, Fakhrul Hasan Bhuiyan, Álvaro Vázquez Mayagoitia, Christine Simpson, Riccardo Balin, Venkatram Vishwanath, Murat Keçeli

机构 * Computational Science (CPS) Division, Argonne National Laboratory（阿贡国家实验室计算科学（CPS）部） ； Argonne Leadership Computing Facility (ALCF), Argonne National Laboratory（阿贡国家实验室阿贡领导力计算设施（ALCF）） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出一种可扩展的多智能体框架，用于在领导级系统上高效执行高通量筛选任务，通过中央规划代理动态分配任务并利用并行执行代理，降低开销并提高任务完成率。

GroupGPT: A Token-efficient and Privacy-preserving Agentic Framework for Multi-User Chat Assistant

GroupGPT: 一种高效且隐私保护的多用户聊天助手代理框架

Zhuokang Shen, Yifan Wang, Hanyu Chen, Yunhang Shen, Wenxuan Huang, Gaoqi He, Jiao Xie, Rongrong Ji, Shaohui Lin

机构 * East China Normal University（华东师范大学） ； University of Nottingham Ningbo（宁波诺丁汉大学） ； Xiamen University（厦门大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 GroupGPT通过边缘-云协作架构实现高效决策，支持多模态输入，减少token使用并保护隐私，通过MUIR基准测试验证其准确性和用户接受度。

Comments 14 pages, 8 figures

Accordion-Thinking: Self-Regulated Step Summaries for Efficient and Readable LLM Reasoning

Accordion-Thinking：通过动态摘要实现的自我调节步骤摘要以提高LLM推理的效率和可读性

Zhicheng Yang, Zhijiang Guo, Yinya Huang, Yongxin Wang, Wenlei Shi, Yiwei Wang, Xiaodan Liang, Jing Tang

机构 * Sun Yat-Sen University（中山大学） ； ETH AI Center, ETH Zurich（苏黎世联邦理工学院人工智能中心） ； University of California, Merced（加州大学默塞德分校） 纠错

专题命中 效率与部署 ：LLM(title)；分类 cs.AI、cs.LG

AI总结 本文提出Accordion-Thinking框架，通过动态摘要实现LLM推理的自我调节，减少历史token依赖，提升效率和可读性，实验显示其在48GB GPU内存配置下实现三倍吞吐量且保持准确率。

Will LLMs Scaling Hit the Wall? Breaking Barriers via Distributed Resources on Massive Edge Devices

大语言模型的扩展是否会碰壁？通过在大规模边缘设备上分布式资源打破障碍

Tao Shen, Didi Zhu, Ziyu Zhao, Zexi Li, Chao Wu, Fei Wu

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；foundation model(abstract)

AI总结 本文探讨通过大规模边缘设备的分布式资源突破大语言模型扩展的瓶颈，提出利用边缘设备进行分布式训练以实现AI的民主化发展。

Alloc-MoE: Budget-Aware Expert Activation Allocation for Efficient Mixture-of-Experts Inference

Alloc-MoE：基于预算的专家激活分配以实现高效的混合专家推理

Baihui Liu, Kaiyuan Tian, Wei Wang, Zhaoning Zhang, Linbo Qiao, Dongsheng Li

机构 * National Key Laboratory of Parallel and Distributed Computing, College of Computer Science and Technology, National University of Defense Technology（国防科技大学并行与分布计算国家重点实验室，计算机科学与技术学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出Alloc-MoE框架，通过层和token层面协调优化激活预算分配，减少推理延迟并保持性能，实验显示在DeepSeek-V2-Lite上实现1.15倍的预填和1.34倍的解码加速。

Comments ACL 2026 main

DIVERSED: Relaxed Speculative Decoding via Dynamic Ensemble Verification

DIVERSED: 通过动态集成验证实现放松的推测解码

Ziyi Wang, Siva Rajesh Kasa, Ankith M S, Santhosh Kumar Kasa, Jiaru Zou, Sumit Negi, Ruqi Zhang, Nan Jiang, Qifan Song

机构 * Purdue University（普渡大学） ； Amazon Inc.（亚马逊公司） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of Texas at El Paso（德克萨斯大学埃尔帕索分校） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 DIVERSED通过动态集成验证框架提升解码效率，保留生成质量，通过任务和上下文依赖的权重融合草案与目标模型分布，提升推理效率。

Comments 35 pages, 9 figures, accepted at AISTATS 2026

AsyncTLS: Efficient Generative LLM Inference with Asynchronous Two-level Sparse Attention

AsyncTLS: 高效的生成式大语言模型推理方法与异步两级稀疏注意力

Yuxuan Hu, Jianchao Tan, Jiaqi Zhang, Wen Zan, Pingwei Sun, Yifan Lu, Yerui Sun, Yuchen Xie, Xunliang Cai, Jing Zhang

机构 * School of Information, Renmin University of China（中国人民大学信息学院） ； Meituan（美团） 纠错

专题命中 效率与部署 ：LLM(title)；分类 cs.CL

AI总结 AsyncTLS通过结合粗粒度块过滤与细粒度token选择，平衡精度与效率，并利用异步卸载引擎提升性能，实现高精度与高吞吐量。

From LLM to Silicon: RL-Driven ASIC Architecture Exploration for On-Device AI Inference

从大语言模型到硅芯片：基于强化学习的ASIC架构探索用于设备端AI推理

Ravindra Ganti, Steve Xu

机构 * XgenSilicon Inc.（XgenSilicon公司） 纠错

专题命中 效率与部署 ：LLM(title)；分类 cs.LG

AI总结 本文提出一种基于强化学习的编译器，联合优化ASIC架构、内存层次和工作负载划分，以提升设备端AI推理性能。

Comments 25 pages, 12 figures, 21 tables

ModeX: Evaluator-Free Best-of-N Selection for Open-Ended Generation

ModeX：无需评估器的开放生成最佳-N选择

Hyeong Kyu Choi, Sharon Li

机构 * University of Wisconsin-Madison（威斯康星大学麦迪逊分校） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 ModeX提出一种无需外部评估器的最佳-N选择方法，通过识别主导语义共识的模态输出，提升开放生成任务的鲁棒性与效率。

Comments ACL 2026 Main

TSUBASA: Improving Long-Horizon Personalization via Evolving Memory and Self-Learning with Context Distillation

TSUBASA：通过动态记忆演化和基于上下文蒸馏的自我学习提升长周期个性化

Xinliang Frederick Zhang, Lu Wang

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 TSUBASA通过动态记忆演化和基于上下文蒸馏的自我学习，提升个性化大语言模型的长周期任务能力，在Qwen-3模型家族上验证了其有效性，超越了依赖记忆写入的Mem0和Memory-R1系统。

Adapting Foundation Models for Annotation-Efficient Adnexal Mass Segmentation in Cine Images

为 cine 图像中的腺体病变分割适应基础模型以提高标注效率

Francesca Fati, Alberto Rota, Adriana V. Gregory, Anna Catozzo, Maria C. Giuliano, Mrinal Dhar, Luigi De Vitis, Annie T. Packard, Francesco Multinu, Elena De Momi, Carrie L. Langstraat, Timothy L. Kline

机构 * Mayo Clinic（梅奥诊所） ； Politecnico di Milano（米兰理工大学） ； Istituto Europeo di Oncologia（欧洲肿瘤研究所） 纠错

专题命中 效率与部署 ：foundation model(title)

AI总结 本文提出一种标注效率高的分割框架，利用预训练的DINOv3基础视觉变压器主干，结合DPT解码器实现多尺度特征层次重组，取得优于U-Net等传统全监督基线的性能，且在数据稀缺情况下表现更优。

Efficient Federated Search for Retrieval-Augmented Generation using Lightweight Routing

高效联邦搜索用于检索增强生成：使用轻量级路由

Akash Dhasade, Rachid Guerraoui, Anne-Marie Kermarrec, Diana Petrescu, Rafael Pires, Mathis Randl, Martijn de Vos

机构 * EPFL（瑞士联邦理工学院洛桑分校） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出RAGRoute，一种轻量级路由机制，通过神经分类器动态选择相关数据源，减少通信开销和端到端延迟，同时保持检索质量，在三个基准测试中实现通信量减少80.65%和延迟减少52.50%。

Comments To appear in the proceedings of DAIS 2026 (Distributed Applications and Interoperable Systems). An earlier version appeared at EuroMLSys 2025

Graph Neural Networks for Misinformation Detection: Performance-Efficiency Trade-offs

图神经网络在虚假信息检测中的应用：性能-效率权衡

Soveatin Kuntur, Maciej Krzywda, Anna Wróblewska, Marcin Paprzycki, Maria Ganzha, Szymon Łukasik, Amir H. Gandomi

机构 * Warsaw University of Technology（华沙理工大学） ； Systems Research Institute, Polish Academy of Sciences（波兰科学院系统研究所） ； AGH University of Krakow（AGH科技大学） ； NASK National Research Institute（NASK国家研究所） ； University of Technology Sydney（悉尼科技大学） ； Óbuda University（欧布达大学） ； Khazar University（哈扎尔大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文对比图神经网络与非图方法在虚假信息检测中的性能与效率，发现GNN在多个数据集上均表现更优，且推理时间相近或更低。

Comments Accepted at Computational Modeling and Artificial Intelligence for Social Systems Track in ICCS 2026

Networking-Aware Energy Efficiency in Agentic AI Inference: A Survey

面向网络的代理AI推理能效：综述

Xiaojing Chen, Haiqi Yu, Wei Ni, Dusit Niyato, Ruichen Zhang, Xin Wang, Shunqing Zhang, Shugong Xu

机构 * Shanghai University（上海大学） ； Nanyang Technological University（南洋理工大学） ； Edith Cowan University（埃迪斯科文大学） ； Fudan University（复旦大学） ； Xi'an Jiaotong-Liverpool University（西交利物浦大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文综述了代理AI推理中网络感知能效问题，探讨了计算与通信能耗的统一分类，提出跨层协同设计策略，并指出联邦绿色学习、6G代理AI等开放挑战。

Silencing the Guardrails: Inference-Time Jailbreaking via Dynamic Contextual Representation Ablation

消除守护栏：通过动态上下文表示消解进行推理时的劫持

Wenpeng Xing, Moran Fang, Guangtai Wang, Changting Lin, Meng Han

机构 * Zhejiang University（浙江大学） ； Binjiang Institute of Zhejiang University（浙江大学滨江研究院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出CRA框架，通过动态抑制模型守护栏来提升推理时的劫持防御能力，实验显示其在多个开源LLM上表现优异，揭示了当前对齐机制的脆弱性。

CodecSight: Leveraging Video Codec Signals for Efficient Streaming VLM Inference

CodecSight: 利用视频编码信号实现高效的流式视频语言模型推理

Yulin Zou, Yan Chen, Wenyan Chen, JooYoung Park, Shivaraman Nitin, Luo Tao, Francisco Romero, Dmitrii Ustiugov

机构 * Beihang University（北京航空航天大学） ； Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 效率与部署 ：LLM(abstract)；language model(abstract)；分类 cs.LG

AI总结 CodecSight通过利用视频编码器内嵌的时空结构信息，实现流式视频分析的高效推理，提升吞吐量并减少GPU计算量，同时保持高精度。

Comments 18 pages, 34 figures

See the Forest for the Trees: Loosely Speculative Decoding via Visual-Semantic Guidance for Efficient Inference of Video LLMs

见林木而非树木：通过视觉-语义引导实现松散推测解码以提高视频大语言模型的推理效率

Yicheng Ji, Jun Zhang, Jinpeng Chen, Cong Wang, Lidan Shou, Gang Chen, Huan Li

机构 * ZJU（浙江大学） ； BUPT（北京邮电大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出LVSpec，一种无需训练的松散推测解码框架，通过视觉相关锚点识别和位置移位容忍机制，提升视频大语言模型的推理速度和精度。

Comments ACL'2026 Main Conference

SnapStream: Efficient Long Sequence Decoding on Dataflow Accelerators

SnapStream: 在数据流加速器上高效处理长序列解码

Jonathan Li, Nasim Farahini, Evgenii Iuliugin, Magnus Vesterlund, Christian Häggström, Guangtao Wang, Shubhangi Upasani, Ayush Sachdeva, Rui Li, Faline Fu, Chen Wu, Ayesha Siddiqua, John Long, Tuowen Zhao, Matheen Musaddiq, Håkan Zeffer, Yun Du, Mingran Wang, Qinghua Li, Bo Li, Urmish Thakker, Raghu Prabhakar

机构 * SambaNova Systems, Inc.（SambaNova系统公司） ； Microsoft AI（微软人工智能） ； Meta Platforms, Inc.（Meta平台公司） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文探讨了在数据流加速器上实现长序列解码的效率与准确性，提出SnapStream方法，通过压缩KV缓存提升芯片内存利用率，减少精度损失。

CompoDistill: Attention Distillation for Compositional Reasoning in Multimodal LLMs

CompoDistill：多模态大语言模型中基于注意力的知识蒸馏用于组合推理

Jiwan Kim, Kibum Kim, Sangwoo Seo, Chanyoung Park

机构 * KAIST（韩国科学技术院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出CompoDistill，通过显式对齐学生与教师模型的视觉注意力，提升多模态大语言模型的组合推理能力，同时保持视觉问答任务的性能。

Comments ICLR'26, Project Page : https://ptkjw1997.github.io/CompoDistill-page/

HAWK: Head Importance-Aware Visual Token Pruning in Multimodal Models

HAWK：多模态模型中的头部重要性感知视觉标记修剪

Qihui Zhu, Tao Zhang, Yuchen Wang, Zijian Wen, Mengjie Zhang, Shuangwu Chen, Xiaobin Tan, Jian Yang, Yang Liu, Zhenhua Dong, Xianzhi Yu, Yinfei Pan

机构 * University of Science and Technology of China（中国科学技术大学） ； ChangXin Memory Technologies, Inc（长鑫存储技术有限公司） ； Huawei Noah’s Ark Lab（华为诺亚方舟实验室） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 HAWK通过识别不同注意力头在视觉任务中的重要性，有效保留关键视觉标记，提升多模态模型的推理效率与性能。

Comments CVPR 2026

Exploring MLLMs Perception of Network Visualization Principles

探索 MLLMs 对网络可视化原则的感知

Jacob Miller, Markus Wallinger, Ludwig Felder, Timo Brand, Henry Förster, Johannes Zink, Chunyang Chen, Stephen Kobourov

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 研究测试多模态大语言模型是否能在网络布局属性感知任务中匹配人类表现，发现MLLMs在同等条件下表现优于非专家，且提示工程可提升性能，表明其可能依赖视觉代理而非计算实际值。

Hardware-Centric Analysis of DeepSeek's Multi-Head Latent Attention

面向硬件的深度寻求多头潜在注意力分析

Robin Geens, Marian Verhelst

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 本文分析了深度寻求的多头潜在注意力机制，探讨其在硬件上的执行策略及对加速器性能的影响，发现其在带宽受限硬件上具有更稳定的高效性能。

SeMoBridge: Semantic Modality Bridge for Efficient Few-Shot Adaptation of CLIP

SeMoBridge：用于CLIP高效少样本适应的语义模态桥

Christoph Timmermann, Hyunse Lee, Woojin Lee

专题命中 效率与部署 ：pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 SeMoBridge通过语义模态桥技术解决CLIP在少样本分类中的模态对齐问题，通过轻量级方法提升低数据场景下的性能，训练时间显著减少。

Comments 22 pages, 12 figures

Meta-learning In-Context Enables Training-Free Cross Subject Brain Decoding

基于上下文的元学习实现无训练跨受试者脑解码

Mu Nan, Muquan Yu, Weijian Mai, Jacob S. Prince, Hossein Adeli, Rui Zhang, Jiahang Cao, Benjamin Becker, John A. Pyles, Margaret M. Henderson, Chunfeng Song, Nikolaus Kriegeskorte, Michael J. Tarr, Xiaoqing Hu, Andrew F. Luo

机构 * University of Hong Kong（香港大学） ； Shenzhen Loop Area Institute（深圳河套学院） ； Chinese University of Hong Kong（香港中文大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Harvard University（哈佛大学） ； Columbia University（哥伦比亚大学） ； University of Washington（华盛顿大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.LG

AI总结 本文提出一种基于上下文的元学习方法，无需微调即可实现跨受试者的脑解码，通过上下文学习和分层推理提升解码效率与鲁棒性。

Comments Accepted to CVPR 2026, website: https://github.com/ezacngm/brainCodec

OVS-DINO: Open-Vocabulary Segmentation via Structure-Aligned SAM-DINO with Language Guidance

OVS-DINO：通过结构对齐的SAM-DINO与语言引导实现开放词汇分割

Haoxi Zeng, Qiankun Liu, Yi Bin, Haiyue Zhang, Yujuan Ding, Guoqing Wang, Deqiang Ouyang, Heng Tao Shen

机构 * Tongji University（同济大学） ； Hong Kong Polytechnic University（香港理工大学） ； University of Electronic Science and Technology of China（电子科技大学） ； Chongqing University（重庆大学） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.AI

AI总结 本文提出OVS-DINO框架，通过结构对齐SAM和语言引导恢复DINO的边界敏感性，提升开放词汇分割的精度和鲁棒性。

Comments 14 pages, 12 figures, 5 tables

From Gaze to Guidance: Interpreting and Adapting to Users' Cognitive Needs with Multimodal Gaze-Aware AI Assistants

从注视到引导：通过多模态注视感知AI助手解读和适应用户认知需求

Valdemar Danry, Javier Hernandez, Andrew Wilson, Pattie Maes, Judith Amores

机构 * Microsoft Research（微软研究院） ； MIT Media Lab（麻省理工学院媒体实验室） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI

AI总结 本文提出一种基于注视的多模态LLM助手，通过眼动追踪提升用户阅读行为评估的准确性与个性化，实验表明其能有效提升信息回忆能力并提高交互效率。

Robust Length Prediction: A Perspective from Heavy-Tailed Prompt-Conditioned Distributions

鲁棒长度预测：从重尾提示条件分布的角度

Jing Wang, Yu-Yang Qian, Ke Xue, Chao Qian, Peng Zhao, Zhi-Hua Zhou

机构 * State Key Laboratory of Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室） ； School of Artificial Intelligence, Nanjing University（南京大学人工智能学院） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.LG

AI总结 本文提出通过重尾提示条件分布进行鲁棒长度预测，改进传统单次采样方法，提升预测稳定性与准确性。