语言大模型 / LLM

Discovering Decoupled Functional Modules in Large Language Models

在大型语言模型中发现解耦的功能模块

Yanke Yu, Jin Li, Ying Sun, Ping Li, Zhefeng Wang, Yi Zheng

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.LG

AI总结 研究通过提出ULCMOD框架，解耦LLM中的神经元并发现输入样本的主题模块，提升模型可解释性和性能。

Comments AAAI-26 Oral

From Slides to Chatbots: Enhancing Large Language Models with University Course Materials

从幻灯片到聊天机器人：利用大学课程材料增强大语言模型

Tu Anh Dinh, Philipp Nicolas Schumacher, Jan Niehues

机构 * Karlsruhe Institute of Technology, Germany（卡尔斯鲁厄理工学院，德国） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL

AI总结 本文研究如何通过整合大学课程材料提升大语言模型在计算机科学课程中的表现，比较了RAG和CPT两种策略，并发现多模态RAG在处理包含图像和公式的幻灯片时更有效。

Comments Accepted to NSLP @ LREC 2026

Scalable UAV Multi-Hop Networking via Multi-Agent Reinforcement Learning with Large Language Models

通过多智能体强化学习与大语言模型实现可扩展的UAV多跳网络

Yanggang Xu, Jirong Zha, Weijie Hong, Xiangmin Yi, Geng Chen, Jianfeng Zheng, Chen-Chun Hsia, Xinlei Chen

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本文提出MRLMN框架，结合多智能体强化学习和大语言模型，提升UAV多跳网络性能，通过分组策略和奖励分解增强算法可扩展性，并利用知识蒸馏提升训练效率。

Comments 18 pages, 23 figures

Fine-Grained Post-Training Quantization for Large Vision Language Models with Quantization-Aware Integrated Gradients

细粒度后训练量化用于大型视觉语言模型的量化感知集成梯度

Ziwei Xiang, Fanhu Zeng, Hongjian Fang, Rui-Qi Wang, Renxing Chen, Yanan Zhu, Yi Chen, Peipei Yang, Xu-Yao Zhang

机构 * State Key Laboratory of Multimodal Artificial Intelligence Systems, CASIA（多模态人工智能系统国家重点实验室，中国科学院自动化所） ； School of Artificial Intelligence, UCAS（人工智能学院，中国科学院大学） ； Beijing National Research Center for Information Science and Technology（北京信息科学研究中心） ； Institute of Artificial Intelligence, USTB（信息科学技术大学人工智能学院） ； School of Artificial Intelligence, Beihang University（北京航空航天大学人工智能学院） ； Zhongguancun Academy（中关村学院） 纠错

专题命中 效率与部署 ：language model(title,abstract)；post-training(title,abstract)；分类 cs.AI

AI总结 本文提出细粒度后训练量化方法，通过量化感知集成梯度评估token敏感性，提升大型视觉语言模型的精度与效率。

Comments Accepted by CVPR 2026 Main Conference

InferDPT: Privacy-Preserving Inference for Closed-box Large Language Model

InferDPT：闭箱大语言模型的隐私保护推断

Meng Tong, Kejiang Chen, Jie Zhang, Yuang Qi, Weiming Zhang, Nenghai Yu, Tianwei Zhang, Zhikun Zhang

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)

AI总结 本文提出InferDPT框架，通过差分隐私机制实现闭箱大语言模型的隐私保护推断，结合扰动模块和提取模块，提升文本生成质量并抵御嵌入式修订攻击。

Deployment and Evaluation of an EHR-integrated, Large Language Model-Powered Tool to Triage Surgical Patients

一种集成电子健康记录的大型语言模型驱动工具在手术患者分诊中的部署与评估

Jane Wang, Timothy Keyes, April S Liang, Stephen P Ma, Jason Shen, Jerry Liu, Nerissa Ambers, Abby Pandya, Rita Pandya, Jason Hom, Natasha Steele, Jonathan H Chen, Kevin Schulman

机构 * Division of Hospital Medicine, Department of Medicine, Stanford University（斯坦福大学医院医学部，医学部） ； Stanford University School of Medicine（斯坦福大学医学院） ； Stanford Health Care, Technology and Digital Solutions（斯坦福健康，技术与数字解决方案） ； Division of Computational Medicine, Stanford University（斯坦福大学计算医学部） ； Stanford Health Care, Nursing Informatics（斯坦福健康，护理信息学） 纠错

专题命中 效率与部署 ：large language model(title)；language model(title)；LLM(abstract)；分类 cs.AI

AI总结 本文提出一种基于大型语言模型的工具，用于自动化手术患者分诊，通过电子健康记录实现，具有高灵敏度和中等特异性，展示了人工智能在医疗分诊中的应用价值。

Comments 35 pages, 4 figures, 5 tables

Efficient Soft Actor-Critic with LLM-Based Action-Level Guidance for Continuous Control

高效软演员-评论家与基于大语言模型的动作级指导在连续控制中的应用

Hao Ma, Zhiqiang Pu, Xiaolin Ai, Huimu Wang

机构 * School of Artificial Intelligence, University of Chinese Academy of Sciences, Beijing, China（中国科学院大学人工智能学院，北京，中国） ； Institute of Automation, Chinese Academy of Sciences, Beijing 100190, China（中国科学院自动化研究所，北京100190，中国） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出GuidedSAC算法，利用大语言模型提供动作级指导，提升连续控制中的探索效率，并通过理论分析和实验验证其收敛性和样本效率。

ZipServ: Fast and Memory-Efficient LLM Inference with Hardware-Aware Lossless Compression

ZipServ: 一种快速且内存高效的LLM推理方法，结合硬件感知的无损压缩

Ruibo Fan, Xiangrui Yu, Xinglin Pan, Zeyu Li, Weile Luo, Qiang Wang, Wei Wang, Xiaowen Chu

机构 * The Hong Kong University of Science（香港科学与技术大学） ； Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 ZipServ通过硬件感知的无损压缩技术，提升LLM推理效率，减少内存占用，实现比cuBLAS快2.21倍的内核速度和1.22倍的端到端推理加速。

Comments ASPLOS'26 Accepted Paper

ListK: Semantic ORDER BY and LIMIT K with Listwise Prompting

ListK: 基于列表提示的语义ORDER BY和LIMIT K

Jason Shin, Jiwon Chang, Fatemeh Nargesian

专题命中 效率与部署 ：prompting(title)；LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出ListK框架，通过结合列表wise排序算法优化语义ORDER BY和LIMIT K，显著降低延迟且不牺牲准确性。

RAMP: Reinforcement Adaptive Mixed Precision Quantization for Efficient On Device LLM Inference

RAMP：强化适应混合精度量化用于高效设备端LLM推理

Arpit Singh Gautam, Saurabh Jha

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 RAMP通过强化学习动态调整各层位宽，优化精度与效率平衡，在LLaMA 2 7B上实现更小模型体积和更高推理质量。

PhysQuantAgent: An Inference Pipeline of Mass Estimation for Vision-Language Models

PhysQuantAgent: 一种用于视觉-语言模型的物体质量估计推断流水线

Hisayuki Yokomizo, Taiki Miyanishi, Yan Gang, Shuhei Kurita, Nakamasa Inoue, Yusuke Iwasawa

机构 * The University of Tokyo（东京大学） ； Institute of Science Tokyo（东京科学研究院） ； National Institute of Informatics（信息处理技术研究所） 纠错

专题命中 效率与部署 ：language model(title,abstract)；prompting(abstract)；分类 cs.AI

AI总结 本文提出PhysQuantAgent框架和VisPhysQuant基准数据集，通过引入三种视觉提示方法提升视觉-语言模型对真实物体质量的估计精度。

Comments Code and dataset will be available at https://github.com/hisasnow/PhysQuantAgent

LUMINA: LLM-Guided GPU Architecture Exploration via Bottleneck Analysis

LUMINA: 通过瓶颈分析指导的LLM引导的GPU架构探索

Tao Zhang, Rui Ma, Shuotao Xu, Yongqiang Xiong, Peng Cheng

机构 * Microsoft Research（微软研究院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；language model(abstract)；分类 cs.AI

AI总结 LUMINA利用AI提升GPU设计空间探索效率，通过自动编译DSE规则和基准测试，实现高效高质量的设计指导，比传统方法提升17.5倍效率和32.9%的设计效果。

Stable Forgetting: Bounded Parameter-Efficient Unlearning in Foundation Models

稳定遗忘：基础模型中的有界参数高效反遗忘

Arpit Garg, Hemanth Saratchandran, Ravi Garg, Simon Lucey

机构 * Australian Institute for Machine Learning (AIML)（澳大利亚机器学习研究院） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出稳定反遗忘方法，通过限制MLP适配器的权重动态，解决基础模型中反遗忘的不稳定问题，并在多个基准测试中验证其有效性。

Comments In Submission

Empirical Recipes for Efficient and Compact Vision-Language Models

高效紧凑视觉-语言模型的实证配方

Jiabo Huang, Zhizhong Li, Sina Sajadmanesh, Weiming Zhuang, Lingjuan Lyu

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI

AI总结 本文通过实证分析识别了紧凑视觉-语言模型的瓶颈，提出优化配方显著降低延迟并保持精度，同时引入ArgusVLM模型家族在多种基准上表现优异。

Efficient Exploration at Scale

大规模高效探索

Seyed Mohammad Asghari, Chris Chute, Vikranth Dwaracherla, Xiuyuan Lu, Mehdi Jafarnia, Victor Minden, Zheng Wen, Benjamin Van Roy

机构 * Google（谷歌） ； DeepMind（深度思维） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；RLHF(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种在线学习算法，通过增量更新奖励和语言模型提升强化学习从人类反馈中的数据效率，采用小幅度正向激励、信念神经网络和信息导向探索等机制，实验表明在少于20k标签下达到200k标签的性能，预计1M标签可匹配1B标签的性能。

Speculative Decoding: Performance or Illusion?

推测解码：性能还是幻觉？

Xiaoxuan Liu, Jiaxiang Yu, Jongseok Park, Ion Stoica, Alvin Cheung

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文系统研究了推测解码在生产级推理引擎中的性能，分析了影响因素并量化理论上限，揭示了目标模型验证主导执行过程，且接受长度因输出位置、请求和数据集而异。

S-VGGT: Structure-Aware Subscene Decomposition for Scalable 3D Foundation Models

S-VGGT：面向可扩展3D基础模型的结构感知子场景分解

Xinze Li, Pengxu Chen, Yiyuan Wang, Weifeng Su, Wentao Cheng

机构 * Beijing Normal-Hong Kong Baptist University（北京师范大学-香港 Baptist大学） ； Jilin University（吉林大学） ； Hong Kong Baptist University（香港 Baptist大学） ； Guangdong Provincial Key Laboratory of Interdisciplinary Research and Application for Data Science（广东省交叉学科研究与数据科学应用重点实验室） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 本文提出S-VGGT方法，通过结构层面的冗余消除，解决3D基础模型中全局注意力带来的二次计算成本问题，实现高效且稳定的子场景划分与处理。

Comments 7 pages, 5 figures. Accepted by ICME 2026

Multi-stage Flow Scheduling for LLM Serving

多阶段流调度用于大语言模型服务

Yijun Sun, Xudong Liao, Songrun Xie, Hao Chen, Han Tian, Wenxue Li, Yiming Zhang, Kai Chen

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 本文提出MFS机制，通过动态优先级调度提升TTFT性能，有效降低网络竞争对SLO的影响。

Comments 18 pages, 14 figures

Deploying Semantic ID-based Generative Retrieval for Large-Scale Podcast Discovery at Spotify

在Spotify上部署基于语义ID的生成检索用于大规模播客发现

Edoardo D'Amico, Marco De Nadai, Praveen Chandar, Divita Vohra, Shawn Lin, Max Lefarov, Paul Gigioli, Gustavo Penha, Ilya Kopysitsky, Ivo Joel Senese, Darren Mei, Francesco Fabbri, Oguz Semerci, Yu Zhao, Vincent Tang, Brian St. Thomas, Alexandra Ranieri, Matthew N. K. Smith, Aaron Bernkopf, Bryan Leung, Ghazal Fazelnia, Mark VanMiddlesworth, Timothy Christopher Heath, Petter Pehrson Skiden, Alice Y. Wang, Doug J. Cole, Andreas Damianou, Maya Hristakeva, Reid Wilbur, Tarun Chillara, Vladan Radosavljevic, Pooja Chitkara, Sainath Adapa, Juan Elenter, Bernd Huber, Jacqueline Wood, Saaketh Vedantam, Jan Stypka, Sandeep Ghael, Martin D. Gould, David Murgatroyd, Yves Raimond, Mounia Lalmas, Paul N. Bennett

机构 * Spotify 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出GLIDE模型，通过语义ID实现播客推荐，结合语义、上下文和用户状态，提升用户发现新播客和非习惯性流媒体体验。

An End-to-End Framework for Functionality-Embedded Provenance Graph Construction and Threat Interpretation

面向功能嵌入的溯源图构建与威胁解释的端到端框架

Kushankur Ghosh, Mehar Klair, Kian Kyars, Euijin Choo, Jörg Sander

机构 * University of Alberta（阿尔伯塔大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出Auto-Prov框架，利用大语言模型自动构建溯源图，嵌入系统功能属性，提升异常检测性能并生成自然语言攻击总结。

Comments 21 pages, 7 figures

Swarm: Co-Activation Aware KVCache Offloading Across Multiple SSDs

Swarm: 多SSD间基于协激活的KV缓存卸载

Tuowei Wang, Liyun Chu, Ruwen Fan, Ju Ren

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 Swarm通过利用KV缓存中稳定的协激活特性，将单设备带宽受限的访问转化为多SSD的并行I/O，提升带宽利用率，降低I/O时间。

QFT: Quantized Full-parameter Tuning of LLMs with Affordable Resources

量子化全参数微调：在低成本资源下对大语言模型的全参数微调

Zhikai Li, Xiaoxuan Liu, Banghua Zhu, Zhen Dong, Qingyi Gu, Kurt Keutzer

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG；post-training(comments)

AI总结 本文提出QFT框架，通过将训练状态量化为INT8格式，减少内存占用，实现低成本全参数微调。采用Lion优化器和混合特征量化器，确保训练性能，使LLaMA-7B模型在A6000 GPU上仅需<30GB内存。

Comments ICLR 2026 Workshop on Scaling Post-training for LLMs (SPOT)

Unified Spatio-Temporal Token Scoring for Efficient Video VLMs

统一的空间时间令牌评分用于高效的视频视觉-语言模型

Jianrui Zhang, Yue Yang, Rohun Tripathi, Winson Han, Ranjay Krishna, Christopher Clark, Yong Jae Lee, Sangho Lee

机构 * University of Wisconsin-Madison（威斯康星大学麦迪逊分校） ； Allen Institute for AI（人工智能研究所） 纠错

专题命中 效率与部署 ：LLM(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出STTS，一种高效的统一空间时间令牌评分方法，通过辅助损失和LLM下游梯度学习，在不依赖文本条件或令牌合并的情况下，对视频中50%的视觉令牌进行修剪，提升训练和推理效率62%，性能下降仅0.7%。

Edge-Cloud Collaborative Computing on Distributed Intelligence and Model Optimization: A Survey

边缘-云协同计算在分布式智能与模型优化中的应用：综述

Jing Liu, Yao Du, Kun Yang, Jiaqi Wu, Yan Wang, Xiping Hu, Zehua Wang, Yang Liu, Peng Sun, Azzedine Boukerche, Victor C. M. Leung

机构 * Division of Natural and Applied Sciences, Duke Kunshan University（杜克-昆山大学自然科学与应用科学系） ； Department of Electrical and Computer Engineering, The University of British Columbia（不列颠哥伦比亚大学电气与计算机工程系） ； College of Future Information Technology, Fudan University（复旦大学未来信息科技学院） ； Ant Group（蚂蚁集团） ； College of Information Science and Electronic Engineering, Zhejiang University（浙江大学信息科学与电子工程学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文综述了边缘-云协同计算在分布式智能与模型优化中的应用，探讨了核心架构、技术及挑战，包括模型压缩、适应与神经网络架构搜索，以及AI驱动的资源管理策略，同时分析了隐私保护、安全增强及实际部署案例。

Comments Accepted by IEEE ComST. 45 pages, 13 figures, 10 tables

Early Quantization Shrinks Codebook: A Simple Fix for Diversity-Preserving Tokenization

早量化缩小代码表：一种维持多样性token化问题的简单修复

Wenhao Zhao, Qiran Zou, Rushi Shah, Yudi Wu, Zhouhan Lin, Dianbo Liu

机构 * National University of Singapore（国立新加坡大学） ； Zhejiang University（浙江大学） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文研究了向量量化中的坍塌问题，发现随机初始化和编码器容量限制导致token和嵌入坍塌，并提出缓解方案，是首次系统探讨该问题。

Attention-guided Evidence Grounding for Spoken Question Answering

基于注意力的证据 grounding 用于语音问答

Ke Yang, Bolin Chen, Yuejie Li, Yueying Hua, Jianhao Nie, Yueping He, Bowen Li, Chengjun Mao

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出基于注意力的证据 grounding 方法，通过 SpeechLLM 的内部跨模态注意力机制定位关键证据，减少幻觉并提升效率，优于传统 cascaded 系统。

Comments Accepted to ICME 2026

Look Where It Matters: High-Resolution Crops Retrieval for Efficient VLMs

关注关键区域：为高效视觉语言模型的高分辨率作物检索

Nimrod Shabtay, Moshe Kimhi, Artem Spector, Sivan Haray, Ehud Rivlin, Chaim Baskin, Raja Giryes, Eli Schwartz

机构 * IBM Research（IBM研究院） ； Tel-Aviv University（特拉维夫大学） ； Technion（技术学院） ； Ben-Gurion University（本· Gurion大学） 纠错

专题命中 效率与部署 ：language model(abstract)；SFT(abstract)；分类 cs.AI

AI总结 AwaRes通过低分辨率全局视图和工具调用实现准确与效率的平衡，自动构建监督数据并结合复合奖励训练框架，提升视觉语言模型的检索效率。

Safety-Preserving PTQ via Contrastive Alignment Loss

通过对比对齐损失实现安全性的PTQ

Sunghyun Wee, Suyoung Kim, Hyeonjin Kim, Kyomin Hwang, Nojun Kwak

机构 * Seoul National University（首尔国立大学） ； LG Electronics（LG电子） 纠错

专题命中 效率与部署 ：LLM(abstract)；post-training(abstract)；分类 cs.AI

AI总结 本文提出CAQ方法，通过引入对比对齐损失解决PTQ中安全对齐不足的问题，实现更稳健的4位量化，提升模型安全性而不牺牲通用能力。

Comments 9 pages, 4 figures. Includes 8 pages of supplementary material

SemanticFace: Semantic Facial Action Estimation via Semantic Distillation in Interpretable Space

SemanticFace: 通过可解释空间中的语义蒸馏进行语义面部动作估计

Zejian Kang, Kai Zheng, Yuanchen Fei, Wentao Yang, Hongyuan Zou, Xiangru Huang

机构 * Zhejiang University（浙江大学） ； Westlake University（西湖大学） ； Hunan University（湖南大学） ； The University of Hong Kong（香港大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 SemanticFace通过语义蒸馏在可解释空间中估计面部动作，提升系数精度和可解释性，实现跨身份泛化和抗域移性能。

Dropout Robustness and Cognitive Profiling of Transformer Models via Stochastic Inference

通过随机推断分析变换器模型的丢弃鲁棒性与认知分析

Antônio Junior Alves Caiado, Michael Hahsler

机构 * Lyle School of Engineering, Southern Methodist University, Dallas, TX, USA（莱尔工程学院，南方 Methodist 大学，德克萨斯州达拉斯） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文通过随机推断分析19种变换器模型的丢弃鲁棒性，揭示其在不确定性应用中的可靠性差异，提出认知分解框架以指导模型选择。