语言大模型 / LLM

Oracle-Robust Online Alignment for Large Language Models

面向大语言模型的Oracle鲁棒在线对齐

Zimeng Li, Mudit Gaur, Vaneet Aggarwal

机构 * Purdue University（普渡大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.LG

AI总结 本文提出了一种Oracle鲁棒的在线对齐方法，通过引入不确定性集和敏感性惩罚，实现了对大语言模型在不准确偏好反馈下的鲁棒优化。

Application of Large Language Models for Container Throughput Forecasting: Incorporating Contextual Information in Port Logistics

大型语言模型在集装箱吞吐量预测中的应用：在港口物流中融入上下文信息

Minseop Kim, Jaeeun Kwon, Hanbyeol Park, Kikun Park, Taekhyun Park, Hyerim Bae

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本研究利用大型语言模型预测集装箱吞吐量，通过设计新的提示结构融入港口运营上下文信息，实验表明其优于现有方法，并探讨了LLM在港口物流中的应用约束与未来研究方向。

KBVQ-MoE: KLT-guided SVD with Bias-Corrected Vector Quantization for MoE Large Language Models

KBVQ-MoE：基于KLT引导SVD与偏置校正向量量化的大语言模型MoE

Zukang Xu, Zhixiong Zhao, Xing Hu, Zhixuan Chen, Dawei Yang

机构 * Houmo AI ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 KBVQ-MoE通过KLT引导SVD和偏置校正输出稳定化，提升MoE大语言模型的极低比特量化精度与部署效率。

Comments Accepted by ICLR 2026

Benchmarking Distilled Language Models: Performance and Efficiency in Resource-Constrained Settings

评估压缩语言模型：在资源受限环境中的性能与效率

Sachin Gopal Wani, Eric Page, Ajay Dholakia, David Ellison

专题命中 效率与部署 ：language model(title,abstract)；small language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文通过对比蒸馏模型与原始模型，验证了蒸馏在资源受限环境下提升性能与效率的优越性。

Comments 16 pages, 5 figures, accepted at the the 2025 TPCTC Conference

OptiLeak: Efficient Prompt Reconstruction via Reinforcement Learning in Multi-tenant LLM Services

OptiLeak: 通过强化学习在多租户LLM服务中高效重建提示

Longxiang Wang, Xiang Zheng, Xuhao Zhang, Yao Zhang, Ye Wu, Cong Wang

机构 * City University of Hong Kong（香港城市大学） ； ByteDance Inc.（字节跳动公司） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；preference optimization(abstract)；分类 cs.AI

AI总结 OptiLeak通过强化学习和两阶段微调，在多租户LLM服务中高效重建提示，减少请求次数达12.48倍，提升隐私保护。

TOM: A Ternary Read-only Memory Accelerator for LLM-powered Edge Intelligence

TOM：一种用于LLM赋能边缘智能的三进制只读存储器加速器

Hongyi Guan, Yijia Zhang, Wenqiang Wang, Yizhao Gao, Shijie Cao, Chen Zhang, Ningyi Xu

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)

AI总结 TOM通过三进制量化与混合ROM-SRAM架构，实现高密度、低功耗的边缘智能推理加速。

Comments 13 pages

Protein Language Models Diverge from Natural Language: Comparative Analysis and Improved Inference

蛋白质语言模型偏离自然语言：比较分析与改进推理

Anna Hart, Chi Han, Jeonghwan Kim, Huimin Zhao, Heng Ji

机构 * Siebel School of Data Science and Computing（数据科学与计算系） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； DOE Center for Advanced Bioenergy and Bioproducts Innovation（能源与生物产品创新部门） ； Chemical and Biomolecular Engineering（化学与生物分子工程系） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本研究通过比较蛋白质与自然语言领域中信息分布差异，改进蛋白质非结构性质预测的准确性和效率。

Characterizing LLM Inference Energy-Performance Tradeoffs across Workloads and GPU Scaling

表征跨工作负载和GPU扩展的LLM推理能效权衡

Paul Joe Maliakel, Shashikant Ilager, Ivona Brandic

机构 * Multiscale Networked Systems Group University of Amsterdam, Netherlands（多尺度网络化系统组 阿姆斯特丹大学，荷兰） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.LG

AI总结 本文研究了LLM推理在不同工作负载和GPU扩展下的能效权衡，发现解码阶段主导推理时间且对GPU频率不敏感，通过降低频率可实现显著能耗节省，同时提出结合工作负载感知模型选择与阶段感知DVFS的节能策略。

Foundation Models for Causal Inference via Prior-Data Fitted Networks

通过先验-数据拟合网络进行因果推断的基础模型

Yuchen Ma, Dennis Frauen, Emil Javurek, Stefan Feuerriegel

机构 * LMU Munich & MCML（慕尼黑莱茵恩大学及MCML） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.LG

AI总结 CausalFM通过先验-数据拟合网络构建因果推断的基础模型框架，实现贝叶斯因果推断。

Predicting Sentence Acceptability Judgments in Multimodal Contexts

在多模态上下文中预测句子可接受性判断

Hyewon Jang, Nikolai Ilinykh, Sharid Loáiciga, Jey Han Lau, Shalom Lappin

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究探讨了在多模态上下文中，视觉上下文对人类和LLM句子可接受性判断的影响，发现LLM在去除视觉上下文时表现更优，且不同模型的判断分布各异。

ReviveMoE: Fast Recovery for Hardware Failures in Large-Scale MoE LLM Inference Deployments

ReviveMoE: 大规模MoE大语言模型推理部署中硬件故障的快速恢复

Haley Li, Xinglu Wang, Cong Feng, Chunxu Zuo, Yanan Wang, Hei Lo, Yufei Cui, Bingji Wang, Duo Cui, Shuming Jing, Yizhou Shan, Ying Xiong, Jiannan Wang, Yong Zhang, Zhenan Fan

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 ReviveMoE通过无需重启服务实例实现大规模MoE大语言模型部署中的快速故障恢复，基于华为的xDeepServe平台和XCCL通信库。

Comments 21 pages, 6 figures

HELP: HyperNode Expansion and Logical Path-Guided Evidence Localization for Accurate and Efficient GraphRAG

HELP: 图形节点扩展与逻辑路径引导的证据定位用于准确且高效的图RAG

Yuqi Huang, Ning Liao, Kai Yang, Anning Hu, Shengchao Hu, Xiaoxing Wang, Junchi Yan

机构 * Shanghai Jiao Tong University, China（上海交通大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 HELP通过HyperNode扩展和逻辑路径引导的证据定位策略，提升图RAG在准确性和效率之间的平衡，实现高效且准确的知识检索。

ICON: Indirect Prompt Injection Defense for Agents based on Inference-Time Correction

ICON：基于推理时校正的代理间接提示注入防御

Che Wang, Fuyao Zhang, Jiaming Zhang, Ziqi Zhang, Yinghui Wang, Longtao Huang, Jianbo Gao, Zhong Chen, Wei Yang Bryan Lim

机构 * College of Computing and Data Science, Nanyang Technological University, Singapore（计算与数据科学学院，南洋理工大学，新加坡） ； Alibaba（阿里巴巴） ； School of Computer Science, Peking University, China（计算机科学学院，北京大学，中国） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 ICON通过潜在空间轨迹探测和修正器实现对代理间接提示注入攻击的防御，有效提升任务连续性和安全性，同时保持高检测率和任务效用。

Comments 11 pages,

DMCD: Semantic-Statistical Framework for Causal Discovery

DMCD：基于语义-统计的因果发现框架

Samarth KaPatel, Sofia Nikiforova, Giacinto Paolo Saggese, Paul Smith

机构 * Causify AI 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 DMCD通过结合语义引导的先验和统计验证，实现了在因果发现任务中的高性能表现。

Towards Efficient Agents: A Co-Design of Inference Architecture and System

迈向高效代理：推理架构与系统的一体化设计

Weizhe Lin, Hui-Ling Zhen, Shuai Yang, Xian Wang, Renxi Liu, Hanting Chen, Wangze Zhang, Chuansai Zhou, Yiming Li, Chen Chen, Xing Li, Zhiyuan Yang, Xiaosong Li, Xianzhi Yu, Zhenhua Dong, Mingxuan Yuan, Yunhe Wang

机构 * Huawei（华为） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出AgentInfer框架，通过整合推理架构与系统设计，提升代理的效率与稳定性，减少无效token消耗，实现速度提升。

Hierarchical Decision Mamba Meets Agentic AI: A Novel Approach for RAN Slicing in 6G

分层决策Mamba遇见代理AI：一种用于6G RAN切片的新方法

Md Arafat Habib, Medhat Elsayed, Majid Bavand, Pedro Enrique Iturria Rivera, Yigit Ozcan, Melike Erol-Kantarci

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出了一种基于分层决策Mamba和大型语言模型的代理AI框架，用于6G RAN切片，通过整合自然语言理解与协调决策，提升切片性能。

Comments Accepted for publication in IEEE Networking Letters (Author's copy). Copyright belongs to IEEE

CHESS: Context-aware Hierarchical Efficient Semantic Selection for Long-Context LLM Inference

基于上下文的分层高效语义选择：长上下文LLM推理

Chao Fei, Guozhong Li, Chenxi Liu, Panos Kalnis

机构 * King Abdullah University of Science ； Centre for Artificial Intelligence ； Robotics, Hong Kong Institute of Science \& Innovation, Chinese Academy of Sciences, Hong Kong, China 纠错

专题命中 效率与部署 ：LLM(title)；分类 cs.AI

AI总结 CHESS通过上下文感知的分层选择策略和系统级优化，实现长上下文LLM推理的高效缓存管理，以1%的缓存使用率获得4.56倍的吞吐量提升。

GLM-5: from Vibe Coding to Agentic Engineering

GLM-5：从振动编码到代理工程

GLM-5-Team, :, Aohan Zeng, Xin Lv, Zhenyu Hou, Zhengxiao Du, Qinkai Zheng, Bin Chen, Da Yin, Chendi Ge, Chenghua Huang, Chengxing Xie, Chenzheng Zhu, Congfeng Yin, Cunxiang Wang, Gengzheng Pan, Hao Zeng, Haoke Zhang, Haoran Wang, Huilong Chen, Jiajie Zhang, Jian Jiao, Jiaqi Guo, Jingsen Wang, Jingzhao Du, Jinzhu Wu, Kedong Wang, Lei Li, Lin Fan, Lucen Zhong, Mingdao Liu, Mingming Zhao, Pengfan Du, Qian Dong, Rui Lu, Shuang-Li, Shulin Cao, Song Liu, Ting Jiang, Xiaodong Chen, Xiaohan Zhang, Xuancheng Huang, Xuezhen Dong, Yabo Xu, Yao Wei, Yifan An, Yilin Niu, Yitong Zhu, Yuanhao Wen, Yukuo Cen, Yushi Bai, Zhongpei Qiao, Zihan Wang, Zikang Wang, Zilin Zhu, Ziqiang Liu, Zixuan Li, Bojie Wang, Bosi Wen, Can Huang, Changpeng Cai, Chao Yu, Chen Li, Chengwei Hu, Chenhui Zhang, Dan Zhang, Daoyan Lin, Dayong Yang, Di Wang, Ding Ai, Erle Zhu, Fangzhou Yi, Feiyu Chen, Guohong Wen, Hailong Sun, Haisha Zhao, Haiyi Hu, Hanchen Zhang, Hanrui Liu, Hanyu Zhang, Hao Peng, Hao Tai, Haobo Zhang, He Liu, Hongwei Wang, Hongxi Yan, Hongyu Ge, Huan Liu, Huanpeng Chu, Jia'ni Zhao, Jiachen Wang, Jiajing Zhao, Jiamin Ren, Jiapeng Wang, Jiaxin Zhang, Jiayi Gui, Jiayue Zhao, Jijie Li, Jing An, Jing Li, Jingwei Yuan, Jinhua Du, Jinxin Liu, Junkai Zhi, Junwen Duan, Kaiyue Zhou, Kangjian Wei, Ke Wang, Keyun Luo, Laiqiang Zhang, Leigang Sha, Liang Xu, Lindong Wu, Lintao Ding, Lu Chen, Minghao Li, Nianyi Lin, Pan Ta, Qiang Zou, Rongjun Song, Ruiqi Yang, Shangqing Tu, Shangtong Yang, Shaoxiang Wu, Shengyan Zhang, Shijie Li, Shuang Li, Shuyi Fan, Wei Qin, Wei Tian, Weining Zhang, Wenbo Yu, Wenjie Liang, Xiang Kuang, Xiangmeng Cheng, Xiangyang Li, Xiaoquan Yan, Xiaowei Hu, Xiaoying Ling, Xing Fan, Xingye Xia, Xinyuan Zhang, Xinze Zhang, Xirui Pan, Xu Zou, Xunkai Zhang, Yadi Liu, Yandong Wu, Yanfu Li, Yidong Wang, Yifan Zhu, Yijun Tan, Yilin Zhou, Yiming Pan, Ying Zhang, Yinpei Su, Yipeng Geng, Yong Yan, Yonglin Tan, Yuean Bi, Yuhan Shen, Yuhao Yang, Yujiang Li, Yunan Liu, Yunqing Wang, Yuntao Li, Yurong Wu, Yutao Zhang, Yuxi Duan, Yuxuan Zhang, Zezhen Liu, Zhengtao Jiang, Zhenhe Yan, Zheyu Zhang, Zhixiang Wei, Zhuo Chen, Zhuoer Feng, Zijun Yao, Ziwei Chai, Ziyuan Wang, Zuzhou Zhang, Bin Xu, Minlie Huang, Hongning Wang, Juanzi Li, Yuxiao Dong, Jie Tang

机构 * GLM-5 Team（GLM-5团队） ； Zhipu AI（智谱AI） ； Tsinghua University（清华大学） 纠错

专题命中 效率与部署 ：foundation model(abstract)；post-training(abstract)；分类 cs.CL、cs.LG

AI总结 GLM-5通过异步强化学习和DSA技术实现高效训练与推理，展现卓越的软件工程能力。

Scaling State-Space Models on Multiple GPUs with Tensor Parallelism

通过张量并行性在多个GPU上扩展状态空间模型

Anurag Dutt, Nimit Shah, Hazem Masarani, Anshul Gandhi

机构 * Stony Brook University（石溪大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出一种通信高效的张量并行设计，用于在多GPU上加速选择性状态空间模型推理，通过状态缓存、参数分区和量化AllReduce减少通信开销，提升吞吐量。

Comments Submitted to 46th IEEE International Conference on Distributed Computing Systems (ICDCS 2026)

Nacrith: Neural Lossless Compression via Ensemble Context Modeling and High-Precision CDF Coding

Nacrith：通过集成上下文建模和高精度CDF编码的神经无损压缩

Roberto Tacconelli

机构 * Independent Researcher（独立研究者） 纠错

专题命中 效率与部署 ：LLM(abstract)；language model(abstract)；分类 cs.CL

AI总结 Nacrith通过集成上下文建模和高精度CDF编码，实现高效的神经无损压缩，优于现有方法并适用于任意二进制文件。

Comments 10 pages

STAR: Similarity-guided Teacher-Assisted Refinement for Super-Tiny Function Calling Models

STAR: 基于相似性引导的教师辅助细化方法用于超小功能调用模型

Jiliang Ni, Jiachen Pu, Zhongyi Yang, Jingfeng Luo, Conggang Hu

机构 * Algorithm Platform Team, AI Hardware Division, Alibaba（阿里巴巴人工智能硬件事业部算法平台团队） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 STAR通过约束知识蒸馏和基于相似性的强化学习，有效将大语言模型能力转移到超小模型，实现复杂功能调用任务的高性能表现。

Comments The paper has been accepted to ICLR 2026

ATTS: Asynchronous Test-Time Scaling via Conformal Prediction

ATTS: 通过置信预测实现异步测试时间扩展

Jing Xiong, Qiujiang Chen, Fanghua Ye, Zhongwei Wan, Chuanyang Zheng, Chenyang Zhao, Hui Shen, Hanbo Li, Chaofan Tao, Haochen Tan, Haoli Bai, Lifeng Shang, Lingpeng Kong, Ngai Wong

机构 * The University of Hong Kong（香港大学） ； Huawei Technologies Co., Ltd（华为技术有限公司） ； University College London（伦敦大学学院） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 ATTS通过异步测试时间扩展方法，在保持精度的同时实现测试时间扩展的显著加速和吞吐量提升。

Comments Accepted by ICLR 2026

PackMonitor: Enabling Zero Package Hallucinations Through Decoding-Time Monitoring

PackMonitor: 通过解码时监控实现零包 hallucinations

Xiting Liu, Yuetong Liu, Yitong Zhang, Jia Li, Shi-Min Hu

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 PackMonitor通过解码时监控实现零包 hallucinations，通过上下文感知解析器和包名干预者有效消除推荐中的虚假包问题。

Efficient and Explainable End-to-End Autonomous Driving via Masked Vision-Language-Action Diffusion

高效的端到端自动驾驶：通过掩码视觉-语言-动作扩散

Jiaru Zhang, Manav Gagvani, Can Cui, Juntong Peng, Ruqi Zhang, Ziran Wang

机构 * Institute for Physical Artificial Intelligence (IPAI), Purdue University（物理人工智能研究所（IPAI）、普渡大学） ； College of Engineering, Purdue University（工程学院、普渡大学） ； Department of Computer Science, Purdue University（计算机科学系、普渡大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 MVLAD-AD通过掩码视觉-语言-动作扩散模型，提升自动驾驶的效率与规划精度，实现高效且可解释的端到端自动驾驶。

Inner Speech as Behavior Guides: Steerable Imitation of Diverse Behaviors for Human-AI coordination

内部言语作为行为引导：为人类-人工智能协调的可操控模仿

Rakshit Trivedi, Kartik Sharma, David C Parkes

机构 * Massachusetts Institute of Technology（麻省理工学院） ； Georgia Institute of Technology（佐治亚理工学院） ； Harvard University（哈佛大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 MIMIC通过语言作为内部表示，利用视觉语言模型和扩散策略实现人类-人工智能协调中的行为引导与多样化的模仿控制。

Comments Spotlight paper at NeurIPS 2025

Scaling Vision Transformers: Evaluating DeepSpeed for Image-Centric Workloads

扩大视觉变换器：评估DeepSpeed在图像中心工作负载中的应用

Huy Trinh, Rebecca Ma, Zeqi Yu, Tahsin Reza

机构 * Electrical \& Computer Eng University of Waterloo 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 本研究评估DeepSpeed在图像处理任务中的可扩展性，通过实验探讨分布式数据并行对训练效率和性能的影响，并为优化视觉变换器的分布式训练提供基础。

BioX-Bridge: Model Bridging for Unsupervised Cross-Modal Knowledge Transfer across Biosignals

BioX-Bridge：生物信号跨模态知识迁移的模型桥接

Chenqi Li, Yu Liu, Timothy Denison, Tingting Zhu

机构 * Department of Engineering Science University of Oxford（工程科学系 奥克大学） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.AI

AI总结 BioX-Bridge通过轻量级桥接网络实现生物信号跨模态无监督知识迁移，显著减少可训练参数并提升迁移性能。

MedCLIPSeg: Probabilistic Vision-Language Adaptation for Data-Efficient and Generalizable Medical Image Segmentation

MedCLIPSeg: 基于概率视觉语言适应的数据高效且可泛化的医学图像分割

Taha Koleilat, Hojat Asgariandehkordi, Omid Nejati Manzari, Berardino Barile, Yiming Xiao, Hassan Rivaz

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL

AI总结 MedCLIPSeg通过概率视觉语言适应方法，提升医学图像分割的数据效率和泛化能力，提供可解释的不确定性图。

Comments CVPR 2026; Project Page: https://tahakoleilat.github.io/MedCLIPSeg

The Single-Multi Evolution Loop for Self-Improving Model Collaboration Systems

单一-多进化循环用于自我改进的模型协作系统

Shangbin Feng, Kishan Panaganti, Yulia Tsvetkov, Wenhao Yu

机构 * University of Washington（华盛顿大学） ； Tencent AI Seattle Lab（腾讯AI西雅图实验室） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL

AI总结 本文提出单一-多进化循环，通过模型协作与蒸馏实现自我改进，提升模型性能与效率。

Comments Code at https://github.com/BunsenFeng/moco_distill

OmniOCR: Generalist OCR for Ethnic Minority Languages

OmniOCR：面向少数民族语言的通用OCR

Bonan Liu, Zeyu Zhang, Bingbing Meng, Han Wang, Hanshuo Zhang, Chengping Wang, Daji Ergu, Ying Cai

机构 * Southwest Minzu University（西南民族大学） ； AI Geeks 纠错

专题命中 效率与部署 ：foundation model(abstract)

AI总结 OmniOCR通过动态LoRA和稀疏正则化技术，实现了对少数民族语言的高效OCR识别，显著提升了低资源和零样本场景下的准确率。