语言大模型 / LLM

BatchLLM: Optimizing Large Batched LLM Inference with Global Prefix Sharing and Throughput-oriented Token Batching

BatchLLM: 通过全局前缀共享和面向吞吐量的令牌批处理优化大批次LLM推理

Zhen Zheng, Xin Ji, Taosong Fang, Fanghao Zhou, Chuanjie Liu, Gang Peng

机构 * Microsoft（微软） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出BatchLLM，通过全局前缀共享和面向吞吐量的令牌批处理优化大批次LLM推理，提高GPU利用率。

Comments Accepted at MLSys 2026

MAR: Efficient Large Language Models via Module-aware Architecture Refinement

MAR：通过模块感知架构优化实现高效的大型语言模型

Junhong Cai, Guiqin Wang, Kejie Zhao, Jianxiong Tang, Xiang Wang, Luziwei Leng, Ran Cheng, Yuxin Ma, Qinghai Guo

机构 * Department of CSE, Southern University of Science and Technology（南方科技大学计算机科学与工程系） ； School of Computer Science and Technology, Xi’an Jiaotong University（西安交通大学计算机科学与技术学院） ； National Engineering Laboratory for Big Data Analytics, Xi’an Jiaotong University（西安交通大学大数据分析国家工程实验室） ； Department of Computer Science, City University of Hong Kong（香港城市大学计算机科学系） ； ACS Laboratory, Huawei Technologies Co., Ltd.（华为技术有限公司ACS实验室） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(summary_cn,abstract_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出MAR框架，结合状态空间模型和激活稀疏化，降低LLM的能耗并提升性能，同时设计ATMN和SBDS解决SNN与SSM整合问题，实验表明其在受限资源下性能优异且能超越同等或更大规模的高效模型。

Comments Accepted by ICASSP 2026. 5 pages, 5 figures

LLM-guided phase diagram construction through high-throughput experimentation

通过高通量实验构建LLM引导的相图

Ryo Tamura, Haruhiko Morito, Yuna Oikawa, Guillaume Deffrennes, Shoichi Matsuda, Naruki Yoshikawa, Tomoaki Takayama, Taichi Abe, Koji Tsuda, Kei Terayama

机构 * Center for Basic Research on Materials（材料基础研究中心） ； National Institute for Materials Science（国家材料科学研究所） ； Graduate School of Frontier Sciences（前沿科学研究生院） ； The University of Tokyo（东京大学） ； RIKEN Center for Advanced Intelligence Project（RIKEN高级智能项目中心） ； Core Facility Center（核心设施中心） ； Tohoku University（东北大学） ； Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学） ； CNRS（法国国家科学研究中心） ； Grenoble INP（格勒诺布尔INP） ； SIMaP ； Center for Green Research on Energy and Environmental Materials（能源与环境材料绿色研究中心） ； Nara Institute of Science and Technology（奈良科学技术大学） ； Research Center for Structural Materials（结构材料研究中心） ； Graduate School of Medical Life Science（医学生命科学研究生院） ； Tokyo Institute of Technology（东京技术大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文研究LLM在构建多组分合金相图中的应用，通过高通量实验和X射线衍射分析，展示了LLM在实验规划中的互补优势，验证了其在相图构建中的潜力。

Comments 39 pages

Hidden Reliability Risks in Large Language Models: Systematic Identification of Precision-Induced Output Disagreements

大语言模型中的隐藏可靠性风险：系统性识别精度诱导的输出分歧

Yifei Wang, Tianlin Li, Xiaohan Zhang, Xiaoyu Zhang, Wei Ma, Mingfei Cheng, Li Pan

机构 * Shanghai Jiao Tong University（上海交通大学） ； Beihang University（北航） ； Nanyang Technological University（南洋理工大学） ； Singapore Management University（新加坡管理学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(summary_cn,abstract_cn)；分类 cs.AI、cs.LG

AI总结 本文提出PrecisionDiff框架，用于系统检测大语言模型在不同精度下的行为分歧，通过生成精度敏感测试输入并进行跨精度比较分析，揭示传统方法难以发现的细微差异，实验表明此类分歧在多个开源对齐LLM中普遍存在，PrecisionDiff在检测此类问题上表现优异。

Comments 12 pages, 5 figures

Break the Optimization Barrier of LLM-Enhanced Recommenders: A Theoretical Analysis and Practical Framework

突破LLM增强推荐系统优化障碍：理论分析与实践框架

Zhangchi Zhu, Wei Zhang

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 本文通过理论分析和实践框架，解决LLM增强推荐系统中优化障碍问题，提出TF-LLMER框架，通过嵌入规范化和Rec-PCA方法提升推荐性能。

DeepParse: Hybrid Log Parsing with LLM-Synthesized Regex Masks

DeepParse: 基于LLM合成的混合日志解析

Amir Shetaia, Sean Kauffman

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出DeepParse，通过LLM提取日志变量模式并结合Drain算法实现高效准确的日志解析，提升提取精度与一致性，降低误报并提升效率。

WebGen-R1: Incentivizing Large Language Models to Generate Functional and Aesthetic Websites with Reinforcement Learning

WebGen-R1: 通过强化学习激励大语言模型生成功能性和美观的网站

Juyong Jiang, Chenglin Cai, Chansung Park, Jiasi Shen, Sunghun Kim, Jianguo Li, Yue Wang

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； The Hong Kong University of Science and Technology（香港科技大学） ； Tongyi Lab, Alibaba Group（阿里云实验室） ； Electronics and Telecommunications Research Institute（电子电信研究院） ； Ant Group（蚂蚁集团） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.CL、cs.LG

AI总结 本文提出WebGen-R1框架，通过强化学习生成多页面功能性和美观的网站，解决了传统方法在多页面交互和审美评估上的不足。

SMARTER: A Data-efficient Framework to Improve Toxicity Detection with Explanation via Self-augmenting Large Language Models

SMARTER: 一种数据高效框架，通过自增强大语言模型提升毒性检测与解释

Huy Nghiem, Advik Sachdeva, Hal Daumé

机构 * University of Maryland（马里兰大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；preference optimization(abstract)；分类 cs.CL、cs.AI

AI总结 SMARTER通过两阶段框架利用大语言模型自身输出生成解释，提升内容审核的可解释性，实验表明在三个基准任务中实现13%的宏F1提升，且数据使用量仅为全训练数据的分数。

Comments ACL 2026. NLP, Hate speech detection, explanation, LLM. Version 3

LLM-Guided Safety Agent for Edge Robotics with an ISO-Compliant Perception-Compute-Control Architecture

基于ISO合规感知-计算-控制架构的LLM引导安全代理用于边缘机器人

Xu Huang, Ruofan Zhang, Lu Cheng, Yuefeng Song, Xu Huang, Huayu Zhang, Sheng Yin, Anyang Liang, Chen Qian, Yin Zhou, Xiaoyun Yuan, Yuan Cheng

机构 * Shanghai Jiao Tong University（上海交通大学） ； SIMMIR Tech（SIMMIR科技） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)

AI总结 本文提出一种基于ISO合规架构的LLM引导安全代理，通过将安全规范转化为可执行谓词，实现边缘机器人中的功能安全，支持ISO 13849 Category 3和PL d的实用部署。

Amoeba: Runtime Tensor Parallel Transformation for LLM Inference Services

Amoeba：LLM推理服务中的运行时张量并行转换

Haoyu Chen, Xue Li, Kun Qian, Yu Guan, Jin Zhao, Xin Wang

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 Amoeba通过动态调整张量并行度，优化不同上下文长度请求的处理效率，提升吞吐量1.75至6.57倍。

FASER: Fine-Grained Phase Management for Speculative Decoding in Dynamic LLM Serving

FASER：面向动态LLM服务的细粒度推测解码相管理

Wenyan Chen, Chengzhi Lu, Yanying Lin, Dmitrii Ustiugov

专题命中 效率与部署 ：LLM(title,title_cn)

AI总结 FASER通过细粒度推测解码相管理提升动态LLM服务性能，减少计算浪费并降低延迟。

Comments 14 pages, 17 figures

On the Quantization Robustness of Diffusion Language Models in Coding Benchmarks

扩散语言模型在编码基准中的量化鲁棒性研究

Aarav Gupta, Gururaj Deshpande, Chandreyi Chakraborty

机构 * College of Computing（计算机学院） ； Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)；post-training(abstract)

AI总结 本文研究了扩散语言模型在量化后的鲁棒性，发现CoDA在低比特宽度下比Qwen3-1.7B更稳健，且混合精度配置在精度、延迟和内存间提供平衡。

LLaDA2.0-Uni: Unifying Multimodal Understanding and Generation with Diffusion Large Language Model

LLaDA2.0-Uni：通过扩散大语言模型统一多模态理解和生成

Inclusion AI, Tiwei Bie, Haoxing Chen, Tieyuan Chen, Zhenglin Cheng, Long Cui, Kai Gan, Zhicheng Huang, Zhenzhong Lan, Haoquan Li, Jianguo Li, Tao Lin, Qi Qin, Hongjun Wang, Xiaomei Wang, Haoyuan Wu, Yi Xin, Junbo Zhao

机构 * AGI Research Center, Inclusion AI（AGI研究中心，Inclusion AI） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；foundation model(abstract)

AI总结 LLaDA2.0-Uni结合全语义离散分词器、MoE-based dLLM和扩散解码器，实现多模态理解和生成，通过SigLIP-VQ离散化视觉输入，提升推理效率，支持交错生成与推理，展现强大的图像生成与编辑能力。

Comments LLaDA2.0-Uni Technical Report

MixLLM: LLM Quantization with Global Mixed-precision between Output-features and Highly-efficient System Design

MixLLM: LLM量化与输出特征间全局混合精度的高效系统设计

Zhen Zheng, Xiaonan Song, Chuanjie Liu

机构 * Microsoft（微软） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.LG

AI总结 MixLLM通过全局混合精度量化优化输出特征，提升LLM压缩精度与系统效率，实验显示在增加10%比特数下， perplexity和MMLU-Pro损失显著降低。

Comments Accepted at MLSys 2026

Continuous Semantic Caching for Low-Cost LLM Serving

连续语义缓存用于低成本大语言模型服务

Baran Atalar, Xutong Liu, Jinhang Zuo, Siwei Wang, Wei Chen, Carlee Joe-Wong

机构 * Carnegie Mellon University（卡内基梅隆大学） ； University of Washington Tacoma（华盛顿大学塔科马分校） ； City University of Hong Kong（香港城市大学） ； Microsoft Research Asia（微软亚洲研究院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出连续语义缓存框架，通过动态ε-网离散化与核岭回归，解决连续查询空间下的缓存优化问题，降低计算和切换开销。

What Language Models Know But Don't Say: Non-Generative Prior Extraction for Generalization

语言模型所知却不说：非生成性先验提取以提升泛化能力

Sara Rezaeimanesh, Mohammad M. Ghassemi

机构 * Michigan State University（密歇根州立大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)；分类 cs.CL

AI总结 本文提出LoID方法，通过直接访问语言模型的token级预测，提取信息丰富的先验分布用于贝叶斯逻辑回归，以解决小数据集下模型泛化能力不足的问题。

Supplement Generation Training for Enhancing Agentic Task Performance

增强代理任务性能的补充生成训练

Young Min Cho, Daniele Bonadiman, Divya Bhargavi, Tamer Alkhouli, Salvatore Romeo, Dongwei Jiang, Khushbu Pahwa, Yubin Ge, Etsuko Ishii, Monica Sunkara, Yi Zhang

机构 * University of Pennsylvania（宾夕法尼亚大学） ； AWS Agentic AI Labs（AWS智能代理AI实验室） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；foundation model(abstract)；post-training(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出补充生成训练(SGT)，通过小型LLM生成补充文本帮助大模型更高效完成任务，降低计算成本并提升部署灵活性。

Comments Accepted to the Findings of ACL 2026

From Signal Degradation to Computation Collapse: Uncovering the Two Failure Modes of LLM Quantization

从信号退化到计算崩溃：揭示大语言模型量化中的两种失败模式

Chenxi Zhou, Pengfei Cao, Jiang Li, Bohan Yu, Jinyu Ye, Jun Zhao, Kang Liu

机构 * School of Advanced Interdisciplinary Sciences, University of Chinese Academy of Sciences（中国科学院大学先进交叉学科学院） ； The Key Laboratory of Cognition and Decision Intelligence for Complex Systems, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所认知与决策智能复杂系统重点实验室） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； College of Computer Science, Inner Mongolia University（内蒙古大学计算机学院） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 研究揭示大语言模型量化中两种不同失败模式：信号退化和计算崩溃，并提出针对性修复方法，表明结构重建比单纯补偿更有效。

Comments Accepted to Findings of ACL 2026

Transparent Screening for LLM Inference and Training Impacts

大语言模型推理与训练影响的透明筛查

Arnault Pachot, Thierry Petit

机构 * Emotia 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出一种透明筛查框架，用于在有限可观性条件下估计当前大语言模型的推理与训练影响，通过自然语言应用描述生成有界环境估计，支持当前市场模型的在线比较观测。

DR-Venus: Towards Frontier Edge-Scale Deep Research Agents with Only 10K Open Data

DR-Venus：面向前沿边缘端大规模深度研究代理的仅10K开放数据方法

Venus Team, Sunhao Dai, Yong Deng, Jinzhen Lin, Yusheng Song, Guoqing Wang, Xiaofeng Wu, Yuqi Zhou, Shuo Yang, Zhenzhe Ying, Zhanwei Zhang, Changhua Meng, Weiqiang Wang

机构 * Ant Group（蚂蚁集团） 纠错

专题命中 效率与部署 ：SFT(abstract,abstract_cn)；language model(abstract)；small language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出DR-Venus，通过提升数据质量和利用效率，在有限开放数据下训练出强大的小规模深度研究代理，实现边缘端部署，并在多个基准测试中超越先前模型。

Comments Technical Report of DR-Venus

3D Smoke Scene Reconstruction Guided by Vision Priors from Multimodal Large Language Models

由多模态大语言模型视觉先验引导的3D烟雾场景重建

Xinye Zheng, Fei Wang, Yiqi Nie, Kun Li, Junjie Chen, Jiaqi Zhao, Yanyan Wei, Zhiliang Wu

机构 * Hefei University of Technology（合肥工业大学） ； Institute of Artificial Intelligence, Hefei Comprehensive National Science Center（合肥综合性国家科学中心人工智能研究院） ； Anhui University（安徽大学） ； United Arab Emirates University（阿联酋大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 效率与部署 ：large language model(title)；language model(title)

AI总结 本文提出整合视觉先验与高效3D场景建模的框架，通过增强烟雾退化图像和开发Smoke-GS框架，提升烟雾场景重建与视图合成的鲁棒性与一致性。

Sutradhara: An Intelligent Orchestrator-Engine Co-design for Tool-based Agentic Inference

Sutradhara: 一种智能编排-引擎协同设计用于基于工具的代理推理

Anish Biswas, Kanishk Goel, Srivarshinee S, Jayashree Mohan, Alind Khare, Anjaly Parayil, Ramachandran Ramjee, Chetan Bansal

专题命中 效率与部署 ：LLM(summary_cn,abstract)；language model(abstract)

AI总结 Sutradhara通过整合编排与LLM服务，优化工具执行与LLM预填充的重叠，提升代理推理系统的吞吐量与延迟平衡，减少端到端延迟。

CodeRL+: Improving Code Generation via Reinforcement with Execution Semantics Alignment

CodeRL+: 通过执行语义对齐改进代码生成

Xue Jiang, Yihong Dong, Mengyang Liu, Hongyi Deng, Tian Wang, Yongding Tao, Rongyu Cao, Binhua Li, Zhi Jin, Wenpin Jiao, Fei Huang, Yongbin Li, Ge Li

机构 * School of Computer Science, Peking University（北京大学计算机科学系） ； Tongyi Lab, Alibaba Group（阿里集团通义实验室） ； School of Computer Science, Wuhan University（武汉大学计算机科学系） 纠错

专题命中 效率与部署 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 本文提出CodeRL+，通过将执行语义对齐整合到RLVR训练流程中，提升代码生成的准确性，实验显示其在pass@1指标上平均提升4.6%。

Comments Accepted by ACL 2026

Adaptive Conformal Anomaly Detection with Time Series Foundation Models for Signal Monitoring

自适应置信区间异常检测与时间序列基础模型用于信号监控

Natalia Martinez Gil, Fearghal O'Donncha, Wesley M. Gifford, Nianjun Zhou, Dhaval C. Patel, Roman Vaculin

机构 * IBM Research（IBM研究院） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种自适应置信区间异常检测方法，利用预训练基础模型进行预测，无需额外微调，实现可解释的异常评分，适用于资源受限环境，解决数据有限和快速推理需求问题。

Comments Code in : https://github.com/ibm-granite/granite-tsfm/tree/main/notebooks/hfdemo/adaptive_conformal_tsad

Prefill-as-a-Service: KVCache of Next-Generation Models Could Go Cross-Datacenter

预填充即服务：下一代模型的KV缓存可跨数据中心

Ruoyu Qin, Weiran He, Yaoyu Wang, Zheming Li, Xinran Xu, Yongwei Wu, Weimin Zheng, Mingxing Zhang

专题命中 效率与部署 ：LLM(summary_cn,abstract)

AI总结 本文提出PrfaaS架构，通过跨数据中心的预填充服务优化大规模LLM服务，实现异构部署和资源弹性，提升吞吐量和响应速度。

Comments 16 pages, 5 figures, 6 tables

Open-Architecture End-to-End System for Real-World Autonomous Robot Navigation

面向真实世界的自主机器人导航开架系统

Venkata Naren Devarakonda, Ali Umut Kaypak, Raktim Gautam Goswami, Naman Patel, Rooholla Khorrambakht, Prashanth Krishnamurthy, Farshad Khorrami

机构 * Control/Robotics Research Laboratory (CRRL), Department of Electrical and Computer Engineering, NYU Tandon School of Engineering（控制/机器人研究实验室（CRRL），电气与计算机工程系，NYU塔恩顿工程学院） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)

AI总结 本文提出一种轻量级开架端到端系统，通过整合多组件实现四足机器人实时导航，利用自然语言任务和语义信息构建场景图，基于LLM生成动态计划，实现在多个室内环境中的零样本自主导航。

Can LLMs Infer Conversational Agent Users' Personality Traits from Chat History?

大语言模型能否从聊天记录中推断出对话代理用户的人格特质？

Derya Cögendez, Verena Zimmermann, Noé Zufferey

机构 * ETH Zurich, Switzerland（苏黎世联邦理工学院，瑞士） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 研究探讨了大语言模型能否从用户与对话代理的交互中推断出人格特质，通过分析ChatGPT日志数据，发现模型在多个案例中能以高于随机水平的准确率推断出性格特质，揭示了与对话代理交互带来的隐私风险。

Accelerating PayPal's Commerce Agent with Speculative Decoding: An Empirical Study on EAGLE3 with Fine-Tuned Nemotron Models

通过投机解码加速PayPal的商业代理：基于EAGLE3的实证研究，使用微调的Nemotron模型

Ally Qin, Jian Wan, Sarat Mudunuri, Srinivasan Manoharan

机构 * PayPal 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 本文研究了通过EAGLE3进行投机解码优化PayPal商业代理的性能，使用微调的Nemotron模型，在不同配置下验证了吞吐量和延迟的提升，同时保持输出质量。

Super Apriel: One Checkpoint, Many Speeds

Super Apriel：一个检查点，多种速度

SLAM Labs, :, Oleksiy Ostapenko, Raymond Li, Torsten Scholak, Alireza Mousavi-Hosseini, Aman Tiwari, Denis Kocetkov, Joel Lamy Poirier, Kelechi Ogueji, Nanda H Krishna, Rafael Pardinas, Sathwik Tejaswi Madhusudhan, Shruthan Radhakrishna, Srinivas Sunkara, Valerie Becaert

机构 * ServiceNow Research（ServiceNow研究院） ； University of Toronto（多伦多大学） ； Vector Institute（向量研究所） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.LG

AI总结 Super Apriel通过在解码器层中提供四种预训练的混合器选择，实现单检查点下的多种速度预设，提升解码吞吐量并保持质量。

Comments Models: https://huggingface.co/ServiceNow-AI/SuperApriel-15B-Base and https://huggingface.co/ServiceNow-AI/SuperApriel-15B-Instruct . Dev model: https://huggingface.co/ServiceNow-AI/SuperApriel-0.5B-Base . Training code: https://github.com/ServiceNow/Fast-LLM . Async RL: https://github.com/ServiceNow/pipeline-rl . Training logs: https://wandb.ai/servicenow-team/Super_Apriel

HaS: Accelerating RAG through Homology-Aware Speculative Retrieval

HaS：通过同源感知的推测检索加速RAG

Peng Peng, Weiwei Lin, Wentai Wu, Xinyang Wang, Yongheng Liu

机构 * South China University of Technology（华南理工大学） ； Pengcheng Laboratory（鹏城实验室） ； Jinan University（暨南大学） ； Beijing Forestry University（北京林业大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 HaS通过同源感知的推测检索框架，在受限范围内进行低延迟推测检索以获取候选文档，并验证其是否包含所需知识，从而提升RAG的效率。

Comments Accepted by ICDE 2026