语言大模型 / LLM

PlanCompiler: A Deterministic Compilation Architecture for Structured Multi-Step LLM Pipelines

PlanCompiler：一种确定性编译架构用于结构化多步骤LLM流水线

Pranav Harikumar

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 PlanCompiler通过类型节点注册表、静态图验证和确定性编译分离规划与执行，提升结构化LLM流水线的可靠性与效率，实现高成功率和成本效益。

Comments 31 pages, 1 figure, 7 tables, includes appendices and reproduction details

Training-Free Test-Time Contrastive Learning for Large Language Models

无需训练的测试时对比学习用于大语言模型

Kaiwen Zheng, Kai Zhou, Jinwu Hu, Te Gu, Mingkai Peng, Fei Liu

机构 * South China University of Technology（南方科技大学） ； Pazhou Laboratory（琶洲实验室） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 本文提出无需训练的测试时对比学习（TF-TTCL），通过动态'探索-反思-引导'循环提升冻结大语言模型的在线推理能力，优于零样本基线和代表性测试时适应方法。

Comments Accepted by Findings ACL 2026

Lossless Prompt Compression via Dictionary-Encoding and In-Context Learning: Enabling Cost-Effective LLM Analysis of Repetitive Data

通过字典编码和上下文学习实现无损提示压缩：使LLM能够高效分析重复数据

Andresa Rodrigues de Campos, David Lee, Imry Kissos, Piyush Paritosh

机构 * Anonymous Institution, Anonymous City, Anonymous Region, Anonymous Country（匿名机构，匿名城市，匿名地区，匿名国家） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出一种无损提示压缩方法，利用字典编码和上下文学习，无需微调即可高效分析重复数据，压缩比达80%且保持高精度。

RECOVER: Designing a Large Language Model-based Remote Patient Monitoring System for Postoperative Gastrointestinal Cancer Care

RECOVER：基于大语言模型的术后胃肠癌远程患者监测系统设计

Ziqi Yang, Yuxuan Lu, Jennifer Bagdasarian, Vedant Das Swain, Ritu Agarwal, Collin Campbell, Waddah Al-Refaire, Jehan El-Bayoumi, Guodong Gao, Dakuo Wang, Bingsheng Yao, Nawar Shara

机构 * University of California, Irvine（加州大学尔湾分校） ； Northeastern University（东北大学） ； Johns Hopkins University（约翰霍普金斯大学） ； New York University（纽约大学） ； MedStar Health Research Institute（梅斯塔健康研究院） ； Creighton University（克里普顿大学） ； Georgetown University（乔治城大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文设计了基于大语言模型的RECOVER系统，用于术后胃肠癌的远程患者监测，通过临床整合提升术后护理效率，并探讨了AI伦理与未来发展方向。

Rethinking On-Policy Distillation of Large Language Models: Phenomenology, Mechanism, and Recipe

重新思考大型语言模型的在线策略蒸馏：现象、机制和配方

Yaxuan Li, Yuxin Zuo, Bingxiang He, Jinqian Zhang, Chaojun Xiao, Cheng Qian, Tianyu Yu, Huan-ang Gao, Wenkai Yang, Zhiyuan Liu, Ning Ding

机构 * Tsinghua University（清华大学） ； ShanghaiTech University（上海交通大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Renmin University of China（中国人民大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；post-training(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文系统研究了在线策略蒸馏的动态和机制，发现成功关键在于师生思维模式兼容及教师提供新能力，提出两种恢复失败蒸馏的策略，并指出密集奖励的表面优势背后存在代价。

Comments 30 pages, 23 figures. Code: https://github.com/thunlp/OPD

Sandwich: Joint Configuration Search and Hot-Switching for Efficient CPU LLM Serving

Sandwich：联合配置搜索与热切换的高效CPU LLM服务

Juntao Zhao, Jiuru Li, Chuan Wu

机构 * The University of Hong Kong（香港大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 Sandwich通过联合配置搜索与热切换技术，解决CPU LLM服务中prefill/decode资源冲突问题，实现2.01倍端到端加速和3.40倍延迟降低，同时降低三次数量级的调优成本。

Comments DAC '26

Feedback-Driven Tool-Use Improvements in Large Language Models via Automated Build Environments

通过自动化构建环境提升大语言模型的反馈驱动工具使用

Junjie Ye, Changhao Jiang, Zhengyin Du, Yufei Xu, Xuesong Yao, Zhiheng Xi, Xiaoran Fan, Qi Zhang, Tao Gui, Xuanjing Huang, Jiecao Chen

机构 * Fudan University（复旦大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract_cn)；分类 cs.CL、cs.AI

AI总结 本文提出自动化环境构建流程和可验证奖励机制，提升大语言模型的工具使用能力，实验表明在不降低通用能力的情况下显著增强工具使用性能。

Comments Accepted by ACL 2026

Towards Automated Crowdsourced Testing via Personified-LLM

通过拟人化LLM实现自动化众包测试

Shengcheng Yu, Yuchen Ling, Chunrong Fang, Zhenyu Chen, Chunyang Chen

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出PersonaTester框架，通过注入三种维度的拟人化特征，模拟多样化的测试行为，提升自动化众包GUI测试的现实性和有效性。

Comments Research Paper Accepted by the ACM International Conference on the Foundations of Software Engineering (FSE 2026)

Lazy or Efficient? Towards Accessible Eye-Tracking Event Detection Using LLMs

懒惰还是高效？基于LLM的可访问性眼动事件检测

Dongyang Guo, Yasmeen Abdrabou, Enkelejda Kasneci

机构 * Technical University of Munich（慕尼黑技术大学） ； Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心） 纠错

专题命中 效率与部署 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出一种无需代码的LLM驱动流程，通过自然语言指令实现眼动事件检测，降低技术门槛，提升研究可及性。

Robust Ultra Low-Bit Post-Training Quantization via Stable Diagonal Curvature Estimate

鲁棒超低比特后训练量化 via 稳定对角曲率估计

Jaemin Kim, Sungkyun Kim, Junyeol Lee, Jiwon Seo

机构 * Seoul National University（首尔国立大学） ； Hanyang University（翰阳大学） 纠错

专题命中 效率与部署 ：post-training(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出DASH-Q框架，通过使用对角Hessian近似和迭代加权最小二乘法，在超低比特条件下提升零样本准确率，实现更稳定的量化效果。

Comments EUROMLSYS 2026

YOCO++: Enhancing YOCO with KV Residual Connections for Efficient LLM Inference

YOCO++：通过KV残差连接增强YOCO以实现高效的LLM推理

You Wu, Ziheng Chen, Yizhen Zhang, Haoyi Wu, Chengting Yu, Yuchi Xu, Wenbo Su, Bo Zheng, Kewei Tu

机构 * Alibaba Group（阿里巴巴集团） ； ShanghaiTech University（上海科技大学） ； Zhejiang University（浙江大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出YOCO++，通过在底层层与底层之间加入加权残差连接，提升YOCO的性能，实现50%的KV缓存压缩率下的最佳表现。

Automated Profile Inference with Language Model Agents

基于语言模型代理的自动资料推断

Yuntao Du, Zitao Li, Bolin Ding, Yaliang Li, Hanshen Xiao, Jingren Zhou, Ninghui Li

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)

AI总结 本文研究了大型语言模型对在线匿名性造成的新型威胁——自动资料推断，提出AutoProfiler框架展示攻击可行性，并探讨缓解策略以提升隐私保护意识。

Comments Accepted to Findings of the Association for Computational Linguistics (ACL) 2026

MOONSHOT : A Framework for Multi-Objective Pruning of Vision and Large Language Models

MOONSHOT：一种用于视觉和大语言模型多目标剪枝的框架

Gabriel Afriat, Xiang Meng, Shibal Ibrahim, Hussein Hazimeh, Rahul Mazumder

机构 * Google（谷歌） ； OpenAI ； Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 效率与部署 ：large language model(title)；language model(title)；post-training(abstract)；分类 cs.LG

AI总结 MOONSHOT通过联合优化层重建误差和训练损失的二阶泰勒近似，提升视觉和大语言模型在无重新训练下的压缩效果，显著提升模型性能。

C$^2$T: Captioning-Structure and LLM-Aligned Common-Sense Reward Learning for Traffic--Vehicle Coordination

C$^2$T：基于图像描述与大语言模型对齐的常识奖励学习用于交通-车辆协调

Yuyang Chen, Kaiyan Zhao, Yiming Wang, Ming Yang, Bin Rao, Zhenning Li

机构 * The State Key Laboratory of Internet of Things for Smart City, University of Macau（物联网智能城市国家重点实验室，澳门大学） ； Wuhan University（武汉大学） ； Hong Kong Polytechnic University（香港理工大学） ； Computer and Information Science, University of Macau（澳门大学计算机与信息科学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出C2T框架，通过从交通-车辆动态中学习常识协调模型，结合大语言模型的常识知识，提升交通协调系统的效率、安全性和舒适性。

Comments Accepted to CVPR 2026 Findings Track

Fast and Low-Cost Genomic Foundation Models via Outlier Removal

通过异常值去除实现快速且低成本的基因组基础模型

Haozheng Luo, Chenghao Qiu, Maojiang Su, Zhihan Zhou, Zoe Mehta, Guo Ye, Jerry Yao-Chieh Hu, Han Liu

机构 * Northwestern University（西北大学） ； Tianjin University（天津大学） ； Vernon Hills High School（弗农希尔斯高中） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；post-training(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出GERM模型，通过去除异常值提升基因组模型的压缩性能和适应速度，有效提高效率和鲁棒性，并在实验中验证了其在微调和量化方面的优越表现。

Comments International Conference on Machine Learning (ICML) 2025

Journal ref Proceedings of the 42nd International Conference on Machine Learning, PMLR 267:41254-41289, 2025

Token-Budget-Aware Pool Routing for Cost-Efficient LLM Inference

面向成本高效的大语言模型推理的令牌预算感知池路由

Huamin Chen, Xunzhuo Liu, Junchen Jiang, Bowei He, Xue Liu

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI

AI总结 本文提出基于令牌预算的池路由方法，通过估计请求总令牌预算并分配到适合的工作负载池，减少GPU实例，提升效率。

Comments duplicate of arXiv:2604.08075

H-AdminSim: A Multi-Agent Simulator for Realistic Hospital Administrative Workflows with FHIR Integration

H-AdminSim：一种用于真实医院行政工作流的多智能体模拟器，集成FHIR

Jun-Min Lee, Meong Hi Son, Edward Choi

机构 * KAIST（韩国科学技术院） ； Samsung Medical Center（三星医疗中心） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.CL、cs.AI

AI总结 H-AdminSim通过结合真实数据生成与多智能体模拟，系统评估LLM在医院行政工作流中的表现，利用FHIR实现跨异构环境的标准化测试平台。

Comments Accepted at CHIL 2026

MARCH: Evaluating the Intersection of Ambiguity Interpretation and Multi-hop Inference

MARCH：评估歧义解释与多跳推理的交集

Jeonghyun Park, Ingeol Baek, Seunghyun Yoon, Haeun Jang, Aparna Garimella, Akriti Jain, Nedim Lipka, Hwanhee Lee

机构 * Chung-Ang University（Chung-Ang 大学） ； Adobe Research（Adobe 研究） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出MARCH基准，通过多LLM验证和人工标注，包含2209个多跳歧义问题，揭示了当前模型在结合歧义解决与多步推理上的挑战，并提出CLARION框架提升推理系统鲁棒性。

Comments ACL 2026 Findings

LIVE-GS: LLM Powers Interactive VR Experience with Physics-Aware Gaussian Splatting

LIVE-GS：通过大语言模型实现交互式VR体验的物理感知高斯点云

Haotian Mao, Hangyu Zhou, Zhuoxiong Xu, Siyue Wei, Yule Quan, Yan Zhang, Zixuan Guo, Nianchen Deng, Xubo Yang

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)

AI总结 LIVE-GS利用大语言模型快速生成动态高斯点云资产并实现实时VR交互，通过物理属性分析提升虚拟现实中的物理交互真实感。

Three Roles, One Model: Role Orchestration at Inference Time to Close the Performance Gap Between Small and Large Agents

三种角色，一个模型：推理时的角色编排以缩小小规模与大规模代理之间的性能差距

S. Aaron McClendon, Jorge Gallego-Feliciano, Stavros Zervoudakis, Antonios Saravanos

机构 * Aimpoint Digital Labs（Aimpoint数字实验室） ； New York University（纽约大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文研究在推理时仅使用架构支撑是否能提升小模型在复杂多步骤环境中的性能，通过三阶段推理架构使小模型在AppWorld基准测试中任务完成率提升近一倍，展示了结构化推理干预使小模型能与大模型竞争。

Multi-Agent Object Detection Framework Based on Raspberry Pi YOLO Detector and Slack-Ollama Natural Language Interface

基于Raspberry Pi YOLO检测器和Slack-Ollama自然语言接口的多智能体目标检测框架

Vladimir Kalušev, Branko Brkljač, Milan Brkljač

机构 * The Institute for Artificial Intelligence Research（人工智能研究机构） ； Development of Serbia（塞尔维亚发展） ； Department of Power, Electronic and Telecommunication Engineering（电力、电子与电信工程系） ； Faculty of Technical Sciences, University of Novi Sad（技术科学学院，诺维萨德大学） ； Faculty of Finance, Banking and Auditing, Alfa BK University（金融、银行与审计学院，阿尔法BK大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)

AI总结 本文提出了一种基于边缘计算的多智能体目标检测系统，利用LLM自然语言接口实现系统控制与通信，并在资源受限硬件平台上集成所有组件。

Comments 19 pages, 7 figures, 2 tables, implementation code will be made available upon manuscript publication

SHARe-KAN: Post-Training Vector Quantization for Cache-Resident KAN Inference

SHARe-KAN：面向缓存驻留KAN推理的后训练向量量化

Jeff Smith

机构 * Burnin 纠错

专题命中 效率与部署 ：post-training(title,abstract)；分类 cs.LG

AI总结 SHARe-KAN通过Gain-Shape-Bias分解和共享代码本压缩KAN的B样条系数，实现高效的存储压缩和推理加速，适用于边缘设备的多专家KAN部署。

Calibrated Speculative Decoding: Frequency-Guided Candidate Selection for Efficient Inference

校准的推测解码：基于频率的候选选择以实现高效的推理

Xuwen Zhou, Fangxin Liu, Chao Wang, Xiao Zheng, Hao Zheng, Min He, Li Jiang, Haibing Guan

机构 * Shanghai Jiao Tong University（上海交通大学） ； Alibaba Cloud Computing（阿里云 computing） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出校准的推测解码，通过频率引导的候选选择和概率保护的接受机制，提升大语言模型推理效率，实测效果优于现有方法。

Comments ACL 2026 Main Conference

Towards a Universal Foundation Model for Protein Dynamics: A Multi-Chain Tree-Structured Framework with Transformer Propagators

面向蛋白质动力学的通用基础模型：一种多链树状结构框架与Transformer传播器

Jinzhen Zhu

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 本文提出一种通用蛋白质动力学基础模型，通过树状结构框架和Transformer传播器实现高精度结构重建与多链系统泛化，加速率达10000至20000倍。

Comments 14 pages, 10 figures

From Weights to Activations: Is Steering the Next Frontier of Adaptation?

从权重到激活：是否转向是适应的下一个前沿？

Simon Ostermann, Daniil Gurgurov, Tanja Baeumel, Michael A. Hedderich, Sebastian Lapuschkin, Wojciech Samek, Vera Schmitt

机构 * Saarland University（萨尔兰大学） ； German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心） ； Centre for European Research in Trusted AI (CERTAIN)（可信AI欧洲研究中心） ； Munich Center for Machine Learning（慕尼黑机器学习中心） ； Fraunhofer Heinrich Hertz Institute（弗劳恩霍夫海因里希·赫兹研究所） ； Technological University Dublin（都柏林技术大学） ； Technische Universität Berlin（柏林技术大学） ； Berlin Institute for the Foundations of Learning and Data (BIFOLD)（柏林学习与数据基础研究所） 纠错

专题命中 效率与部署 ：language model(abstract)；post-training(abstract)；prompting(abstract)；分类 cs.CL

AI总结 本文探讨了转向作为一种模型适应方法，通过激活空间的针对性干预实现局部可逆行为改变，提出统一的适应方法分类框架。

Comments Accepted to ACL 2026 (Main)

UHR-BAT: Budget-Aware Token Compression Vision-Language model for Ultra-High-Resolution Remote Sensing

UHR-BAT：面向超高清遥感的预算感知视觉-语言模型

Yunkai Dang, Minxin Dai, Yuekun Yang, Zhangnan Li, Wenbin Li, Feng Miao, Yang Gao

机构 * School of Artificial Intelligence Science and Technology, Nanjing University（南京大学人工智能科学与技术学院） ； School of Electronic Science and Engineering, Nanjing University（南京大学电子科学与工程学院） ； School of Physics, Nanjing University（南京大学物理学院） 纠错

专题命中 效率与部署 ：language model(title)；分类 cs.AI

AI总结 本文提出UHR-BAT模型，通过文本引导的多尺度重要性估计和区域保留合并策略，实现高效视觉token压缩，在严格预算下提升超高清遥感图像信息提取效率。

A KL Lens on Quantization: Fast, Forward-Only Sensitivity for Mixed-Precision SSM-Transformer Models

KL镜像于量化：混合精度SSM-Transformer模型的快速前向敏感性分析

Jason Kong, Nilesh Prasad Pandey, Flavio Ponzina, Tajana Rosing

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种轻量级、无需反向传播的替代敏感性分析框架，用于识别混合SSM-Transformer组件对量化退化最敏感的部分，通过KL散度指标提升边缘设备上混合模型的部署效率。

From Where Words Come: Efficient Regularization of Code Tokenizers Through Source Attribution

词源何处：通过源归属高效正则化代码分词器

Pavel Chizhov, Egor Bogomolov, Ivan P. Yamshchikov

机构 * CAIRO, Technical University of Applied Sciences Würzburg-Schweinfurt（CAIRO应用技术大学（乌尔姆-施维林）） ； JetBrains Research（JetBrains研究） ； TU Delft（代尔夫特理工大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文通过源归属BPE（SA-BPE）正则化方法，解决代码分词器因训练数据不平衡导致的冗余token问题，提升分词效率与安全性。

Formalizing the Safety, Security, and Functional Properties of Agentic AI Systems

形式化代理AI系统的安全、安全性和功能性属性

Edoardo Allegrini, Ananth Shreekumar, Z. Berkay Celik

机构 * Sapienza University of Rome（罗马萨皮恩扎大学） ； Purdue University（普渡大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出一个统一的语义框架，用于分析、设计和部署正确、可靠且稳健的代理AI系统，通过形式化验证确保系统行为的安全性和功能性。

Rethinking AI Hardware: A Three-Layer Cognitive Architecture for Autonomous Agents

重新思考人工智能硬件：一种三层认知架构用于自主代理

Li Chen

机构 * LI CHEN（李晨） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文提出Tri-Spirit架构，通过分解智能为规划、推理和执行三层，提升自主系统效率，实验显示任务延迟和能耗降低显著。

Comments A system architecture paper with simulation-based evaluation