语言大模型 / LLM

Scepsy: Serving Agentic Workflows Using Aggregate LLM Pipelines

Scepsy：利用聚合LLM管道服务代理工作流

Marcel Wagenländer, Otto White, Britannio Jarrett, Pedro Silvestre, Yanda Tao, Guo Li, Huanzhou Zhu, Llúis Vilanova, Peter Pietzuch

机构 * Imperial College London（伦敦帝国学院） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 Scepsy通过聚合LLM管道高效调度多LLM代理工作流，实现高吞吐量和低延迟，相比独立优化或用户指定分配的系统，吞吐量提升2.4倍，延迟降低27倍。

Disentangle-then-Refine: LLM-Guided Decoupling and Structure-Aware Refinement for Graph Contrastive Learning

解耦后再细化：基于LLM的解耦与结构感知细化用于图对比学习

Zhaoxing Li, Hai-Feng Zhang, Xiaoming Zhang

机构 * Institute of Physical Science and Information Technology（物理科学与信息技术研究院） ； School of Mathematical Sciences（数学科学学院） ； Qinghai Institute of Science and Technology Information（青海科学技术信息研究院） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出SDM-SCR框架，通过LLM解耦任务相关信号与噪声，并利用结构感知细化消除幻觉，提升图对比学习的准确性和效率。

Comments Accept in ICME 2026

MCP-Flow: Facilitating LLM Agents to Master Real-World, Diverse and Scaling MCP Tools

MCP-Flow：帮助LLM代理掌握现实世界、多样且可扩展的MCP工具

Wenhao Wang, Peizhi Niu, Zhao Xu, Zhaoyu Chen, Jian Du, Yaxin Du, Xianghe Pang, Keduan Huang, Yanfeng Wang, Qiang Yan, Siheng Chen

机构 * TikTok ； Shanghai Jiao Tong University（上海交通大学） ； Zhejiang University（浙江大学） ； University of Illinois at Urbana–Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 MCP-Flow通过自动化流程提升LLM在现实世界MCP环境中的能力，通过大规模服务器发现、数据合成和模型训练，生成高质量指令-功能调用对和轨迹，推动代理任务性能提升。

Comments ACL 2026 Main, Camera Ready

Route to Rome Attack: Directing LLM Routers to Expensive Models via Adversarial Suffix Optimization

通往罗马的攻击：通过对抗性后缀优化引导LLM路由器选择昂贵模型

Haochun Tang, Yuliang Yan, Jiahua Lu, Huaxiao Liu, Enyan Dai

机构 * Key Laboratory of Symbolic Computation and Knowledge Engineering, MoE, Jilin University（符号计算与知识工程重点实验室，MoE，吉林大学） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出R$^2$A方法，通过对抗性后缀优化误导黑盒LLM路由器选择昂贵模型，解决现有攻击在黑盒场景下的不足。

Journal ref ACL 2026 Main Conference

Adaptive Layer Selection for Layer-Wise Token Pruning in LLM Inference

针对LLM推理中分层令牌剪枝的自适应层选择

Rei Taniguchi, Yuyang Dong, Makoto Onizuka, Chuan Xiao

机构 * NEC Corporation（日本电报电话株式会社） ； Osaka University（大阪大学） ； Nagoya University（名古屋大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出ASL方法，通过自适应选择KV缓存中的层，平衡不同任务性能并满足KV预算要求，优于现有分层令牌剪枝方法。

Comments ACL 2026 Findings. Source code available at https://github.com/TANIGUCHIREI/ASL

Compressed-Sensing-Guided, Inference-Aware Structured Reduction for Large Language Models

基于压缩感知的、推理感知的结构化缩减用于大语言模型

Andrew Kiruluta

机构 * UC Berkeley School of Information（伯克利大学信息学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 本文提出一种统一的压缩感知指导框架，用于动态执行大语言模型，通过稀疏恢复估计任务条件和token自适应的支持集，实现高效硬件执行路径，提升推理速度与压缩效率。

Enhancing Large Language Models with Retrieval Augmented Generation for Software Testing and Inspection Automation

通过检索增强生成提升大型语言模型用于软件测试和检查自动化

Zoe Fingleton, Nazanin Siavash, Armin Moin

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)

AI总结 本文通过检索增强生成方法提升大型语言模型在软件测试和检查自动化中的应用，有效减少项目成本并提高验证与确认活动的效果和效率。

TRACER: Trace-Based Adaptive Cost-Efficient Routing for LLM Classification

TRACER：基于追踪的自适应成本高效路由用于LLM分类

Adam Rida

机构 * Independent Researcher（独立研究者） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 TRACER通过利用生产日志中的标注输入输出对训练轻量级替代模型，实现低成本的LLM分类路由，其通过阈值机制动态决定模型部署边界，并生成可解释性特征。

Comments github.com/adrida/tracer

CROP: Token-Efficient Reasoning in Large Language Models via Regularized Prompt Optimization

CROP：通过正则化提示优化实现大语言模型的token高效推理

Deep Shah, Sanket Badhe, Nehal Kathrotia, Priyanka Tiwari

机构 * Google LLC（谷歌公司） ； Purdue University（普渡大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 CROP通过正则化提示优化，在保持准确性的同时显著降低token消耗，适用于复杂推理任务。

Comments Accepted at ICLR 2026 Workshop on Logical Reasoning of Large Language Models

HUOZIIME: An On-Device LLM-enhanced Input Method for Deep Personalization

HUOZIIME：一种基于大语言模型的设备端输入法用于深度个性化

Baocai Shan, Yuzhuang Xu, Wanxiang Che

机构 * Harbin Institute of Technology（哈尔滨理工大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 本文提出HUOZIIME，一种基于大语言模型的设备端输入法，通过合成个性化数据训练基础模型，结合分层记忆机制实现高效个性化文本生成，实验表明其在设备端执行高效且个性化质量高。

SPaCe: Unlocking Sample-Efficient Large Language Models Training With Self-Pace Curriculum Learning

SPaCe：通过自适应课程学习解锁高效大语言模型训练

Dai Do, Manh Nguyen, Svetha Venkatesh, Hung Le

机构 * Deakin Applied AI Initiative, Deakin University, Australia（德金应用人工智能倡议，德金大学，澳大利亚） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 SPaCe通过自适应课程学习框架，优化数据选择与训练时机，提升大语言模型的训练效率，实验表明其在多个推理基准上性能优于现有方法，样本使用减少达100倍。

Rethinking LLM-Driven Heuristic Design: Generating Efficient and Specialized Solvers via Dynamics-Aware Optimization

重新思考基于大语言模型的启发式设计：通过动态感知优化生成高效且专用的求解器

Rongzheng Wang, Yihong Huang, Muquan Li, Jiakai Li, Di Liang, Bob Simons, Pei Ke, Shuang Liang, Ke Qin

机构 * University of Electronic Science and Technology of China（电子科技大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出DASH框架，通过动态感知指标优化求解器搜索机制和运行时间安排，提升求解效率和性能，同时通过Profiled Library Retrieval减少重新适应成本。

AgentOpt v0.1 Technical Report: Client-Side Optimization for LLM-Based Agent

AgentOpt v0.1 技术报告：基于LLM的代理的客户端优化

Wenyue Hua, Sripad Karne, Qian Xie, Armaan Agrawal, Nikos Pagonas, Kostis Kaffes, Tianyi Peng

机构 * Microsoft Research, AI Frontiers（微软研究院，人工智能前沿） ； Cornell University（康奈尔大学） ； Columbia University（哥伦比亚大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI、cs.LG

AI总结 本文提出AgentOpt框架，用于解决LLM代理客户端资源分配问题，通过多种搜索算法优化模型选择和资源分配，提升效率与效果。

Comments 24 pages, 1 figure

Acceptance Dynamics Across Cognitive Domains in Speculative Decoding

跨认知领域接受动态的推测解码

Saif Mahmoud

机构 * College of Engineering, Al Ain University Abu Dhabi, United Arab Emirates（阿联酋阿因大学工程学院） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；RLHF(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本文研究了基于树的推测解码接受动态，分析了不同NLP任务领域对接受概率的影响，发现任务类型比树深度更能预测接受率，且聊天领域表现出较高的熵和接受率。

Just Pass Twice: Efficient Token Classification with LLMs for Zero-Shot NER

只需两次通过：利用LLM进行零样本命名实体识别的高效标记分类

Ahmed Ewais, Ahmed Hashish, Amr Ali

机构 * WitnessAI 纠错

专题命中 效率与部署 ：LLM(title_cn,abstract_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文提出JPT方法，通过两次输入拼接实现双向上下文的标记分类，提升零样本NER性能，比现有方法快20倍，F1得分提升7.9%。

Comments 16 pages, 9 figures, 12 tables

BoundRL: Efficient Structured Text Segmentation through Reinforced Boundary Generation

BoundRL: 通过强化边界生成实现高效的结构化文本分段

Haoyuan Li, Zhengyuan Shen, Sullam Jeoung, Yueyan Chen, Jiayu Li, Qi Zhu, Shuai Wang, Vassilis Ioannidis, Huzefa Rangwala

机构 * University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校） ； Amazon Web Services（亚马逊网络服务） 纠错

专题命中 效率与部署 ：SFT(abstract,abstract_cn)；LLM(abstract)；language model(abstract)；small language model(abstract)

AI总结 本文提出BoundRL，一种高效处理长结构化文本的分段与标签预测方法，通过强化学习优化文档重建和语义对齐，减少输出token并降低幻觉风险，实验证明其在复杂提示下优于其他基线方法。

Comments accepted by ACL 2026 findings

What Deserves Memory: Adaptive Memory Distillation for LLM Agents

哪些信息值得记忆：面向大语言模型代理的自适应记忆蒸馏

Wenquan Ma, Jiayan Nan, Wenlong Wu, Yize Chen

机构 * Fudan University（复旦大学） ； Shanda Group（上海莎anda集团） ； Beihang University（北航） ； Shanghai University of Finance and Economics（上海财经大学） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；分类 cs.AI

AI总结 本文提出NEMORI框架，通过预测性来评估经验的未来效用，实现自适应记忆蒸馏，提升LLM代理的记忆性能与存储效率。

Chinese Language Is Not More Efficient Than English in Vibe Coding: A Preliminary Study on Token Cost and Problem-Solving Rate

中文并非在 vibe 编码中比英语更高效：关于 token 成本和问题解决率的初步研究

Simiao Ren, Xingyu Shen, Yuchen Zhou, Dennis, Ng, Ankit Raj

专题命中 效率与部署 ：LLM(summary_cn,abstract)；prompting(abstract)；分类 cs.CL

AI总结 本文通过 SWE-bench Lite 评估中文在 LLM 编码任务中的 token 效率，发现中文并无效率优势，且成功率低于英语，提示语言切换未必带来成本节约。

RACER: Retrieval-Augmented Contextual Rapid Speculative Decoding

RACER：检索增强的上下文快速推测解码

Zihong Zhang, Zuchao Li, Lefei Zhang, Ping Wang, Hai Zhao

机构 * School of Artificial Intelligence, Wuhan University（武汉大学人工智能学院） ； School of Computer Science, Wuhan University（武汉大学计算机学院） ； School of Information Management, Wuhan University（武汉大学信息管理学院） ； School of Computer Science, Shanghai Jiao Tong University（上海交通大学计算机学院） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 RACER通过整合检索的精确模式与logit驱动的未来提示，提升大语言模型的推理效率，实现超过2倍的加速，优于现有无训练方法。

Comments Accepted to Findings of ACL 2026

ConfLayers: Adaptive Confidence-based Layer Skipping for Self-Speculative Decoding

ConfLayers：基于置信度的自推测解码中动态层跳过

Walaa Amer, Uday das, Fadi Kurdahi

机构 * Department of Electrical Engineering and Computer Sciences, University of California Irvine, Irvine, USA（电气工程与计算机科学系，加州大学伊尔弗斯分校，伊尔弗斯，美国） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 ConfLayers通过动态置信度层跳过方法优化自推测解码，提升生成速度而不牺牲质量，实现更一致的速度-质量权衡。

Comments 13 pages, 9 figures

From Tokens to Layers: Redefining Stall-Free Scheduling for MoE Serving with Layered Prefill

从令牌到层：重新定义MoE服务中的无停滞调度

Gunjun Lee, Jiwon Kim, Jaiyoung Park, Younjoo Lee, Jung Ho Ahn

机构 * Anonymous Institution, Anonymous City, Anonymous Region, Anonymous Country（匿名机构，匿名城市，匿名地区，匿名国家） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出分层预填调度方法，通过将Transformer层组作为调度单元，减少MoE模型中的专家权重重复加载，提升TTFT和TBT性能，降低能耗和带宽需求。

Comments 24 pages, 5 figure, 12 tables, accepted at MLSys 2026

Towards Faster Language Model Inference Using Mixture-of-Experts Flow Matching

迈向更快的语言模型推断：专家混合流匹配

Aihua Li

机构 * Duke University（杜克大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出MoE-FM框架，通过分解复杂潜空间传输几何结构，提升语言模型推断效率，YAN模型在多个任务中表现优异，速度提升显著。

Revisiting Compositionality in Dual-Encoder Vision-Language Models: The Role of Inference

重新审视双编码视觉-语言模型中的组合性：推断的作用

Imanol Miranda, Ander Salaberria, Eneko Agirre, Gorka Azkune

机构 * HiTZ Center – Ixa, University of the Basque Country (UPV/EHU)（希茨中心–Ixa，巴斯克国家大学（UPV/EHU）） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文探讨了双编码视觉-语言模型中组合性问题的根源，提出通过改进推断协议提升组合性能，引入轻量级变压器学习局部对齐，优于全微调和端到端训练方法。

One Token per Highly Selective Frame: Towards Extreme Compression for Long Video Understanding

每个高度选择性帧一个标记：朝着长视频理解的极端压缩

Zheyu Zhang, Ziqi Pang, Shixing Chen, Xiang Hao, Vimal Bhat, Yu-Xiong Wang

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Amazon Prime Video（亚马逊Prime视频） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出XComp模型，通过极端视频标记压缩提升长视频理解性能，结合标记级和帧级压缩，实现更高的压缩比和更密集的帧采样。

Comments Appear in the proceedings of NeurIPS 2025

SWE-TRACE: Optimizing Long-Horizon SWE Agents Through Rubric Process Reward Models and Heuristic Test-Time Scaling

SWE-TRACE：通过规则过程奖励模型和启发式测试时间缩放优化长 horizon SWE代理

Hao Han, Jin Xie, Xuehao Ma, Weiquan Zhu, Ziyao Zhang, ZhiLiang Long, Hongkai Chen, Qingwen Ye

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；SFT(abstract,abstract_cn)

AI总结 本文提出SWE-TRACE框架，通过优化数据收集、强化学习和测试时间推理，提升SWE代理的长horizon推理能力，减少token消耗和推理延迟。

VisPCO: Visual Token Pruning Configuration Optimization via Budget-Aware Pareto-Frontier Learning for Vision-Language Models

VisPCO：通过预算感知的帕累托前沿学习实现视觉令牌修剪配置优化

Huawei Ji, Yuanhao Sun, Yuan Jin, Cheng Deng, Jiaxin Ding, Luoyi Fu, Xinbing Wang

机构 * Shanghai Jiao Tong University（上海交通大学） ； University of Edinburgh（爱丁堡大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI

AI总结 本文提出VisPCO框架，通过将视觉令牌修剪问题建模为帕累托配置优化问题，自动识别最优配置。实验表明，该方法在8个视觉基准上有效逼近帕累托前沿，并在不同修剪方法和VLM架构中泛化良好。

Assessing the Performance-Efficiency Trade-off of Foundation Models in Probabilistic Electricity Price Forecasting

评估概率电力价格预测中基础模型的性能-效率权衡

Jan Niklas Lettner, Hadeer El Ashhab, Veit Hagenmeyer, Benjamin Schäfer

机构 * Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.LG

AI总结 本文比较了四种模型在欧洲招标区日-ahead概率电力价格预测中的表现，发现TSFMs在CRPS、能量评分和预测区间校准方面优于专用深度学习模型，但经过优化的专用模型在某些情况下也能超越TSFMs，强调了在概率电力价格预测中需权衡计算成本与边际性能提升。

Comments Submitted to the 7th International Workshop on Energy Data and Analytics (EDA), held in conjunction with ACM e-Energy 2026

Switch-KD: Visual-Switch Knowledge Distillation for Vision-Language Models

Switch-KD：视觉切换知识蒸馏用于视觉-语言模型

Haoyi Sun, Xiaoxiao Wang, Ning Mao, Qian Wang, Lifu Mu, Wen Zheng, Tao Wei, Wei Chen

机构 * Li Auto Inc（利-auto公司） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 Switch-KD通过统一视觉-语言知识转移，解决多模态对齐问题，使小模型高效蒸馏大模型的多模态知识。

Comments 11 pages, 3 figures

Journal ref IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) Findings, 2026

Label-efficient underwater species classification with logistic regression on frozen foundation model embeddings

高效标签的水下物种分类：基于冻结基础模型嵌入的逻辑回归

Thomas Manuel Rost

机构 * Thomas Manuel Rost（托马斯·曼努埃尔·罗斯） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 本文研究了在冻结基础模型嵌入上使用逻辑回归进行水下物种分类，证明在标签稀缺情况下，冻结表示在物种层面具有强线性可分性，无需深度学习训练或领域特定数据工程。

Comments v2. New methodology, instead of semi supervised now focused on linear separability. Methodological updates, performance upgrades. The concept is still the same, but the experimental setup and the implementation details have changed

HARNESS: Lightweight Distilled Arabic Speech Foundation Models

HARNESS：轻量级阿拉伯语语音基础模型

Vrunda N. Sukhadia, Shammur Absar Chowdhury

机构 * Amazon India（亚马逊印度） ； Qatar Computing Research Institute, HBKU, Qatar（卡塔尔计算研究所，HBKU，卡塔尔） 纠错

专题命中 效率与部署 ：foundation model(title)；分类 cs.CL、cs.AI

AI总结 本文提出HARNESS，一种轻量级阿拉伯语语音基础模型，通过迭代自蒸馏实现高效准确率与效率的平衡，适用于自动语音识别、方言识别和语音情感识别任务。

Comments 8 pages, 2 figures