语言大模型 / LLM

Efficient and Interpretable Multi-Agent LLM Routing via Ant Colony Optimization

通过蚁群优化实现高效且可解释的多智能体大语言模型路由

Xudong Wang, Chaoning Zhang, Jiaquan Zhang, Chenghao Li, Qigan Sun, Sung-Ho Bae, Peng Wang, Ning Xie, Jie Zou, Yang Yang, Hengtao Shen

机构 * School of Computing, Kyung Hee University（Kyung Hee 大学计算机学院） ； School of Information and Software Engineering, University of Electronic Science and Technology of China（中国电子科技大学信息与软件工程学院） ； School of Computer Science and Engineering, University of Electronic Science and Technology of China（中国电子科技大学计算机科学与工程学院） ； School of Computer Science and Technology, Tongji University（同济大学计算机科学与技术学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；small language model(abstract)

AI总结 本文提出AMRO-S框架，通过意图推理、任务特定信息素专家和质量门控异步更新机制，提升多智能体系统路由效率与可解释性，实验显示其在质量-成本权衡上优于现有方法。

Comments 11 pages, 3 figures, submitted to IEEE Transactions on Artificial Intelligence

Development of Ontological Knowledge Bases by Leveraging Large Language Models

通过利用大语言模型开发本体知识库

Le Ngoc Luyen, Marie-Hélène Abel, Philippe Gouspillou

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文提出利用大语言模型开发本体知识库的结构化迭代方法，通过案例研究展示加速本体构建、提升一致性及透明度的贡献。

Detecting Miscitation on the Scholarly Web through LLM-Augmented Text-Rich Graph Learning

通过LLM增强的文本丰富图学习检测学术网络中的误引

Huidong Wu, Haojia Xiang, Jingtong Gao, Xiangyu Zhao, Dengsheng Wu, Jianping Li

机构 * Chinese Academy of Sciences & City University of Hong Kong（中国科学院与香港城市大学） ； City University of Hong Kong（香港城市大学） ； Shenzhen University & Beijing Dongbi Data Technology（深圳大学与北京东碧数据技术） ； University of Chinese Academy of Sciences（中国科学院大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文提出LAGMiD框架，利用LLM进行深度语义推理，结合图神经网络实现高效误引检测，通过证据链推理和知识蒸馏降低计算成本，实验显示效果优于现有方法。

When to Ensemble: Identifying Token-Level Points for Stable and Fast LLM Ensembling

何时进行集成：识别令牌级点以实现稳定且快速的LLM集成

Heecheol Yun, Kwangmin Ki, Junghyun Lee, Eunho Yang

机构 * KAIST（韩国科学技术院） ； Korea University（韩国大学） ； AITRICS 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出SAFE框架，通过考虑令牌化不匹配和下一个令牌概率分布的一致性，改进长形式生成中的模型集成，提升准确性和效率。

Comments ICLR 2026

Taming the Long Tail: Efficient Item-wise Sharpness-Aware Minimization for LLM-based Recommender Systems

驯服长尾：面向基于大语言模型的推荐系统的高效项级锐度感知最小化

Jiaming Zhang, Yuyuan Li, Xiaohua Feng, Li Zhang, Longfei Li, Jun Zhou, Chaochao Chen

机构 * Zhejiang University（浙江大学） ； Hangzhou Dianzi University（杭州电子科技大学） ； Ant Group（蚂蚁集团） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；pretraining(abstract)

AI总结 本文研究了基于大语言模型的推荐系统在长尾问题中的表现，提出EISAM框架通过项级锐度感知最小化提升尾部项目推荐性能，理论分析证明其有效性，并在三个真实数据集上验证了其效果。

ToolTree: Efficient LLM Agent Tool Planning via Dual-Feedback Monte Carlo Tree Search and Bidirectional Pruning

ToolTree: 通过双反馈蒙特卡洛树搜索与双向剪枝实现高效的LLM代理工具规划

Shuo Yang, Soyeon Caren Han, Yihao Ding, Shuhe Wang, Eduard Hoy

机构 * School of Computing and Information Systems, The University of Melbourne（墨尔本大学计算与信息学院） ； School of Physics, Mathematics and Computing, The University of Western Australia（西澳大学物理、数学与计算学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出ToolTree，一种基于蒙特卡洛树搜索的工具规划方法，通过双阶段LLM评估和双向剪枝机制，提升工具使用序列的适应性和效率，实验表明其在多种基准测试中性能提升约10%。

Comments ICLR 2026

TaxBreak: Unmasking the Hidden Costs of LLM Inference Through Overhead Decomposition

TaxBreak: 通过开销分解揭示LLM推理的隐藏成本

Prabhu Vellaisamy, Shreesh Tripathi, Vignesh Natarajan, Surya Santhan Thenarasu, Shawn Blanton, John P. Shen

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 TaxBreak通过分解主机可见的编排开销，识别优化应针对软件栈还是设备侧工作负载，揭示LLM推理中隐藏的成本问题。

Comments Accepted at IEEE ISPASS 2026. Copyright assigned to IEEE

Asynchronous Verified Semantic Caching for Tiered LLM Architectures

异步验证语义缓存用于分层大语言模型架构

Asmit Kumar Singh, Haozhe Wang, Laxmi Naga Santosh Attaluri, Tak Chiam, Weihua Zhu

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出Krites异步缓存策略，通过LLM判断扩展静态缓存覆盖范围，提升静态缓存命中率，减少推理成本和延迟。

Verifying LLM Inference to Detect Model Weight Exfiltration

验证大语言模型推理以检测模型权重外泄

Roy Rinberg, Adam Karvonen, Alexander Hoover, Daniel Reuter, Keri Warr

机构 * Harvard University（哈佛大学） ； ML Alignment & Theory Scholars (MATS)（对齐与理论学者（MATS）） ； Stevens Institute of Technology（史蒂文斯理工学院） ； Anthropic 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出通过验证LLM推理来检测模型权重外泄，通过安全游戏形式化外泄问题，提出可证明缓解隐写外泄的验证框架，并评估了不同参数规模的模型。

AgentRM: An OS-Inspired Resource Manager for LLM Agent Systems

AgentRM: 一种受操作系统启发的LLM代理系统资源管理器

Jianshu She

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出AgentRM，通过多级反馈队列调度和三级上下文生命周期管理，解决LLM代理系统中的资源调度失败和上下文退化问题，显著提升性能和稳定性。

Cost-Efficient Multimodal LLM Inference via Cross-Tier GPU Heterogeneity

通过跨层级GPU异构性实现高效的多模态大语言模型推理

Donglin Yu

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出通过跨层级GPU异构性优化多模态大语言模型推理，减少跨设备传输复杂度，提升吞吐量并降低部署成本。

TASTE-Streaming: Towards Streamable Text-Aligned Speech Tokenization and Embedding for Spoken Language Modeling

TASTE-Streaming: 向可流式传输的文本对齐语音标记化与嵌入迈进

Liang-Hsuan Tseng, Hung-yi Lee

机构 * Graduate Institute of Communication Engineering, National Taiwan University（国立台湾大学通讯工程研究所） 纠错

专题命中 效率与部署 ：language model(title,abstract)；SLM(abstract)；分类 cs.CL

AI总结 本文提出TASTE-S，通过集成CTC ASR模块和重设计解码器，实现流式传输的文本对齐语音标记化与嵌入，减少延迟并保持鲁棒性。

Comments Work in progress

MaDiS: Taming Masked Diffusion Language Models for Sign Language Generation

MaDiS：驯服掩码扩散语言模型用于手语生成

Ronglai Zuo, Rolandos Alexandros Potamias, Qi Sun, Evangelos Ververas, Jiankang Deng, Stefanos Zafeiriou

机构 * Imperial College London（伦敦帝国学院） 纠错

专题命中 效率与部署 ：language model(title,abstract)；pretraining(abstract)

AI总结 本文提出MaDiS，一种基于掩码扩散的语言模型，用于手语生成，通过双向依赖捕捉和高效并行多令牌生成，提升生成效率和质量，同时引入三级交叉模态预训练方案和混合部分嵌入层，实现多层级手语表示。

Aligning Language Models from User Interactions

从用户交互对齐语言模型

Thomas Kleine Buening, Jonas Hübotter, Barna Pásztor, Idan Shenfeld, Giorgia Ramponi, Andreas Krause

机构 * ETH Zurich（苏黎世联邦理工学院） ； MIT（麻省理工学院） ； University of Zurich（苏黎世大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出通过自蒸馏直接从用户交互学习的方法，利用用户反馈调整模型行为，提升对齐和指令遵循能力，同时实现个性化和持续适应。

Language Models are Injective and Hence Invertible

语言模型是单射的，因此可逆

Giorgos Nikolaou, Tommaso Mencattini, Donato Crisostomi, Andrea Santilli, Yannis Panagakis, Emanuele Rodolà

机构 * EPFL（苏黎世联邦理工学院） ； Sapienza University of Rome（罗马大学） ； Paradigma ； University of Athens（雅典大学） ； Archimedes/Athena RC, Greece（阿基米德/雅典研究中心，希腊） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究证明语言模型在映射离散序列到连续表示时是单射的，通过实验验证无碰撞，并提出SipIt算法实现精确逆向恢复。

Spend Less, Reason Better: Budget-Aware Value Tree Search for LLM Agents

少花钱，多思考：基于预算的值树搜索用于大语言模型代理

Yushu Li, Wenlong Deng, Jiajin Li, Xiaoxiao Li

机构 * University of British Columbia（不列颠哥伦比亚大学） ； Vector Institute（向量研究所） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种无需训练的推理时框架，通过单个LLM骨干模型将多跳推理建模为动态搜索树，并引入预算条件的节点选择机制，以在预算耗尽时实现从广度探索到贪婪利用的平稳过渡。

HomeSafe-Bench: Evaluating Vision-Language Models on Unsafe Action Detection for Embodied Agents in Household Scenarios

HomeSafe-Bench：评估视觉-语言模型在家庭场景中对不安全行为检测的性能

Jiayue Pu, Zhongxiang Sun, Zilu Zhang, Xiao Zhang, Jun Xu

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI

AI总结 本文提出HomeSafe-Bench，用于评估视觉-语言模型在家庭场景中检测不安全行为的能力，同时引入HD-Guard架构提升实时安全监控效率与准确性。

Adaptive Vision-Language Model Routing for Computer Use Agents

自适应视觉-语言模型路由用于计算机使用代理

Xunzhuo Liu, Bowei He, Xue Liu, Andy Luo, Haichen Zhang, Huamin Chen

机构 * vLLM Semantic Router Project（vLLM语义路由项目） ； MBZUAI ； McGill University（麦吉尔大学） ； AMD ； Red Hat（红帽公司） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL

AI总结 本文提出自适应VLM路由框架，通过动态选择模型降低推理成本，同时保持可靠性。在ScreenSpot-Pro数据集和OpenClaw基准测试中，AVR实现了高达78%的推理成本降低，并结合视觉困惑代理机制提升安全性。

98$\times$ Faster LLM Routing Without a Dedicated GPU: Flash Attention, Prompt Compression, and Near-Streaming for the vLLM Semantic Router

98倍更快的LLM路由无需专用GPU：Flash注意力、提示压缩与近流式处理用于vLLM语义路由

Xunzhuo Liu, Bowei He, Xue Liu, Andy Luo, Haichen Zhang, Huamin Chen

机构 * vLLM Semantic Router Project（vLLM语义路由器项目） ； MBZUAI ； McGill University（麦吉尔大学） ； AMD ； Red Hat（红帽公司） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.CL

AI总结 本文提出三种优化方法，解决LLM路由的延迟和内存问题，实现98倍速度提升，使路由在共享GPU上成为可能。

Prompt-Driven Lightweight Foundation Model for Instance Segmentation-Based Fault Detection in Freight Trains

基于提示的轻量级基础模型用于基于实例分割的货运列车故障检测

Guodong Sun, Qihang Liang, Xingyu Pan, Moyun Liu, Yang Zhang

机构 * School of Mechanical Engineering, Hubei University of Technology（湖北工业大学机械工程学院） ； Hubei Key Laboratory of Modern Manufacturing Quality Engineering, Hubei University of Technology（湖北工业大学现代制造质量工程重点实验室） ； School of Mechanical Science and Engineering, Huazhong University of Science and Technology（华中科技大学机械科学与工程学院） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 本文提出一种轻量级自提示实例分割框架，用于货运列车故障检测，通过自提示生成模块实现基础模型到领域任务的知识迁移，并采用轻量级视觉Transformer backbone，实现低计算成本的高效部署。

Comments 14 pages, 9 figures

SageSched: Efficient LLM Scheduling Confronting Demand Uncertainty and Hybridity

SageSched: 面对需求不确定性和混合性的高效LLM调度

Zhenghao Gan, Yichen Bao, Yifei Liu, Chen Chen, Quan Chen, Minyi Guo

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 SageSched通过结合提示内容和历史结果预测输出长度分布，同时考虑计算和内存成本，实现高效LLM调度，提升整体效率超过28.7%。

MindfulAgents: Personalizing Mindfulness Meditation via an Expert-Aligned Multi-Agent System

MindfulAgents: 通过专家对齐的多智能体系统实现正念冥想的个性化

Mengyuan Millie Wu, Zhihan Jiang, Yuang Fan, Richard Feng, Sahiti Dharmavaram, Mathew Polowitz, Shawn Fallon, Bashima Islam, Lizbeth Benson, Irene Tung, David Creswell, Xuhai Xu

机构 * Columbia University（哥伦比亚大学） ； St. Margaret’s Episcopal School（圣玛格丽特教区学校） ； Carnegie Mellon University（卡内基梅隆大学） ； Worcester Polytechnic Institute（沃斯特理工学院） ； Institute for Social Research, University of Michigan（密歇根大学社会研究所） ； California State University Dominguez Hills（加州大学 Dominguez Hills 分校） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出MindfulAgents系统，利用大语言模型生成个性化正念冥想指导脚本，提升用户参与度和自我意识，减少压力，并通过实验验证其在长期冥想实践中的有效性。

Comments Accepted by CHI 2026; Zhihan Jiang and Yuang Fan contributed equally as second authors

Cross-Family Speculative Prefill: Training-Free Long-Context Compression with Small Draft Models

跨家族推测预填：无训练长上下文压缩与小型草稿模型

Shubhangi Upasani, Ravi Shanker Raju, Bo Li, Mengmeng Ji, John Long, Chen Wu, Urmish Thakker, Guangtao Wang

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文研究跨家族推测预填技术，利用不同模型家族的轻量草稿模型实现无训练提示压缩，保留90-100%的完整提示性能并显著降低TTFT，表明推测预填依赖任务先验和语义结构。

Journal ref ICLR 2026 (WS)

ARL-Tangram: Unleash the Resource Efficiency in Agentic Reinforcement Learning

ARL-Tangram：释放代理强化学习中的资源效率

Bangjun Xiao, Yihao Zhao, Xiangwei Deng, Shihua Yu, Yuxing Xiang, Huaqiu Liu, Qiying Wang, Liang Zhao, Hailin Zhang, Xuanzhe Liu, Xin Jin, Fuli Luo

机构 * School of Computer Science, Peking University（北京大学计算机科学系） ； LLM-Core Xiaomi（小智LLM核心） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 ARL-Tangram通过动作级 orchestration 实现细粒度外部资源共享与弹性调度，提升代理强化学习的资源利用效率，实验表明其在平均动作完成时间、训练步长速度和外部资源节约方面均有显著提升。

LightMoE: Reducing Mixture-of-Experts Redundancy through Expert Replacing

LightMoE: 通过专家替换减少混合专家冗余

Jiawei Hao, Zhiwei Hao, Jianyuan Guo, Li Shen, Yong Luo, Han Hu, Dan Zeng

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出LightMoE框架，通过专家替换、自适应选择和分层构造提升混合专家模型的内存效率和性能，实验表明其在30%压缩下性能与LoRA相当，50%压缩下表现更优。

NeuroLoRA: Context-Aware Neuromodulation for Parameter-Efficient Multi-Task Adaptation

NeuroLoRA：基于情境的神经调节用于参数高效多任务适应

Yuxin Yang, Haoran Zhang, Mingxuan Li, Jiachen Xu, Ruoxi Shen, Zhenyu Wang, Tianhao Liu, Siqi Chen, Weilin Huang

机构 * Shanghai University（上海大学） ； Fudan University（复旦大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 NeuroLoRA通过引入可学习的神经调节门和对比正交损失，提升多任务适应和持续学习能力，实验表明其在MMLU、GSM8K和ScienceQA上优于FlyLoRA和其他基线模型。

Comments work in progress

Task-Specific Knowledge Distillation via Intermediate Probes

通过中间探针进行任务特定的知识蒸馏

Ryan Brown, Chris Russell

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种通过冻结教师模型隐藏状态训练轻量级探针的方法，利用探针预测而非输出logits作为监督信号，提升四个推理基准测试的性能，尤其在数据有限时效果更显著。

Token Distillation: Attention-aware Input Embeddings For New Tokens

令牌蒸馏：面向新令牌的注意力感知输入嵌入

Konstantin Dobler, Desmond Elliott, Gerard de Melo

机构 * Hasso Plattner Institute ELLIS Unit（波茨坦大学哈索普兰特纳研究所ELLIS单位） ； University of Copenhagen ELLIS Unit（哥本哈根大学ELLIS单位） 纠错

专题命中 效率与部署 ：language model(abstract)；pretraining(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出令牌蒸馏方法，通过蒸馏原始分词获得的表示快速学习高质量新令牌嵌入，实验表明其优于现有基线。

Comments ICLR 2026 camera-ready

Evolution and compression in LLMs: On the emergence of human-aligned categorization

语言模型中的进化与压缩：关于人类对齐分类的出现

Nathaniel Imel, Noga Zaslavsky

机构 * New York University（纽约大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究探讨LLM是否能进化出高效的人类对齐语义系统，通过颜色分类实验发现，大模型在复杂性和英语对齐性上表现各异，仅最强模型能复现人类近最优的信息瓶颈贸易-offs。

Comments Published as a conference paper at ICLR 2026 (The Fourteenth International Conference on Learning Representations). OpenReview: https://openreview.net/forum?id=s7gSTR2AqA&noteId=s7gSTR2AqA

MoEKD: Mixture-of-Experts Knowledge Distillation for Robust and High-Performing Compressed Code Models

MoEKD：混合专家知识蒸馏用于鲁棒且高性能的压缩代码模型

Md. Abdul Awal, Mrigank Rochan, Chanchal K. Roy

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 本文提出MoEKD框架，通过混合专家架构实现多专家知识蒸馏，提升压缩模型的鲁棒性和性能，实验表明在漏洞检测任务中，MoEKD在对抗鲁棒性和预测性能上均优于现有基线方法。

Comments Accepted to the Research Track of the Evaluation and Assessment in Software Engineering (EASE) 2026