语言大模型 / LLM

Efficient Scaling of LLM Training with Flexible Context Parallelism

利用灵活上下文并行实现LLM训练的高效扩展

Yifan Niu, Han Xiao, Dongyi Liu, Wei Zhou, Jia Li

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； Huawei Technologies Co., Ltd.（华为技术有限公司） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 针对数据异构导致负载不均和通信冗余问题，提出自适应重配置通信组和上下文并行度的FCP策略，实现近线性加速比，最高达1.46倍吞吐提升。

Meeting SLOs, Slashing Hours: Automated Enterprise LLM Optimization with OptiKIT

满足SLO，节省时间：使用OptiKIT实现企业级LLM自动化优化

Nicholas Santavas, Kareem Eissa, Patrycja Cieplicka, Piotr Florek, Matteo Nulli, Stefan Vasilev, Seyyed Hadi Hashemi, Antonios Gasteratos, Shahram Khadivi

机构 * Anonymous Authors（匿名作者） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 提出OptiKIT分布式LLM优化框架，通过自动化复杂优化流程，为非专家团队提供动态资源分配和流水线执行，实现GPU吞吐量提升2倍以上，降低优化门槛。

Comments Accepted in MLSys 2026

DAST: A VLM-LLM Framework for Cross-Interface Anomaly Detection in O-RAN

DAST: 面向O-RAN跨接口异常检测的VLM-LLM框架

Francesco Spinelli, Esteban Municio, Pau Baguer, Gines Garcia-Aviles, Xavier Costa-Perez

机构 * i2CAT Foundation（i2CAT基金会） ； NEC Laboratories Europe（NEC欧洲实验室） ； ICREA 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 提出DAST，一种零样本多智能体框架，通过VLM→LLM→VLM三级流水线将多变量KPI流转换为视觉表示，结合领域知识进行跨接口异常检测，在真实O-RAN测试平台上优于现有TSAD方法。

Comments 7 pages, 5 figures. This work has been submitted to the IEEE for possible publication

SHALA-LLM: Smartly Handling Ambiguous Labels in Aligning LLMs

SHALA-LLM：在对齐LLM中智能处理模糊标签

Jingyao Wu, Ashley Wang, Keane Ong, Paul Pu Liang, Rosalind Picard

机构 * MIT Media Lab, Massachusetts Institute of Technology（麻省理工学院媒体实验室、麻省理工学院） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.LG

AI总结 提出SHALA-LLM强化学习框架，通过从标注者分布中学习并动态优先处理高模糊样本，改善LLM对模糊标签的建模，在NLI和情感识别任务中提升与标注者分布的一致性及分类性能。

Query-based Cross-Modal Projector Bolstering Mamba Multimodal LLM

基于查询的跨模态投影器增强Mamba多模态大语言模型

SooHwan Eom, Jay Shim, Gwanhyeong Koo, Haebin Na, Mark A. Hasegawa-Johnson, Sungwoong Kim, Chang D. Yoo

机构 * Korea Advanced Institute of Science and Technology / Korea, Republic of（韩国科学技术院） ； University of Illinois in Urbana-Champaign / United States of America（伊利诺伊大学厄巴纳-香槟分校） ； Korea University / Korea, Republic of（韩国大学） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出基于查询的跨模态投影器，通过交叉注意力压缩视觉令牌，消除手动设计2D扫描顺序的需求，提升Mamba多模态LLM的性能和吞吐量。

Comments Accepted to EMNLP 2024 Findings

Ekka: Automated Diagnosis of Silent Errors in LLM Inference

Ekka: LLM推理中静默错误的自动诊断

Yile Gu, Zhen Zhang, Shaowei Zhu, Xinwei Fu, Jun Wu, Yida Wang, Baris Kasikci

机构 * University of Science and Technology of China（中国科学技术大学） ； Tsinghua University（清华大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 提出Ekka系统，通过差分调试对齐比较中间执行状态，自动诊断LLM推理框架中的静默错误，在真实错误基准上达到80% pass@1和88% pass@5的诊断准确率。

Comments ICML 2026

SkCC: Portable and Secure Skill Compilation for Cross-Framework LLM Agents

SkCC：面向跨框架LLM代理的可移植且安全的技能编译

Yipeng Ouyang, Yi Xiao, Yuhao Gu, Xianwei Zhang

机构 * Sun Yat-sen University（中山大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 针对LLM代理技能在不同框架间缺乏可移植性和安全性的问题，提出SkCC编译器，通过强类型中间表示SkIR解耦语义与格式，实现跨框架部署，并内置静态优化器强制执行安全约束，显著提升性能并降低适配复杂度。

Comments Accepted by the Agent Skills Workshop at ACM CAIS 2026. 20 pages, 6 figures. Project Homepage: https://skcc.nexa-lang.com/ Code Repo: https://github.com/Nexa-Language/Skill-Compiler/

NetKV: Network-Aware Decode Instance Selection for Disaggregated LLM Inference

NetKV: 面向分解式LLM推理的网络感知解码实例选择

Mubarak Adetunji Ojewale

机构 * Cloud Competency Centre, National College of Ireland（国家爱尔兰学院云能力中心） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 针对分解式LLM推理中KV缓存传输导致的首令牌时间增加问题，提出网络成本感知调度器NetKV，通过贪心算法选择解码实例，在64-GPU胖树模拟器上平均降低TTFT达21.2%。

Dynamic Objective Selection with Safeguards and LLM Oversight for Financial Decision-Making

动态目标选择与防护机制及大语言模型监督在金融决策中的应用

Keigo Sakurai, Takahiro Ogawa, Miki Haseyama, Anjyu Anan, Kei Nakagawa

机构 * Hokkaido University（北海道大学） ； Nomura Asset Management Co., Ltd.（日兴资产经营管理公司） ； Kobe University（Kobe大学） ； Osaka Metropolitan University（大阪市立大学） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出DOSS方法，通过将目标选择建模为分类问题并利用滚动窗口进行顺序更新，结合置信度感知门控和LLM监督，实现金融决策中动态目标选择，降低误选和过度切换风险。

Comments Accpeted to The 2nd Workskop on Advances in Financial AI Workshop: Towards Agentic and Responsible Systems at ICLR 2026

The Efficiency vs. Accuracy Trade-off: Optimizing RAG-Enhanced LLM Recommender Systems Using Multi-Head Early Exit

效率与准确性的权衡：使用多头早期退出优化RAG增强的LLM推荐系统

Huixue Zhou, Hengrui Gu, Xi Liu, Kaixiong Zhou, Mingfu Liang, Yongkang Xiao, Srinivas Govindan, Piyush Chawla, Jiyan Yang, Xiangfei Meng, Huayu Li, Buyun Zhang, Liang Luo, Wen-Yen Chen, Yiping Han, Bo Long, Rui Zhang, Tianlong Chen

机构 * Meta Platforms（Meta平台） ； University of Minnesota（明尼苏达大学） ； NCSU（北卡罗来纳州立大学） ； UNC at Chapel Hill（Chapel Hill分校，北卡罗来纳大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 提出结合检索增强生成（RAG）与多头早期退出架构的优化框架，通过图卷积网络（GCN）高效检索和动态推理终止，在降低计算时间的同时保持或提升点击率（CTR）预测准确性。

MOC: Multi-Order Communication in LLM-based Multi-Agent Systems

MOC：基于LLM的多智能体系统中的多阶通信

Yao Guan, Lin Wang, Zhihu Lu, Ziyi Wang, Wenzhu Yan, Qiang Duan

机构 * Fudan University（复旦大学） ； Nanjing Normal University（南京师范大学） ； Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出多阶通信（MOC）方案，通过重构智能体间通信以捕获多跳依赖，并设计结构消息合并策略，在多个数据集上提升任务性能并降低通信成本。

Absorbing Complexity: An Interaction-Native Knowledge Harness for Financial LLM Agents

吸收复杂性：面向金融LLM代理的交互原生知识驾驭系统

Ailiya Borjigin, Igor Stadnyk, Ben Bilski, Maksym Chikita, Dmytro Kyrylenko, Sofiia Pidturkina, Julia Stadnyk

机构 * True Trading ； Inc4.net 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 提出交互原生知识驾驭（InKH）架构，通过被动知识注入、时序图记忆和过期失效机制，将复杂性吸收到系统中，在金融LLM代理任务中显著降低延迟、令牌成本和过时知识使用，同时提升任务质量和可追溯性。

Comments 17 pages, 3 figures

CoMIC: Collaborative Memory and Insights Circulation for Long-Horizon LLM Agents in Cloud-Edge Systems

CoMIC：云边系统中长周期LLM代理的协作记忆与洞察循环

Yannan Wang, Longli Yang, Zhen Liu, Abhishek Kumar, Carsten Maple

机构 * Beijing Jiaotong University（北京交通大学） ； The Alan Turing Institute（艾伦·图灵研究所） ； University of Warwick（沃里克大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出无需参数更新的云边框架CoMIC，通过集中式反思与分布式执行设计，利用语义子目标标识实现跨代理经验聚合，提升弱边缘代理在长周期任务中的进展率和动作基础。

Threshold-Based Exclusive Batching for LLM Inference

基于阈值的独占批处理用于LLM推理

Weifang Zhang, Yuzhou Nie, Bowen Pang, Guangrui Ma, Shining Wu

机构 * The Hong Kong Polytechnic University（香港理工大学） ； Engineering Center for Space Utilization, Chinese Academy of Sciences（中国科学院空间利用工程技术中心） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对混合批处理中预填充与解码干扰导致边际成本上升的问题，提出基于GPU内存带宽、模型大小和工作负载的EB-MB性能交叉条件及最优切换阈值，优化后的独占批处理在带宽受限GPU上吞吐量提升高达41.9%。

Comments 37 pages, 12 figures. Accepted at ICML 2026

SALSA: Speech Aware LLM Adaptation via Learned Steering Activation Vectors

SALSA: 通过学习的引导激活向量实现语音感知的LLM适配

Yekaterina Yegorova, Argyrios Gerogiannis, Haolong Zheng, Julia Hockenmaier, Chang D. Yoo, Mark A. Hasegawa-Johnson

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Korea Advanced Institute of Science and Technology（韩国科学技术院） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出SALSA方法，通过监督学习优化逐层引导向量，在儿童语音、多语种语音和普通话-英语代码切换基准上显著提升零样本推理和语音上下文学习性能，最高相对提升46.8%。

Quartet II: Accurate LLM Pre-Training in NVFP4 by Improved Unbiased Gradient Estimation

Quartet II: 通过改进的无偏梯度估计实现 NVFP4 中准确的 LLM 预训练

Andrei Panferov, Erik Schultheis, Soroush Tabesh, Dan Alistarh

机构 * University of Waterloo（多伦多大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.LG

AI总结 提出一种用于微缩放格式的无偏量化方法 MS-EDEN，其量化误差比随机舍入低 2 倍以上，并集成到全 NVFP4 线性层量化方案 Quartet II 中，在 LLM 预训练中实现更准确的梯度估计和加速。

DuetServe: Harmonizing Prefill and Decode for LLM Serving via Adaptive GPU Multiplexing

DuetServe: 通过自适应GPU多路复用协调LLM服务的预填充与解码

Lei Gao, Chaoyi Jiang, Hossein Entezari Zarch, Daniel Wong, Mark Hill, Murali Annavaram

机构 * University of California, Berkeley（加州大学伯克利分校） ； Stanford University（斯坦福大学） ； University of Toronto（多伦多大学） ； University of Washington（华盛顿大学） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.LG

AI总结 针对LLM服务中预填充与解码阶段的干扰问题，提出DuetServe框架，通过自适应SM级GPU空间多路复用实现单GPU内的阶段隔离，在保证低延迟的同时提升吞吐量。

SpecDB: LLM-Generated Customized Databases via Feature-Oriented Decomposition

SpecDB: 通过面向特征的分解生成LLM定制的数据库

Yunkai Lou, Longbin Lai, Shunyang Li, Zhengping Qian, Ying Zhang

机构 * Alibaba Group（阿里巴巴集团） ； Zhejiang Gongshang University（浙江工商大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出SpecDB系统，利用大语言模型通过面向特征的分解和依赖图DBGraph，从自然语言工作负载描述自动生成定制化关系数据库，在TPC-C测试中达到与PostgreSQL和MySQL相当的性能，代码量仅为它们的3%。

Skill is Not One-Size-Fits-All: Model-Aware Skill Alignment for LLM Agents

技能并非一刀切：面向 LLM 智能体的模型感知技能对齐

Jianxiang Yu, Jiapeng Zhu, Bochen Lin, Qier Cui, Zichen Ding, Xiang Li

机构 * East China Normal University（华东师范大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.CL

AI总结 提出 MASA 框架，通过层次化技能进化管道和轻量级条件重写器，为不同能力的 LLM 主干网络自适应调整技能，显著提升长时交互任务性能。

From Weak Cues to Real Identities: Evaluating Inference-Driven De-Anonymization in LLM Agents

从弱线索到真实身份：评估LLM代理中推理驱动的去匿名化

Myeongseob Ko, Jihyun Jeong, Sumiran Singh Thakur, Gyuhak Kim, Ruoxi Jia

机构 * Department of Electrical and Computer Engineering, Virginia Tech, Blacksburg, VA, USA（弗吉尼亚理工学院计算机工程系） ； Center for Advanced AI, Accenture（Accenture高级人工智能中心） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 研究通过LLM代理结合分散的非识别线索与公开证据重建真实身份的能力，揭示了即使在没有明确标识符的情况下，代理也能以高成功率实现去匿名化，并提出了新的隐私评估维度。

Comments Accepted at ICML 2026

Journal ref ICML 2026

MedCoG: Maximizing LLM Inference Density in Medical Reasoning via Meta-Cognitive Regulation

MedCoG：通过元认知调节最大化医学推理中的LLM推理密度

Yu Zhao, Hao Guan, Yongcheng Jing, Ying Zhang, Dacheng Tao

机构 * College of Computer Science, VCIP, DISSec Center, Nankai University, China 300350（南开大学计算机学院、VCIP、DISSec中心、中国300350） ； Generative AI Lab, College of Computing and Data Science（生成式人工智能实验室、计算与数据科学学院） ； Nanyang Technological University, Singapore 639798（南洋理工大学，新加坡639798） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出MedCoG框架，利用元认知评估动态调节知识使用，以缓解推理扩展定律下的收益递减，提升推理效率与准确性。

Comments Accepted by ICML 2026

MarginGate: Sparse Margin-Triggered Verification for Batch-Invariant LLM Inference

MarginGate: 用于批量不变LLM推理的稀疏边际触发验证

Kexin Chu, Yang Zhou, Wei Zhang

机构 * University of Connecticut（康涅狄格大学） ； UC Davis（加州大学戴维斯分校） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.LG

AI总结 提出MarginGate方法，利用logit边际稀疏触发验证，仅对低边际步骤进行验证并修复，以低成本实现批量不变LLM推理的确定性解码。

Comments 13 pages, 5 figures, 11 tables

Anchorless Diversification for Parallel LLM Ideation

无锚点多样化并行LLM创意生成

Fares Nabil Ibrahim, Nafis Saami Azad, Raiyan Abdul Baten

机构 * Bellini College of Artificial Intelligence, Cybersecurity, and Computing, University of South Florida（贝尔尼人工智能、网络安全与计算学院，佛罗里达州立大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 研究无锚点方法（如语义方向分层）在并行LLM创意生成中实现候选池多样化，无需依赖种子想法，在多样性、质量和计算效率上优于有锚点基线。

CONCAT: Consensus- and Confidence-Driven Ad Hoc Teaming for Efficient LLM-Based Multi-Agent Systems

CONCAT: 基于共识与置信驱动的即席团队协作以实现高效的基于LLM的多智能体系统

Ziyang Ma, Dingyi Zhang, Sichu Liang, Jiajia Chu, Pengfei Xia, Hui Zang, Deyu Zhou

机构 * Southeast University（东南大学） ； Huawei Technologies Ltd（华为技术有限公司） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出一种无需训练的共识与置信驱动即席团队协作框架CONCAT，通过聚类初始答案、选择高置信领导者并基于心智理论预测协作收益来动态组织多智能体交互，显著提升效率并降低延迟。

Latency-Quality Routing for Functionally Equivalent Tools in LLM Agents

LLM 代理中功能等价工具的延迟-质量路由

Kexin Chu, Dawei Xiang, Wei Zhang

机构 * University of Connecticut（康涅狄格大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.LG

AI总结 针对LLM代理中多个功能等价工具提供者的路由问题，提出LQM-ContextRoute上下文强盗路由器，通过延迟-质量匹配和查询特定质量估计，在运行时负载下实现延迟与质量的权衡，在多个基准上优于SW-UCB。

Comments 14 pages, 6 figure, 13 tables

OccuReward: LLM-Guided Occupant-Centric Reward Shaping for Demographic Equity in Grid-Interactive Buildings

OccuReward: 面向电网交互建筑中人口公平性的LLM引导的以 occupant 为中心的奖励塑造

Shadmehr Zaregarizi, Khashayar Yavari

机构 * Politecnico di Torino（都灵理工大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出OccuReward框架，利用大语言模型迭代塑造奖励函数，通过舒适公平指数(CEI)反馈，在CityLearn v2中提升不同人口群体的舒适公平性，同时降低能耗成本。

Comments 4 pages, 2 figures. Accepted at OccuSys 2026, co-located with ACM Sustainability Week 2026. Preprint version

Ocean4Rec: Offline LLM-Derived OCEAN Profiles for Request-Time VOD Reranking

Ocean4Rec：离线LLM生成的OCEAN画像用于请求时VOD重排序

Wonkyun Kim, Sehyun Bae, Kwanki Ahn, Mungyu Bae, Saeun Choi, Soyeon You, Chandra Prabhakar, Sehyun Kim

机构 * Samsung Electronics Republic of Korea（韩国三星电子公司） ； Samsung Electronics India（印度三星电子公司） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 提出Ocean4Rec重排序层，利用LLM离线生成物品OCEAN画像，在请求时无需LLM调用，通过数值计算提升VOD推荐性能。

AGORA: Adapter-Grounded Observation-Action Retention for Inference-Free Prompt Compression in LLM Agents

AGORA: 基于适配器接地观察-动作保留的LLM智能体无推理提示压缩

Haoran Zhang, Zhaohua Sun

机构 * AI Agent Technologies (Hong Kong) Limited（人工智能代理技术（香港）有限公司） ； Department of Mechanical Engineering, The University of Hong Kong（香港大学机械工程系） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 针对LLM智能体，提出AGORA无推理步骤级压缩器，通过结构提示解析器、格式关键内容保留和125M参数相关性评分器，在9个测试单元中8个保持≥75%的无压缩性能。

Comments 10 pages, 2 figures. Code and data: https://github.com/ranranrannervous/agoracompression

One Tool Is Enough: Reinforcement Learning for Repository-Level LLM Agents

一个工具就够了：面向仓库级LLM智能体的强化学习

Zhaoxi Zhang, Yitong Duan, Yanzhi Zhang, Yiming Xu, Zhixiang Wang, Kun Liang, Weikang Li, Jiahui Liang, Deguo Xia, Jizhou Huang, Jiyan He, Yunfang Wu

机构 * National Key Laboratory for Multimedia Information Processing, Peking University（信息处理国家级重点实验室，北京大学） ； School of Computer Science, Peking University（北京大学计算机科学学院） ； Zhongguancun Institute of Artificial Intelligence (ZGCI)（中关村人工智能研究院（ZGCI）） ； Baidu Inc（百度公司） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 提出RepoNavigator，一个仅配备单一执行感知工具（跳转到调用符号定义）的LLM智能体，通过强化学习端到端训练，在仓库级问题定位中达到最先进性能。

Scheduling LLM Inference with Uncertainty-Aware Output Length Predictions

具有不确定性感知输出长度预测的LLM推理调度

Haoyu Zheng, Yongqiang Zhang, Fangcheng Fu, Xiaokai Zhou, Hao Luo, Hongchao Zhu, Yuanyuan Zhu, Hao Wang, Xiao Yan, Jiawei Jiang

机构 * School of Computer Science, Wuhan University, Wuhan, China（武汉大学计算机学院） ； School of Computer Science, Central China Normal University, Wuhan, China（中央财经大学计算机学院） ； Dameng Database Co., Ltd., Wuhan, China（达梦数据库有限公司） ； School of Artificial Intelligence, Shanghai Jiao Tong University, Shanghai, China（上海交通大学人工智能学院） ； Institute for Math and AI, Wuhan University, Wuhan, China（武汉大学数学与人工智能研究院） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.LG

AI总结 针对LLM推理调度，提出基于对数t分布的输出长度分布模型，并设计Tail Inflated Expectation (TIE)指标替代点估计，以降低在线推理延迟并提高离线吞吐量。

Comments Accepted at ICML 2026