语言大模型 / LLM

Think Before You Grid-Search: Floor-First Triage for LLM Serving

在进行网格搜索之前先思考：大语言模型服务的楼层优先分类法

Yihua Liu

机构 * NVIDIA 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI

AI总结 研究大语言模型服务优化，提出楼层优先分类法，基于残差构建五维资源向量，通过墙排序比较部署方案，以案例分析模型在特定GPU上的情况，揭示布局判断与操作点的关系及不同布局差异的原因。

Comments 16 pages, 3 figures

InfraQR: Edge-Placed QR-Inspired Structured Patch Attacks on Infrared Vision-Language Models

InfraQR：对红外视觉语言模型的边缘放置的受QR码启发的结构化补丁攻击

Xin Li, Jiaju Han, Ma Yaqi, Chengyin Hu, Yingying Zhao, Jiahuan Long, Fengyu Zhang, Yahui Chai

机构 * China University of Petroleum-Beijing at Karamay（中国石油大学（北京）克拉玛依校区） ； Guizhou University（贵州大学） ； Shenzhen Research Institute of Big Data（深圳大数据研究院） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 研究红外视觉语言模型对局部结构化扰动的鲁棒性，提出InfraQR攻击方法，沿图像边界放置结构化补丁并通过替代编码器优化网格单元，实验表明该方法能大幅降低分类器准确率，使对抗图像影响黑盒模型，凸显模型易受此类扰动影响。

Traffic-MoE: A Sparse Foundation Model for Network Traffic Security Analysis

Traffic-MoE：用于网络流量安全分析的稀疏基础模型

Jiajun Zhou, Changhui Sun, Wentao Fu, Meng Shen, Shanqing Yu, Qi Xuan

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 针对加密和协议混淆致传统流量检测方法过时、现有大模型计算成本高的问题，提出Traffic-MoE稀疏基础模型，通过动态路由解耦模型容量与计算开销，在多任务中性能优，提升了吞吐量、降低延迟并优化内存，还具鲁棒性和少样本检测能力。

A Unified Detection Framework for AI-Related Content and Artifacts

人工智能相关内容和工件的统一检测框架

Xifeng Zhang, Tao Hu, Yijie Peng, Wan Tian

机构 * School of Mathematical Sciences, Capital Normal University, Beijing 100048, China（数学学院，首都师范大学，北京100048，中国） ； School of Management and Engineering, Nanjing University, Nanjing 210008, China（管理工程学院，南京大学，南京210008，中国） ； Advanced Institute of Information Technology, Peking University（信息科技高级研究院，北京大学） ； Wangxuan Institute of Computer Technology, Peking University, Beijing 100871, China（王炫计算机技术研究院，北京大学，北京100871，中国） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究针对人工智能相关内容和工件检测问题，提出基于马氏距离分数的统一检测框架。通过开发联合估计方法、提供优化算法并证明收敛性等，有效刻画正类，经实证评估验证了该检测框架的有效性。

From Untamed Black Box to Interpretable Pedagogical Orchestration: The Ensemble of Specialized LLMs Architecture for Adaptive Tutoring

从混沌黑箱到可解释的教育编排：专精LLM集合架构用于自适应辅导

Nizam Kadir

机构 * Singapore University of Technology and Design（新加坡科技设计大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出ES-LLMS架构，通过分离决策与表达，利用可解释的BKT模型协调专精代理，提升辅导系统的可控性和可靠性，实验显示其在指导与信任方面优于传统模型。

Comments Accepted as a FULL paper at the 27th International Conference on Artificial Intelligence in Education (AIED 2026). 15 pages, 4 figures, 4 tables

NonTextual Target Attack

非文本目标攻击

Xinzhe Huang, Wenjing Hu, Tianhang Zheng, Kedong Xiu, Hongsheng Hu, Xiaojun Jia, Di Wang, Zhan Qin, Kui Ren

机构 * State Key Laboratory of Blockchain and Data Security, Zhejiang University（区块链与数据安全国家重点实验室，浙江大学） ； Hangzhou High-Tech Zone, Binjiang Institute of Blockchain and Data Security, Hangzhou（杭州高新技术区，滨江区块链与数据安全研究院） ； School of Cyberspace Security, Nanjing University of Science and Technology（网络安全学院，南京理工大学） ； School of Computer Science, Shanghai Jiao Tong University（计算机科学学院，上海交通大学） ； College of Computing and Data Science, Nanyang Technological University（计算与数据科学学院，新加坡国立大学） ； King Abdullah University of Science and Technology (KAUST)（卡布斯科学与技术大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对现有大语言模型越狱攻击的局限，提出非文本目标攻击NTA，通过非文本约束目标最大化不安全概率，分解目标便于优化，扩展攻击空间，在AdvBench上对安全对齐的大语言模型仅100次迭代，平均成功率达96.8%，性能远超现有攻击。

PALS: Percentile-Aware Layerwise Sparsity for LLM Pruning

PALS：用于大语言模型剪枝的百分位数感知分层稀疏性

Yazdan Jamshidi, Alexey Shvets

机构 * Palo Alto Networks（帕洛阿尔托网络公司） 纠错

专题命中 效率与部署 ：LLM(title)；分类 cs.CL、cs.LG

AI总结 研究针对大语言模型剪枝中各层重要性差异被忽略的问题，提出PALS方法，基于激活幅度第99百分位数调整每层稀疏性，在LLaMA - 2 - 7B上效果显著，且成本低无需微调，还发现基于梯度的分配效果不佳。

Compress the Cache, Not the Speech Embedding: KV Compression for Efficient Speech LLMs

压缩缓存，而非语音嵌入：用于高效语音语言模型的键值压缩

Ke-Han Lu, Keqi Deng, Ruchao Fan, Rui Zhao, Jinyu Li

机构 * Microsoft, USA（微软公司，美国） ； National Taiwan University, Taiwan（台湾国立大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 研究针对语音语言模型解码效率瓶颈，提出SpeechKV方法，对语言模型内语音令牌的键值缓存应用学习池化，在大量语音数据训练后，能压缩语音至文本级粒度，保持性能并大幅提升解码速度。

Comments Submitted to SLT2026

Dual Path Attribution: Efficient Attribution for SwiGLU-Transformers through Layer-Wise Target Propagation

双路径归因：通过层间目标传播实现SwiGLU-Transformer的高效归因

Lasse Marten Jantsch, Dong-Jae Koh, Seonghyeon Lee, Young-Kyoon Suh

机构 * School of Computer Science and Engineering, Kyungpook National University（韩国庆北国立大学计算机科学与工程学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出双路径归因方法，通过单次前向和反向传播高效追踪Transformer内部信息流，实现高保真度和高效性，适用于长序列和密集组件归因。

Think Big, Search Small: Where Capacity Matters in Hierarchical Search Agents?

想得大，搜得小：分层搜索智能体中容量的关键所在？

Qinnan Cai, Yibo Zhao, Xiang Li

机构 * School of Data Science and Engineering（数据科学与工程学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究基于大语言模型的分层搜索智能体中模型容量分配问题，通过角色分解和受控容量扫描实验，发现容量敏感性不对称，分解是瓶颈，还给出了集中容量于委托、缩减执行容量且不牺牲精度的构建分层搜索智能体方法。

Comments 21pages

DASH: Dynamic Audio-Driven Semantic Chunking for Efficient Omnimodal Token Compression

DASH：动态音频驱动的语义分块以实现高效的多模态令牌压缩

Bingzhou Li, Tao Huang

机构 * Shanghai Jiao Tong University（上海交通大学） ； Tongji University（同济大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 DASH通过动态音频驱动的语义分块方法，有效压缩多模态令牌，提升推理效率，优于传统固定窗口分块和注意力剪枝方法。

Comments ECCV 2026

Audio Sentiment Analysis via Distillation and Cross-Modal Integration of Generated Multilingual Transcripts

通过生成的多语言转录本的蒸馏和跨模态集成进行音频情感分析

Andrei-George Durdun, Victor Constantinescu, Radu Tudor Ionescu

机构 * University of Bucharest（布加勒斯特大学） ； PPC Romania（罗马尼亚PPC） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究语音情感分析难题，提出通过跨模态变压器集成音频与文本信息的多模态方案，经自动语音识别生成转录本并翻译为多语言文本，还进行知识蒸馏，实验证明该方法能提升多模态情感分类性能及增强单模态音频模型。

Comments Accepted at KES 2026

Weak-to-Strong Generalization via Direct On-Policy Distillation

通过直接在线策略蒸馏实现弱到强泛化

Shiyuan Feng, Huan-ang Gao, Haohan Chi, Hanlin Wu, Zhilong Zhang, Zheng Jiang, Bingxiang He, Wei-Ying Ma, Ya-Qin Zhang, Hao Zhou

机构 * SIA-Lab of Tsinghua AIR and ByteDance Seed（清华-字节跳动联合研究中心SIA实验室） ； Institute for AI Industry Research (AIR), Tsinghua University（清华大学人工智能产业研究院） ； Department of Computer Science and Technology, Tsinghua University（清华大学计算机科学与技术系） ； Peking University（北京大学） 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 针对可验证奖励RL在大模型上成本高的问题，提出Direct-OPD方法迁移小模型RL的策略偏移，无需在大模型上跑RL即可实现性能提升。

Comments Project Page: https://bytedtsinghua-sia.github.io/Direct-OPD/

ARGUS: Production-Scale Tracing and Performance Diagnosis for over 10,000-GPU Clusters

ARGUS：面向超过10,000 GPU集群的生产级追踪与性能诊断

Jiasheng Zhou, Longbin Zeng, Clavis Chen, Ruiming Lu, Qinwei Yang, Leyi Ye, Ray Ying, Key Zhang

专题命中 效率与部署 ：LLM(abstract,abstract_cn)

AI总结 提出低开销、细粒度的始终在线追踪与实时分析系统ARGUS，通过分解训练调用层次、统一数据管道和渐进式诊断框架，在超过10,000 GPU集群上实现<2%开销的持续故障检测与性能优化。

Vision Language Action (VLA) Models for Unmanned Aerial Robotics and Bimanual Manipulation: A Review

用于无人机机器人和双手操作的视觉语言动作（VLA）模型综述

Inkyu Sa, Chanoh Park, Hea-Min Lee, Donghee Noh, Ho Seok Ahn

机构 * Chef Robotics ； RovifyLab ； IT Application Research Center, Jeonbuk Regional Branch ； Department of Electrical, Computer and Software Engineering（电气与计算机软件工程系） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 综述2017 - 2026年183篇文献，围绕视觉语言动作模型在无人机机器人和双手操作方面的应用，涵盖多维度，表明双手VLA相关策略可转移至无人机系统，还确定了两领域的14个研究方向。

Comments 56 pages, 11 figures, 16 tables

Dynamic-in-Few-Step: Unifying Dynamic Computation and Few-Step Distillation for Efficient Video Generation

动态少步长：统一动态计算与少步长蒸馏以实现高效视频生成

Yu Cheng, Siyue Yao, Zhongang Qi, Shanyan Guan, Wei Li, Fajie Yuan

机构 * Zhejiang University（浙江大学） ； Westlake University（西湖大学） ； BlueImage, vivo（蓝城图像，维沃） ； Xian Jiaotong-Liverpool University（西交利物浦大学） 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.AI、cs.LG

AI总结 针对视频扩散模型计算成本高问题，提出将动态结构稀疏化融入蒸馏过程的加速框架，联合优化去噪步骤与模型稀疏性，引入相关策略和机制确保训练稳定，开发推理引擎，有效提升效率且保持生成质量。

TriRoute: Unified Learned Routing for Joint Adaptive Attention, Experts, and KV-Cache Allocation

TriRoute：用于联合自适应注意力、专家和KV缓存分配的统一学习路由

Andrii Balashov, Olena Ponomarova

机构 * Ukrainian State University of Science and Technologies（乌克兰国立科技大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究提出TriRoute，通过一个跨轴共享的轻量级控制器联合做出注意力分辨率、专家选择和缓存位宽决策，在拉格朗日预算约束下训练，解决了朴素联合训练的问题，在计算和内存匹配时优于独立方法组合，还保留了尾部情况鲁棒性。

Comments 22 pages, 5 figures, 6 tables; preprint

ButterflyMoE: Compression-Scalable Ternary Experts via Structured Butterfly Orbits

ButterflyMoE: 通过结构化的蝴蝶轨道实现子线性三次专家

Aryan Karmore

机构 * Indian Institute of Information Technology, Nagpur（印度纳格浦信息科技学院） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 ButterflyMoE通过结构化的蝴蝶轨道实现子线性三次专家，有效降低内存消耗并保持精度。

Progressive Crystallization: Turning Agent Exploration into Deterministic, Lower-Cost Workflows in Production

渐进式结晶：将代理探索转化为生产中确定性、低成本的工作流程

Arun Malik

专题命中 效率与部署 ：LLM(abstract,comments)；分类 cs.AI

AI总结 研究针对IT运营中AI代理成本高问题，提出渐进式结晶方法，通过三阶段执行分类法及证据提升机制，将代理探索转化为低成本工作流程，在生产云网络AIOps系统上评估效果良好，提升确定性执行、降低成本并提高安全性。

Comments Conference-style paper; 10 pages (estimated from manuscript formatting if applicable); focuses on agentic AI, AIOps, workflow automation, deterministic execution, and LLM cost optimization

DeLS-Spec: Decoupled Long-Short Contexts for Parallel Speculative Drafting

DeLS-Spec：用于并行推测性草稿的解耦长短上下文

Hong-Kai Zheng, Piji Li

机构 * College of Artificial Intelligence, Nanjing University of Aeronautics and Astronautics（南京航空航天大学人工智能学院） ； MIIT Key Laboratory of Pattern Analysis and Machine Intelligence（工业和信息化部模式分析与机器智能重点实验室） ； The Key Laboratory of Brain-Machine Intelligence Technology, Ministry of Education（教育部脑机智能技术重点实验室） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.CL

AI总结 研究提出DeLS-Spec解耦长短上下文推测性解码方法，将DFlash模型作长上下文专家，引入轻量级本地头作短上下文专家，可独立训练降低成本，推理时结合二者逻辑，实验显示在多基准测试中比DFlash提升加速比和接受长度。

CarbonCLIP: Enhance Carbon Prediction from Satellite Imagery via Integrated Street-View Semantics and Temporal Context Training

CarbonCLIP：通过集成街景语义和时间上下文训练增强卫星图像的碳排放预测

Zeru Yang, Fang-Ying Gong, Steve H. L. Yim, Chau Yuen

机构 * Energy Research Institute at NTU（国立理工学院能源研究所） ； Interdisciplinary Graduate Programme（跨学科研究生项目） ； School of Electrical and Electronic Engineering（电气电子工程学院） ； School of Public Administration and Policy（公共管理与政策学院） ； Asian School of the Environment（亚洲环境学院） ； Center for Climate Change and Environmental Health（气候变化与环境健康中心） 纠错

专题命中 效率与部署 ：pretraining(abstract)；分类 cs.AI

AI总结 针对城市碳排放预测难题，CarbonCLIP提出多模态蒸馏框架，通过双分支对比学习，利用街景语义和时间上下文训练增强卫星图像碳排放预测，实验证明该方法优于基线，为卫星碳建模提供有力支持。

Comments Accepted by IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing. 21 pages, 6 figures, 9 tables

Activation Quantization of Vision Encoders Needs Prefixing Registers

视觉编码器的激活量化需要前缀寄存器

Seunghyeon Kim, Taesun Yeom, Jinho Kim, Wonpyo Park, Kyuyeun Kim, Jaeho Lee

机构 * POSTECH ； Dankook University（Dankook 大学） ； Google（谷歌） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 本文提出RegCache算法，通过引入前缀标记减少视觉编码器中的异常值，提升低比特量化模型性能，尤其在极低比特情况下效果显著。

Comments Accepted to ECCV 2026. Code: https://github.com/spbob0418/RegCache

MLIP Studio: An Open Platform for Interactive Benchmarking and Atomistic Simulations Using Machine Learning Interatomic Potentials

MLIP Studio：一个使用机器学习原子间势进行交互式基准测试和原子模拟的开放平台

Manas Sharma, Sudeep Punnathanam, Ananth Govind Rajan

专题命中 效率与部署 ：foundation model(abstract)

AI总结 针对通用机器学习原子间势实际应用的阻碍，MLIP Studio平台将60多种MLIPs整合到统一界面，实现端到端工作流程，可降低后续DFT优化工作量、进行计算性能基准测试及指导MLIP选择，降低了基础模型在相关领域应用的障碍。

Towards Reliable Aerial Ground Vehicle Collaboration: An Integrated Planning and Autonomy Framework for Field Deployment

迈向可靠的空地车辆协作：用于实地部署的集成规划与自主框架

Md Safwan Mondal, Luca Russo, James D. Humann, James M. Dotterweich, Pranav Bhounsule

机构 * University of Illinois Chicago（伊利诺伊大学芝加哥分校） ； DEVCOM Army Research Laboratory（陆军研究实验室） 纠错

专题命中 效率与部署 ：language model(abstract)

AI总结 研究针对无人机长时间任务飞行续航受限问题，提出集成规划与自主框架。通过深度强化学习规划器解决协同路由问题，引入标准化API弥合规划与执行差距，还有轻量级重新规划器，经实验验证系统在动态任务中有强大协同导航和适应性。

Quantum Software Engineering in Practice: FPGA and AI Integration for Quantum Certification

实践中的量子软件工程：用于量子认证的FPGA与人工智能集成

Marcos Guillermo Lammers, José Manuel Suárez, Adrián Pousa, Luis Mariano Bibbó, Alejandro Fernández

专题命中 效率与部署 ：LLM(abstract)

AI总结 研究针对量子计算机认证挑战，提出遵循QSE原则的混合认证框架QAccCert，集成FPGA和人工智能技术，通过CHSH不等式在理想量子模拟中实现纠缠认证，经大语言模型引导优化，有效探索参数空间，为实际量子认证提供方法。

Edge-Inference Governors Need Memory-Clock State

超越CPU-GPU频率：内存时钟和尾部效应对边缘推理延迟估计的影响

Jaehoon Kang

专题命中 效率与部署 ：LLM(abstract)

AI总结 通过测量NVIDIA Jetson Orin Nano，发现内存时钟是缺失的维度、聚合丢失率隐藏突发性、频率切换存在延迟，这些现象超出传统频率感知延迟模型的范围。

Comments 23 pages, 15 figures, 23 tables. Code and data: https://github.com/dankang21/jetson-latency-lab ; traces: https://zenodo.org/records/21236659

Low Latency GNN Accelerator for Quantum Error Correction

低延迟图神经网络加速器用于量子纠错

Alessio Cicero, Luigi Altamura, Moritz Lange, Mats Granath, Pedro Trancoso

专题命中 效率与部署 ：post-training(abstract)

AI总结 本文提出基于FPGA的图神经网络解码器加速器，通过硬件优化在1微秒内实现更低的逻辑错误率，提升量子纠错精度。

G-ZAP: A Generalizable Zero-Shot Framework for Arbitrary-Scale Pansharpening

G-ZAP：一种通用的零样本框架用于任意尺度的全色融合

Zhiqi Yang, Shan Yin, Jingze Liang, Liang-Jian Deng

专题命中 效率与部署 ：pretraining(abstract)

AI总结 本文提出G-ZAP框架，通过多尺度半监督训练方案实现跨分辨率、跨场景和跨传感器的泛化能力，在多个真实世界数据集上取得SOTA结果，支持权重重用以提高实际部署效率。

EventVGGT: Exploring Cross-Modal Distillation for Consistent Event-based Depth Estimation

EventVGGT：探索跨模态蒸馏以实现一致的基于事件的深度估计

Yinrui Ren, Jinjing Zhu, Kanghao Chen, Zhuoxiao Li, Jing Ou, Zidong Cao, Tongyan Hua, Peilun Shi, Yingchun Fu, Wufan Zhao, Hui Xiong

机构 * HKUST(GZ)（香港科技大学（珠海）） ； CUHK（香港中文大学） ； SCNU（华南师范大学） 纠错

专题命中 效率与部署 ：foundation model(abstract)

AI总结 EventVGGT通过跨模态蒸馏实现一致的基于事件的深度估计，有效提升深度预测精度和泛化能力。

Comments Accepted to ECCV 2026

MEGO: Learning Mixture-of-Experts for General-Purpose Binary Optimization

MEGO：学习用于通用二进制优化的专家混合模型

Shengcai Liu, Zhiyuan Wang, Yew-Soon Ong, Xin Yao, Ke Tang

专题命中 效率与部署 ：foundation model(abstract)

AI总结 研究针对离散优化问题，提出MEGO这一通用神经优化器，它由无需领域知识训练的专家混合模型构成，通过路由策略解决新问题。在多类问题上展现强大泛化能力，优于现有优化器，还提供了量化问题相似性及分类的新方法。

Comments 33 pages, 7 figures