语言大模型 / LLM

dMoE: dLLMs with Learnable Block Experts

dMoE: 具有可学习块专家的扩散大语言模型

Sicheng Feng, Zigeng Chen, Gongfan Fang, Xinyin Ma, Xinchao Wang

机构 * National University of Singapore（新加坡国立大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 针对扩散大语言模型与混合专家架构集成时块并行解码与令牌级专家选择不匹配导致的推理内存瓶颈，提出dMoE框架，通过聚合块内令牌级专家分布为统一的块级专家分布来减少激活专家数量，在保持性能的同时显著降低内存使用和延迟。

Comments Working in progress. Code is available at: \url{https://github.com/fscdc/dMoE}

Sink-Token-Aware Pruning for Fine-Grained Video Understanding in Efficient Video LLMs

面向高效视频大语言模型的sink-token感知剪枝：用于细粒度视频理解

Kibum Kim, Jiwan Kim, Kyle Min, Yueqi Wang, Jinyoung Moon, Julian McAuley, Chanyoung Park

机构 * Korea Advanced Institute of Science and Technology (KAIST)（韩国高级科学技术研究院） ； Oracle ； University of California, San Diego（加州大学圣地亚哥分校） ； Electronics and Telecommunications Research Institute (ETRI)（电子电信研究院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出Sink-Token-aware Pruning方法，通过识别并抑制semantically uninformative tokens，提升细粒度视频理解性能，在多种基准测试中表现优异。

Comments ECCV 2026

CoDe-R: Refining Decompiler Output with LLMs via Rationale Guidance and Adaptive Inference

CoDe-R: 通过原理引导和自适应推理利用大语言模型优化反编译器输出

Qiang Zhang, Zhongnian Li

机构 * School of Computer Science and Technology / School of Artificial Intelligence, China University of Mining and Technology（计算机科学与技术学院/人工智能学院，中国矿业大学） ； Mine Digitization Engineering Research Center of the Ministry of Education, China University of Mining and Technology（教育部矿山数字化工程研究中心，中国矿业大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出CoDe-R框架，通过语义认知增强和动态双路径回退机制，在轻量级模型上首次实现平均可重执行率超过50%，显著提升反编译代码质量。

Comments 11 pages, 7 figures, 6 tables. Accepted by IJCNN 2026

STAR-VAE: Structured Topology-Aware Regularization for Audio Reconstruction and Generation

STAR-VAE: 结构化拓扑感知正则化用于音频重建与生成

Huadai Liu, Wen Wang, Kaicheng Luo, Qian Chen, Xiangang Li, Wei Xue

机构 * Hong Kong University of Science（香港科学大学） ； Tongyi Fun Team, Alibaba Group（通义Fun团队，阿里巴巴集团） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)

AI总结 针对连续VAE在压缩率、重建保真度和潜在空间拓扑之间的三难困境，提出结构化拓扑感知正则化（STAR），通过增长约束场重塑潜在空间几何，实现音频的高保真重建与生成。

Comments ICML 2026

LiveServe: Interaction-Aware Serving for Real-Time Omni-Modal LLMs

LiveServe：面向实时全模态大语言模型的交互感知服务系统

Xiangyu Zhi, Peiqi Yin, Sheng Guan, Chenguang Zheng, James Cheng, Xiao Yan

专题命中 效率与部署 ：LLM(abstract,abstract_cn)

AI总结 提出交互感知服务系统LiveServe，通过感知播放进度、语音活动和打断事件，优化调度与KV缓存管理，降低音频延迟并提升吞吐量。

OmniSpace: Efficient Geometry Awareness for Autonomous Vehicles MLLMs

OmniSpace: 自动驾驶多模态大语言模型的高效几何感知

Hao Vo, Phu Loc Nguyen, Khoa Vo, Sieu Tran, Duc Minh Nguyen, Ngo Xuan Cuong, Nghi D. Q. Bui, Anh Nguyen, Duy Minh Ho Nguyen, Ngan Le

机构 * University of Arkansas（阿肯色大学） ； Google Research, Google（谷歌研究院） ； University of Liverpool（利物浦大学） ； Max Planck Research School for Intelligent Systems（马克斯·普朗克智能系统研究所） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 提出OmniSpace，一种即插即用的几何感知范式，通过相机位姿注入器、多视图极线注意力模块和3D几何蒸馏目标，从纯2D观测中提升MLLM的空间推理能力，在多个自动驾驶基准上超越现有方法。

ASAP: A Disaggregated and Asynchronous Inference System for MoE Prefill

ASAP: 一种用于MoE预填充的去中心化和异步推理系统

Weiwei Chen, Shuang Chen, Lele Li, Qiang Hu, Han Li, Xin Ye, Ming Yan, Zhibin Yu

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 针对MoE模型混合并行策略中的同步瓶颈，提出ASAP系统，通过解耦注意力与MoE阶段并实现全异步执行流水线，结合异步通信原语和调度优化，将SLO合规的预填充吞吐量提升90%。

Towards Error-Free Long Video Generation

迈向无错误的长视频生成

Shuning Chang, Weihua Chen, Jiasheng Tang, Hao Xu, Zeyu Zhang, Hangjie Yuan, Yu Lu, Ruigang Niu, Fan Wang, Bohan Zhuang, Yi Yang

机构 * Zhejiang University（浙江大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 提出一种基于扩散模型的长视频生成框架，通过因果注意力、KV缓存和截断修正流技术解决误差累积和属性漂移问题，实现高质量、身份一致的单镜头长视频合成。

LEViL: Label-Efficient Video Learning via Zero-Shot Distillation over VLM-Generated Pseudo-Label Spaces

LEViL: 通过VLM生成的伪标签空间上的零样本蒸馏实现标签高效视频学习

Aslı Çelik

机构 * Kocaeli University（科贾埃利大学） 纠错

专题命中 效率与部署 ：language model(abstract)；pretraining(abstract)

AI总结 提出一种无需标注的视频预训练与目标标签集感知微调结合的标签高效视频学习框架，利用VLM生成伪标签空间进行零样本蒸馏，在有限标签下优于半监督方法。

Restart and Adaptive Acceleration in Stochastic Gradient Methods

随机梯度方法中的重启与自适应加速

Ali Elhishi, Chistophe Roux, Alexandre d'Aspremont

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 针对满足Kurdyka-Łojasiewicz不等式的非光滑弱凸随机优化问题，提出重启策略以利用KŁ不等式实现加速收敛，并证明其对参数误设具有鲁棒性。

MamTra: A Hybrid Mamba-Transformer Backbone for Speech Synthesis

MamTra：一种用于语音合成的混合Mamba-Transformer骨干网络

Tan Dat Nguyen, Sangmin Bae, Joon Son Chung, Ji-Hoon Kim

专题命中 效率与部署 ：LLM(abstract,abstract_cn)

AI总结 提出MamTra混合框架，结合Mamba的线性效率与Transformer的全局建模能力，通过知识迁移策略降低训练成本，在仅用2%数据时仍保持语音保真度并减少34%推理显存。

Comments Interspeech 2026

EchoingPixels: Aliasing-Resistant Joint Token Reduction for Audio-Visual LLMs

EchoingPixels: 抗混叠的音频-视觉联合令牌缩减方法

Chao Gong, Depeng Wang, Zhipeng Wei, Ya Guo, Huijia Zhu, Jingjing Chen

机构 * Fudan University（复旦大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 针对音频-视觉大语言模型中令牌冗余和位置混叠问题，提出EchoingPixels框架，通过跨模态语义筛和Sync-RoPE实现抗混叠的联合令牌缩减，仅用5-20%令牌达到全模型性能。

Comments ICML 2026

Improved Pseudorandom Codes from Permuted Puzzles

从置换谜题改进的伪随机码

Miranda Christ, Noah Golowich, Sam Gunn, Ankur Moitra, Daniel Wichs

专题命中 效率与部署 ：LLM(abstract,abstract_cn)

AI总结 本文提出一种改进的伪随机纠错码，具备子指数安全性和对二进制编辑的鲁棒性，同时抵御具有检测密钥的计算无限制对手。

On the Sparsity-Storage-Accuracy Tradeoff in Parsimoniously Activated Dictionary Learning

稀疏性-存储-精度权衡在简约激活字典学习中的研究

Zihui Zhao, Yuanbo Tang, Yang Li

机构 * Tsinghua University, Institute of Data and Information（清华大学数据与信息研究院） ； Shenzhen Key Laboratory of Ubiquitous Data Enabling（深圳泛在数据赋能重点实验室） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出简约激活字典学习（PADL）的结构化生成模型解释，推导出稀疏性、存储成本与重建精度之间的权衡关系，并开发出无需手动调参的高效算法，在视觉基准上取得更优性能。

SCENIC: Semantic-Conditioned Edge-Aware Neural Framework for Structured IoT Command Generation

SCENIC: 语义条件边缘感知的结构化物联网命令生成神经框架

Luke Ztz Hu, Hongbing Lang, Songping Mai

机构 * Tsinghua Shenzhen International Graduate School（清华大学深圳国际研究生院） ； Shenzhen Belon Technology Co., Ltd.（深圳市贝隆科技有限公司） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出SCENIC框架，通过小规模Transformer、三元组损失微调、剪枝量化等方法，在边缘设备上高效生成结构化IoT命令，达到高准确率并显著压缩模型。

Comments IEEEtran journal format; 3 figures, 8 tables

Channel Location Constrains the Auditability of Subliminal Learning

通道位置限制潜意识学习的可审计性

Tamas Madl

机构 * Austrian Research Institute for Artificial Intelligence（奥地利人工智能研究所） ； University of Vienna（维也纳大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究潜意识学习中隐藏特征传递的可审计性，发现通道位置决定审计有效性，并识别三种传递机制，证明审计必须匹配载体通道。

Simplex-Constrained Sparse Bagging: Transitioning from Uniform Priors to Sparse Posteriors in Ensemble Learning

单纯形约束的稀疏装袋：集成学习中从均匀先验到稀疏后验的转变

Meher Sai Preetam Madiraju, Meher Bhaskar Madiraju

机构 * Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.AI、cs.LG

AI总结 提出SCSB框架，通过最小化袋外损失在概率单纯形上联合优化集成剪枝与校准，引入凹二次惩罚解决L1单纯形悖论，实现高达96%的压缩并提升校准性能。

Comments 6 pages, 3 tables

From Markov to Laplace: How Mamba In-Context Learns Markov Chains

从马尔可夫到拉普拉斯：Mamba如何通过上下文学习马尔可夫链

Marco Bondaschi, Nived Rajaraman, Xiuying Wei, Kannan Ramchandran, Razvan Pascanu, Caglar Gulcehre, Michael Gastpar, Ashok Vardhan Makkuva

机构 * EPFL（苏黎世联邦理工学院） ； UC Berkeley（加州大学伯克利分校） ； Google DeepMind（谷歌DeepMind） ； Télécom Paris（巴黎电信学院） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文研究Mamba在马尔可夫链上的上下文学习能力，发现单层Mamba能高效学习最优的拉普拉斯平滑估计器，并理论上揭示了卷积在其中的关键作用。

Comments Oral presentation at ICLR 2026

LAYUP: Asynchronous decentralized gradient descent with LAYer-wise UPdates

LAYUP: 基于逐层更新的异步去中心化梯度下降

Cabrel Teguemne Fokam, Marcel Nieveler, Lukas König, Khaleelulla Khan Nazeer, David Kappel, Anand Subramoney

机构 * Center for Cognitive Interaction Technology, Universität Bielefeld, Germany（认知交互技术中心，比勒菲尔德大学，德国） ； Bielefeld University（比勒菲尔德大学） ； Department of Computer Science, Royal Holloway, University of London, United Kingdom（计算机科学系，伦敦大学皇家霍洛威学院，英国） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出异步去中心化SGD方法LayUp，通过逐层更新和随机gossip通信减少参数漂移，理论证明收敛性，实验显示比同步训练快32%，比同类算法快27%。

Comments 20 pages, 4 figures

Efficient Network Inference via Hardware-Aware Architecture Search, Model Pruning & Quantization

通过硬件感知架构搜索、模型剪枝与量化实现高效网络推理

Lucas Heublein, Mark Deutel, Axel Plinge, Felix Ott

机构 * Fraunhofer Institute for Integrated Circuits IIS（弗劳恩霍夫集成电路研究所） 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.LG

AI总结 针对嵌入式GNSS干扰监测中资源受限与模型性能的矛盾，研究结合迭代结构化剪枝、训练后静态量化和硬件感知零样本神经架构搜索，在MCUNet基础上压缩模型并优化架构，实现实时干扰分类与表征。

Comments 7 pages, 7 figures

Adaptive Recurrent Message Passing for Test Time Computing on Graphs

自适应递归消息传递用于图上的测试时计算

Junshu Sun, Wanxing Chang, Qingming Huang, Shuhui Wang

机构 * State Key Laboratory of AI Safety, Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所人工智能安全国家重点实验室） ； University of Chinese Academy of Sciences（中国科学院大学） ； DAMO Academy, Alibaba Group（阿里巴巴集团达摩院） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.LG

AI总结 针对图数据与固定架构不匹配的问题，提出自适应递归图模型AdaR，通过理论推导步依赖作为自适应收敛的充要条件，并利用归一化步信息和梯度监督实现灵活测试时计算，在归纳和直推设置中优于强基线。

Comments Accepted by ICML 2026

Multi-cancer detection using a computationally efficient CNN with transfer learning

使用计算高效的CNN与迁移学习进行多癌症检测

Vasileios E. Papageorgiou, Georgios Petmezas, Dimitrios-Panagiotis Papageorgiou, Leandros Stefanopoulos, Nicos Maglaveras

机构 * School of Medicine, Aristotle University of Thessaloniki（阿利卡大学索拉尔尼基医学院） ； Department of Mathematics, Aristotle University of Thessaloniki（阿利卡大学索拉尔尼基数学系） ； Department of Mathematics, National and Kapodistrian University of Athens（雅典国家与卡波迪斯蒂亚大学数学系） ； Department of Electrical and Computer Engineering, Northwestern University（西北大学电气与计算机工程系） 纠错

专题命中 效率与部署 ：pretraining(abstract)；分类 cs.LG

AI总结 提出一种轻量级CNN架构结合迁移学习，在脑、肺和肾癌数据集上分别达到90.85%、98.64%和99.92%的准确率，计算效率高且适合资源受限环境。

Journal ref Communications in Statistics - Simulation and Computation (2026)

Look Before You Zoom: Adaptive Routing for the Resolution-Context Trade-off in Visual RAG

先看再缩放：视觉RAG中分辨率-上下文权衡的自适应路由

Oanh N. Tran, Thanh Quoc Hung Le, Oscar Chew, Kuan-Hao Huang, Khoa D. Doan

机构 * VinUni-Illinois Smart Health Center, VinUniversity（VinUni-Illinois智慧健康中心，VinUniversity） ； Texas A&M University（德克萨斯农工大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL

AI总结 提出ViRGo框架，通过自适应路由选择全局感知、基于补丁或注意力的检索，以平衡小目标细节和大目标上下文，提升视觉RAG的精度与效率。

ScalePredictor: Instance-aware Scale Learning for Accurate Quantization of Vision Transformers

ScalePredictor：面向视觉Transformer精确量化的实例感知尺度学习

Changjun Li, Runqing Jiang, Lian Xu, Ye Zhang, Qingyong Hu, Yulan Guo

机构 * School of Electronics and Communication Engineering, Shenzhen Campus, Sun Yat-sen University（中山大学深圳校区电子与通信工程学院） ； Computer Science and Software Engineering, The University of Western Australia（西澳大学计算机科学与软件工程学院） ； University of Oxford（牛津大学） 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.AI

AI总结 提出动态量化框架ScalePredictor，通过浅层激活分布范围与深层最优尺度的隐藏关联，利用多项式尺度投影模块高效生成所有量化尺度，在ImageNet上取得更优精度-效率权衡。

TALAS: Teacher-Anchored Layer Alignment with Adaptive Sharpness-Aware Minimization for Embedding Distillation

TALAS：基于教师锚定的层对齐与自适应锐度感知最小化的嵌入蒸馏

Quoc Phong Dao, Hoang Son Nguyen, Pham Khanh Chi, Linh Ngo Van, Nguyen Thi Ngoc Diep, Thien Huu Nguyen, Trung Le

机构 * Hanoi University of Science and Technology（河内科技大学） ； VNU University of Engineering and Technology（越南国立大学工程与技术大学） ； University of Oregon（俄勒冈大学） ； Monash University（莫纳什大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL

AI总结 提出TALAS框架，通过教师锚定机制仅蒸馏最终句子嵌入到学生上层，结合层对齐自蒸馏和自适应锐度感知最小化，在降低计算成本的同时提升句子嵌入蒸馏性能。

Comments ACL 2026

RocketPFN: Accurate Time Series Classification via In-Context Learning

RocketPFN：通过上下文学习实现精确时间序列分类

Franco Martino O'Rourke, Ana Trisovic, Dimitris Bertsimas

机构 * Prior Labs Team（Prior Labs） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.LG

AI总结 提出RocketPFN，结合随机卷积特征提取与预训练表格基础模型的上下文分类，在92个UCR数据集上达到与最强方法HC2相当的精度，无需目标数据训练。

Comments 10 pages main text, 4 figures; 15 pages including references and appendix

NAC: Neural Action Codec for Vision-Language-Action Models

NAC: 面向视觉-语言-动作模型的神经动作编解码器

Ahad Jawaid, Yu Xiang

机构 * The University of Texas at Dallas（德克萨斯大学达拉斯分校） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.LG

AI总结 提出神经动作编解码器(NAC)，采用多尺度RVQGAN架构将短动作轨迹视为多通道1D信号进行压缩，以替代现有离散动作分词器，在LIBERO-10等任务中实现更低重建误差和更高成功率。

FOCA: Future-Oriented Conditioning for Data-Efficient Vision-Language-Action Adaptation

FOCA: 面向未来的条件化用于数据高效的视觉-语言-动作适应

Duc Minh Nguyen, Nghiem Tuong Diep, Binh Gia Nguyen, Trong-Bao Ho, Doanh Le, Tan Q. Nguyen, Thien-Loc Ha, Nhiem Tran, Bao Thach, Nhat X. Tran, Tuan A. Tran, Artur Habuda, Philip Lund Møller, Tran Nguyen Le, Daniel Sonntag, Matthias Niepert, Khoa D. Doan, Vu Duong, Hung Ngo, Minh N. Vu, Duy M. H. Nguyen, An Thai Le, Ngo Anh Vien

机构 * Center for AI Research, VinUniversity, Vietnam ； University of Utah, USA ； German Research Center for Artificial Intelligence (DFKI) ； Technical University of Denmark, Denmark ； University of Oldenburg, Germany ； University of Stuttgart, Germany ； Max Planck Research School for Intelligent Systems (IMPRS-IS), Germany 纠错

专题命中 效率与部署 ：pretraining(abstract)；分类 cs.AI

AI总结 提出FOCA框架，结合未来交互嵌入预测与目标观测隐式对齐，实现数据高效的VLA少样本适应，在LIBERO、RoboCasa和真实机器人上取得新最优结果。

Comments Accepted at ICML 2026. Project page: https://focavla.github.io/

Efficient Safety Benchmarking via Item Response Theory

通过项目反应理论实现高效安全基准测试

Fabio Spagliardi, Mírian Silva, Ayan Datta, Aiden Zhou, Vamshi Bonagiri, Diogo Cruz

机构 * Supervised Program for Alignment Research (SPAR)（对齐研究监督计划） ； Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)（穆罕默德·本·扎耶德人工智能大学） ； Yale University（耶鲁大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 针对安全基准测试中项目信息量不均的问题，利用项目反应理论（IRT）实现自适应项目选择，将评估成本降低至少80%，最高达99.9%。

Physical-AI: From Channel Awareness to Environmental Intelligence in 6G Wireless Networks

Physical-AI: 从信道感知到6G无线网络中的环境智能

Farooque Hassan Kumbhar, Kapal Dev, Sunder Ali Khowaja, Alexandros-Apostolos A. Boulogeorgos, Mehdi Bennis, Yuanwei Liu

机构 * Augmented Cognition Meta-communications ERC Research Center, Korea University, Korea（增强认知元通信ERC研究中心，韩国大学，韩国） ； Department of Computer Science, Munster Technological University (MTU)（计算机科学系，穆斯特技术大学（MTU）） ； School of Computing, Faculty of Engineering and Computing, Dublin City University, Ireland（计算学院，工程与计算学院，都柏林城市大学，爱尔兰） ； Department of Electrical and Computer Engineering of the Democritus University, Greece（德米特里大学电气与计算机工程系，希腊） ； Department of Electrical and Computer Engineering, The University of Hong Kong, Hong Kong（电气与计算机工程系，香港大学，香港） ； Department of Electronic Engineering, Kyung Hee University, Yongin-si, Gyeonggi-do 17104, South Korea（电子工程系， Kyung Hee大学， Yongin-si, Gyeonggi-do 17104, 韩国） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.AI

AI总结 提出Physical-AI架构，利用自监督时空无线电基础模型将分布式观测转化为共享环境表征，通过多推理头估计阻塞、用户分布等环境属性，并基于神经决策层实现主动控制，降低中断概率和阻塞响应延迟。