语言大模型 / LLM

WhiFlash: Accelerating Speculative Decoding with Token-Level Cross-Paradigm Routing

WhiFlash: 通过令牌级跨范式路由加速推测解码

Young D. Kwon, Miles Williams, Rui Li, Alexandros Kouris, Stylianos I. Venieris

机构 * Samsung AI Center, Cambridge, UK（三星AI中心，剑桥，英国） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出WhiFlash，首个统一自回归与扩散并行草稿的跨范式推测解码方法，通过细粒度路由和缓存优化实现高达69.6%的吞吐量提升。

Comments Under review

Supracompetitive Pricing Under AI Monoculture

人工智能单一群体下的超竞争定价

Shengyu Cao, Ming Hu

机构 * Rotman School of Management, University of Toronto（多伦多大学罗特曼管理学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了在共享AI模型下，竞争卖家委托定价时可能产生的超竞争定价问题，通过双寡头模型分析发现，AI模型的鲁棒性和可重复性配置可能导致超竞争定价现象，且市场结果取决于初始定价倾向。

Comments 46 pages

Revisiting Training Scale: An Empirical Study of Token Count, Power Consumption, and Parameter Efficiency

重新审视训练规模：关于令牌计数、功耗和参数效率的实证研究

Joe Dwyer

机构 * ECPI University（ECPI大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 通过固定硬件和训练条件的重复测量实验，发现增加训练令牌数会导致训练效率严格单调下降，即使性能有边际提升，也表明能耗效率低下。

SIFT: Selective-Index For Fast Compute of RAG Prefill by Exploiting Attention Invariance

SIFT: 利用注意力不变性实现RAG预填充快速计算的索引选择

Rya Sanovar, Srikant Bharadwaj, Hritvik Taneja, Moinuddin Qureshi

机构 * Georgia Institute of Technology（佐治亚理工学院） ； Microsoft（微软） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 针对RAG查询中文档重复导致预填充计算冗余和TTFT增加的问题，提出SIFT方法，通过离线提取文档高注意力分数位置并利用注意力不变性，在预填充时仅计算标记位置，将TTFT提升1.71倍且精度损失在1%以内。

ConMem: Structured Memory-Guided Adaptation in Training-Free Multi-Agent Systems

ConMem: 无训练多智能体系统中的结构化记忆引导自适应

Zhixun Tan, Qiang Chen, Tairan Huang, Xiu Su, Yi Chen

机构 * Central South University（中南大学） ； The Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 提出ConMem框架，通过结构化记忆卡片和关系感知记忆图实现多智能体系统的高效自适应，无需额外训练，在多个基准上提升性能并降低推理开销。

TLRD: Teaching LLMs to Reason over Tabular Data with Tri-Level Rationale Distillation

TLRD: 通过三级理由蒸馏教授LLMs在表格数据上进行推理

Tianyuan Liang, Xuwei Tan, Lei Shi, Junsheng Zhong, Ziyu Hu, Tian Xie, Zhiqun Zuo, Xiaodong Yu, Xueru Zhang

机构 * The Ohio State University（俄亥俄州立大学） ； Stevens Institute of Technology（史蒂文斯理工学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出TLRD框架，通过三级理由蒸馏将表格数据集转换为结构化理由监督，使LLMs在仅基于原始特征的情况下实现零开销预测和可解释推理，显著缩小与树集成模型的性能差距。

Latent Cache Flow: Model-to-Model Communication Without Text

潜在缓存流：无需文本的模型间通信

Maximillian Rossi, Prajwal Raghunath, Eugene Wu

机构 * University of California, Berkeley（加州大学伯克利分校） ； Stanford University（斯坦福大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.LG

AI总结 提出潜在缓存流（LCF）方法，通过联合翻译和压缩键值缓存实现高效模型间通信，在上下文不同场景下比基于文本的通信准确率提高23%、速度提升8.5倍。

Comments 6 pages, 5 figures

WhiteTesseract: Reframing the Interpretation of Cultural Heritage through XR and Conversational AI

WhiteTesseract: 通过XR和对话式AI重新诠释文化遗产

Jingjing Li, Zhi Liu, Xiyao Jin, Tatsuki Fushimi, Yoichi Ochiai

机构 * University of Tsukuba（茨口大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究通过结合XR和对话式AI，提出WhiteTesseract系统，旨在提升文化遗产展览的沉浸感和个性化体验，增强观众的参与度和反思能力。

Comments 38 pages, 13 figures. Accepted for publication in ACM Journal on Computing and Cultural Heritage (JOCCH)

Engagement Process: Rethinking the Temporal Interface of Action and Observation

参与过程：重新思考动作与观察的时间接口

Jialian Li, Yuchen Cao, Junhong Liu, Weiran Guo, Xutao Wang, Jiaming Song, Jiahao Zhang, Jie Chen

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文提出参与过程（EP）模型，通过显式时间接口处理动作与观察的不同时间尺度交互，支持多速率协调和子系统组合，揭示隐藏的时间行为并使策略适应显式时间成本。

SMART: Shot-Aware Multimodal Video Moment Retrieval with Audio-Enhanced MLLM

SMART: 基于音频增强多模态大模型的镜头感知视频时刻检索

An Yu, Weiheng Lu, Jian Li, Zhenfei Zhang, Yunhang Shen, Felix X. -F. Ye, Ming-Ching Chang

机构 * Department of Computer Science, University at Albany - SUNY（University at Albany - SUNY 计算机科学系） ； School of Software & Microelectronics, Peking University（北京大学软件与微电子学院） ； Nanjing University（南京大学） ； Xiamen University（厦门大学） ； Department of Mathematics and Statistics, University at Albany - SUNY（University at Albany - SUNY 数学与统计学系） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出SMART框架，融合音频与视觉特征，利用镜头感知令牌压缩技术，在多模态大模型基础上实现视频时刻检索，在Charades-STA和QVHighlights上取得显著提升。

RECON: Reasoning with Condensation for Efficient Retrieval-Augmented Generation

RECON：基于压缩的推理用于高效检索增强生成

Zhichao Xu, Minheng Wang, Yawei Wang, Wenqian Ye, Yuntao Du, Yunpu Ma, Yijun Tian

机构 * University of Utah（犹他大学） ； University of Washington（华盛顿大学） ； George Washington University（乔治·华盛顿大学） ； University of Virginia（弗吉尼亚大学） ； Shandong University（山东大学） ； Ludwig Maximilian University of Munich（慕尼黑路德维希-马克西米利安大学） ； University of Notre Dame（诺特丹大学） 纠错

专题命中 效率与部署 ：LLM(abstract_cn)；pretraining(abstract)；分类 cs.CL

AI总结 提出RECON框架，在强化学习搜索代理的多轮推理中插入观察压缩器，通过两阶段课程训练实现上下文压缩，提升训练和推理效率并增强问答性能。

Comments Techinical report

Breaking the Curse of Knowledge: Designing Personalized Jargon Support for Real-Time Online Meetings

打破知识的诅咒：为实时在线会议设计个性化术语支持

Yifan Song, Yijun Liu, Wing Yee Au, Hon Yung Wong, Brian P. Bailey, Tal August

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Fujitsu Research of America（富士通美国研究） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出ParseJargon系统，利用用户画像和会话内反馈实现个性化术语识别，提升在线会议中跨学科听众的理解和参与度。

Comments Portions of this work appeared in CHI '26 Extended Abstracts ("Breaking the Curse of Knowledge: Toward Personalized Jargon Support in Online Meetings") and ACL '26 System Demonstrations ("ParseJargon: Personalized Real-time Jargon Support in Online Meetings")

I Was Blind but Now I See: Implementing Vision-Enabled Dialogue in Social Robots

我曾盲目但如今我看见：在社交机器人中实现视觉增强的对话

Giulio Antonio Abbo, Tony Belpaeme

机构 * IDLab-AIRO – Ghent University – imec（IDLab-AIRO – 布鲁塞尔自由大学 – imec） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出一种利用大语言模型提升社交机器人对话能力的系统，通过整合视觉输入增强上下文感知，展示六次与Furhat机器人的交互结果，探讨视觉与文本模态融合的未来对话可能性。

Comments 8 pages, 3 figures

Journal ref HRI '25: Proceedings of the 2025 ACM/IEEE International Conference on Human-Robot Interaction. Pages 1176 - 1180

End-to-End Context Compression at Scale

端到端上下文压缩的规模化

Ang Li, Sean McLeish, Haozhe Chen, Nimit Kalra, Zaiqian Chen, Artem Gazizov, Venkata Anoop Suhas Kumar Morisetty, Bhavya Kailkhura, Harshitha Menon, Zhuang Liu, Brian R. Bartoldson, Tom Goldstein, Sanae Lotfi, Micah Goldblum, Pavel Izmailov

机构 * New York University（纽约大学） ； Modal Labs（Modal实验室） ； University of Maryland（马里兰大学） ； Princeton University（普林斯顿大学） ； Columbia University（哥伦比亚大学） ； Harvard University（哈佛大学） ； Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室） ； FAIR at Meta（Meta FAIR实验室） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本研究通过架构搜索和持续预训练，提出潜在上下文语言模型（LCLMs），一种端到端编码器-解码器压缩器，在通用任务性能、压缩速度和峰值内存上改进帕累托前沿，并可作为长时智能体的高效骨干。

A Low-Latency Semantic State Estimator using Latent Predictive Learning for Dynamic Network Monitoring and Orchestration

一种用于动态网络监控与编排的低延迟语义状态估计器，基于潜在预测学习

Hari Madhukumar, Haiyuan Li, Xiaolan Liu, Andy Corston-Petrie, Dimitra Simeonidou

专题命中 效率与部署 ：LLM(abstract,abstract_cn)

AI总结 提出潜在预测状态估计器（LPSE），通过将变基数节点遥测转换为拓扑自适应表示并与监控问题融合，实现固定成本单次推理，在Kubernetes集群上达到82.42%语义预测准确率，推理延迟降低约41倍，内存占用减少15倍。

Comments 6 pages, 2 figures, 2 tables. Submitted to IEEE GLOBECOM 2026

Look Less, Reason More: Block-wise Attention Skipping for Efficient Multimodal LLMs

少看多思：面向高效多模态大语言模型的块级注意力跳过

Jie Ma, Zhike Qiu, Jiayi Ji, Xiaoshuai Sun, Rongrong Ji

机构 * Xiamen University（厦门大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 针对多模态大语言模型视觉注意力饱和问题，提出训练无关的Visual-Skip方法，通过选择性跳过冗余的视觉自注意力模块实现块级稀疏性，并利用轻量级校准动态选择最优稀疏路径，在保持性能的同时显著降低计算成本。

EvoIR-Agent: Self-Evolving Image Restoration Agentic System via Experience-Driven Learning

EvoIR-Agent: 通过经验驱动学习实现自进化图像修复智能体

Kailin Zhuang, Jiawei Wu, Zhi Jin

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 本文提出EvoIR-Agent，通过经验驱动学习解决图像修复中经验不足导致的规划失败问题，通过构建分层经验池和自进化机制提升修复性能和效率，实验表明其在全参考指标上表现优异，且在性能与效率之间取得显著平衡。

Comments Temporarily withdrawn for institutional clearance and compliance review. A revised version will be uploaded once the process is finalized

Post-Trained MoE Can Skip Half Experts via Self-Distillation

Post-Trained MoE Can Skip Half Experts via Self-Distillation

Xingtai Lv, Li Sheng, Kaiyan Zhang, Yichen You, Siyan Gao, Xueheng Luo, Yuxin Zuo, Yuchen Fan, Junlin Yang, Ganqu Cui, Bingning Wang, Fan Yang, Youbang Sun, Ning Ding, Bowen Zhou

机构 * Frontis.AI ； Kuaishou Technology（快手科技） ； Shanghai AI Lab（上海人工智能实验室） ； TsinghuaC3I/ZEDA（清华大学C3I/ZEDA） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出ZEDA框架，通过自蒸馏将预训练的静态MoE模型转换为高效的动态MoE模型，显著减少专家FLOPs并提升推理速度。

CURE: Curriculum-guided Multi-task Training for Reliable Anatomy Grounded Report Generation

CURE：基于课程引导的多任务训练实现可靠的解剖学接地报告生成

Pablo Messina, Andrés Villa, Juan León Alcázar, Karen Sánchez, Carlos Hinojosa, Denis Parra, Álvaro Soto, Bernard Ghanem

机构 * Pontificia Universidad Católica de Chile（智利天主教大学） ； CENIA ； iHEALTH ； KAUST（科威特皇家科学与技术局） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出CURE框架，通过课程学习动态调整多任务训练，提升医学报告生成的视觉接地准确性和事实一致性，无需额外数据。

Comments 31 pages, 7 figures, accepted to CVPR 2026 (oral)

Journal ref Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 2026, pp. 36279-36289

ReCoVLA: VLM-Guided Reward Compilation for Failure Recovery in Vision-Language-Action Policies

ReCoVLA: VLM引导的奖励编译用于视觉-语言-动作策略的故障恢复

Haodi Hu, Chung-Ta Huang, Jing Liu, Ye Wang, Kei Suzuki, Matthew Brand, Toshiaki Koike-Akino

机构 * University of Southern California（南加州大学） ； Mitsubishi Electric Research Laboratories (MERL)（三菱电机研究实验室） ； Harvard University（哈佛大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出ReCoVLA框架，通过冻结预训练VLA策略，利用外部VLM推断故障模式并编译结构化奖励，训练残差恢复策略，实现零样本仿真到真实部署，在多种操作任务中提升成功率。

Comments 19 pages, 7 figures

Q-Delta: Beyond Key-Value Associative State Evolution

Q-Delta：超越键值关联状态演化

Sumin Park, Seojin Kim, Noseong Park

机构 * Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出Q-Delta，一种查询感知的delta规则，将混合键-查询预测误差融入状态演化，实现联合校正动态，在语言建模和长上下文检索任务上优于强基线。

Comments Accepted at ICML 2026

Muon$^2$: Boosting Muon via Adaptive Second-Moment Preconditioning

Muon²：通过自适应二阶矩预条件提升穆隆

Ziyue Liu, Ruijie Zhang, Zhengyang Wang, Yequan Zhao, Yupeng Su, Zi Yang, Zheng Zhang

机构 * University of California at Santa Barbara（加州大学圣巴巴拉分校） ； University at Albany, SUNY（阿尔巴尼大学，SUNY） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 Muon²通过引入Adam风格的自适应二阶矩预条件改进了穆隆的效率与质量，提升了极化近似中的收敛速度和实际正交化质量，实验表明其在参数规模达13B的预训练任务中表现更优。

Comments Preprint, subject to update

Next-Token Prediction Learns Generalisable Representations of Sleep Physiology

下一个词预测学习睡眠生理学的可泛化表示

Jonathan F. Carter, Lionel Tarassenko

机构 * Institute of Biomedical Engineering, University of Oxford（牛津大学生物医学工程研究所） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.AI

AI总结 提出Hypnos模型，通过下一个词预测目标，从多模态生理信号中学习可泛化表示，在睡眠阶段分类和房颤检测等任务上显著优于现有基础模型。

TLDR: Compressing Audio Tokens for Efficient Autoregressive Text-to-Speech

TLDR：压缩音频令牌以实现高效自回归文本到语音

Yejin Lee, Junwon Moon, Hyoeun Kim, Hyunjin Choi, Heeseung Kim, Kyuhong Shim

机构 * Sungkyunkwan University（成均馆大学） ； University of Seoul（首尔市立大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 提出TLDR框架，通过将因果建模从令牌级转移到补丁级，利用轻量级压缩器和LoRA适配的冻结预训练骨干，实现1.8倍推理加速和75% KV缓存减少。

When Video Misreads: Closed-Loop Distillation of Reading Heuristics for Exploratory Manipulation Trace QA

当视频误读：面向探索性操作痕迹问答的阅读启发式闭环蒸馏

Haizhou Ge, Yufei Jia, Yue Li, Zhixing Chen, Lu Shi, Lei Han, Guyue Zhou, Ruqi Huang

机构 * Tsinghua University（清华大学） ； DISCOVER Robotics 纠错

专题命中 效率与部署 ：LLM(abstract_cn)；分类 cs.AI

AI总结 针对探索性操作中机器人误读视频痕迹的问题，提出闭环痕迹蒸馏方法，通过任务编码代理提取单行自然语言启发式提示，使冻结VLM准确预测最小成功动作链，在模拟和真实机器人任务上提升准确率0.38-0.47。

Comments 16 pages, 4 figures, 4 tables

TextEconomizer: Enhancing Lossy Text Compression with Denoising Transformers and Entropy Coding

TextEconomizer：利用去噪变换器和熵编码增强有损文本压缩

Mahbub E Sobhani, Anika Tasnim Rodela, Chowdhury Mofizur Rahman, Dewan Md. Farid, Swakkhar Shatabda

机构 * United International University（联合国际大学） ； BRAC University（BRAC大学） ； Southeast University（东南大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL

AI总结 提出TextEconomizer编码器-解码器框架，结合去噪变换器和熵编码，实现50%-80%的压缩率，参数减少153倍，在BLEU等指标上保持近完美文本质量。

Comments Published in Neural Networks (Elsevier), Vol. 203, 2026

Journal ref Neural Networks, Vol. 203, 109111, 2026

EditSR: Enhancing Neural Symbolic Regression via Edit-based Rectification

EditSR: 通过基于编辑的修正增强神经符号回归

Da Li, Xinxin Li, Xingyu Cui, Jin Xu, Juan Zhang, Junping Yin

机构 * Northeast Normal University（东北师范大学） ； East China Normal University（华东师范大学） ； Shenzhen Institute of Advanced Technology（深圳先进技术研究院） ； Graduate School of China Academy of Engineering Physics（中国工程物理研究院研究生院） ； Beihang University（北京航空航天大学） ； Institute of Applied Physics and Computational Mathematics（北京应用物理与计算数学研究所） 纠错

专题命中 效率与部署 ：pretraining(abstract)；分类 cs.AI

AI总结 提出EditSR双层框架，第一层神经符号回归模型生成表达式，第二层基于编辑的修正器通过预训练的状态转移链逐步修正错误，避免全局搜索重启，有效减少误差累积，提升复杂表达式生成的结构正确性。

Breaking the Bubble: Asynchronous Pipeline Parallel Training with Bounded Weight Inconsistency

打破气泡：具有有界权重不一致性的异步流水线并行训练

Itay Elam, Eliron Rahimi, Avi Mendelson, Chaim Baskin

机构 * Technion - Israel Institute of Technology（以色列理工学院） ； Ben-Gurion University of the Negev（本·古里安大学） 纠错

专题命中 效率与部署 ：pretraining(abstract)；分类 cs.LG

AI总结 提出PACI方法，通过局部梯度累积控制版本漂移，实现无气泡异步流水线并行，在GPT风格语言模型预训练中匹配同步1F1B-flush的稳定性和困惑度，吞吐量完全利用，训练时间至准确率提升达1.69倍。

MemoVAD: Resource-Efficient Video Anomaly Detection via Dynamic Semantic Memory in Edge Computing Scenarios

MemoVAD: 边缘计算场景下基于动态语义记忆的资源高效视频异常检测

Guo Li, Jiandian Zeng, Yang Li, Zihao Peng, Ke Chen, Tian Wang

机构 * Institute of Artificial Intelligence and Future Networks, Beijing Normal University（北京师范大学人工智能与未来网络研究院） ； School of Computing and Artificial Intelligence, Southwest Jiaotong University（西南交通大学计算机与人工智能学院） ； Engineering Research Center of Cloud-Edge Intelligent Collaboration on Big Data, Ministry of Education, Beijing Normal University（北京师范大学大数据云边智能协同教育部工程研究中心） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 提出MemoVAD边缘-云协同框架，通过不确定性感知门控策略选择性调用云端视觉语言模型，并设计动态语义记忆缓存原型，在降低通信开销的同时提升视频异常检测性能。

Comments Accepted by IJCAI2026

MM-Matryoshka: Towards Budget-Elastic Visual Document Retrieval via a 2D Multimodal Matryoshka Training Framework

MM-Matryoshka：通过二维多模态套娃训练框架实现预算弹性视觉文档检索

Haowen Xiang, Yibo Yan, Jiahao Huo, Yu Huang, Yi Cao, Mingdong Ou, Xuming Hu

机构 * Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； Alibaba Cloud Computing（阿里云计算） ； Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 提出MM-Matryoshka，一种二维套娃训练框架，使视觉文档检索器在向量维度和编码器深度上实现弹性预算选择，无需为不同预算训练独立模型。