语言大模型 / LLM

Towards Understanding On-Policy Distillation through the Lens of Test-Time Scaling

从测试时缩放的视角理解在线策略蒸馏

Xinmu Ge, Zizhuo Zhang, Yu Huang, Jianing Zhu, Lin Yuan, Wanli Gu, Weichang Wu, Weiran Huang, Xiaolu Zhang, Bo Han, Jun Zhou, Jiangchao Yao

机构 * Hong Kong Baptist University（香港浸会大学） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） ； Shanghai Jiao Tong University（上海交通大学） ； Shanghai Innovation Institute（上海创新研究院） ； Ant Group（蚂蚁集团） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；post-training(abstract)；分类 cs.CL、cs.LG

AI总结 该研究从测试时缩放视角分析OPD，发现其主要提升采样效率而非扩展推理能力边界，属于“虚假蒸馏”。

Comments 15 pages, 8 figures

Semantic Error Control Coding with Foundation Models for Future Communications

面向未来通信的、基于基础模型的语义差错控制编码

Chentao Yue, Gaoyang Pang, Branka Vucetic, Yonghui Li

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 本文提出基于基础模型的语义差错控制编码（SECC）框架，将信源语义结构融入编解码，在AWGN信道上较传统解码获数分贝编码增益，错误率低于正态近似界，同时指出相关开放挑战。

Comments This work has been submitted to the IEEE for possible publication

TMRL: Diffusion Timestep-Modulated Pretraining Enables Exploration for Efficient Policy Finetuning

TMRL: 差分时间步调节预训练实现高效策略微调的探索

Matthew M. Hong, Jesse Zhang, Anusha Nagabandi, Abhishek Gupta

机构 * University of Washington（华盛顿大学） ； Amazon FAR（亚马逊FAR） 纠错

专题命中 效率与部署 ：pretraining(title)；分类 cs.AI、cs.LG

AI总结 本文提出TMRL框架，通过结合行为克隆预训练与强化学习微调，解决预训练中动作分布狭窄的问题，提升机器人策略微调的样本效率。

Luna-TTS Family Technical Report

Luna-TTS 系列技术报告

Feng Yin, Shuai Shi, Junjie Zheng, Kechenying Zhou, Yiqiu Wang, Chenyang He, Qiuhua Jiang, Mengxiao Bi, Yanmin Qian, Mingxin Chen, Xun Gong, Tianteng Gu, Bing Han, Peng Jiang, Chenda Li, Haiyang Sun, Han Wang, Wei Wang, Yi Wang, Leying Zhang, Wangyou Zhang, Chushu Zhou

机构 * VUI Labs Research（VUI实验室研究院） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；language model(abstract)

AI总结 该研究提出基于扩散语言模型的 Luna-TTS 系列 TTS 系统，含非自回归与实时自回归变体，在多数据集上的语音识别、相似度及情感控制等指标优于对比系统。

PatternFormer: Learning Multiple Solution Patterns in Reaction--Diffusion Systems

PatternFormer：学习反应-扩散系统中的多种解模式

Zhipeng Chang, Wenpeng Yin, Wenrui Hao

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；foundation model(abstract)

AI总结 该研究提出基于大语言模型的PatternFormer框架，可学习非线性偏微分方程的多种解，在非线性椭圆问题和Gray-Scott问题上表现优异，还可微调以构建解景观通用基础模型。

Better, Faster, Stronger: Programmatic Skill Learning Best Reduces Agent Cost

更好、更快、更强：程序化技能学习最能降低智能体成本

Zixi Huang, Xiheng Wang, Andrew Wang, William Jurayj, Bernal Jiménez Gutiérrez, Daniel Khashabi, Nicholas Andrews

机构 * Johns Hopkins University（约翰斯·霍普金斯大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.LG

AI总结 该研究提出程序化技能学习的SpeedRunner编码智能体，通过分析轨迹重构技能，在三个具身环境中实现最优学习与成本降低，且对分布偏移和环境随机性能保持鲁棒性。

Zero-OVCD: Bridging Training-Free Foundation Models and Pseudo-Label Learning for Open-Vocabulary Change Detection

Zero-OVCD：连接无训练基础模型与伪标签学习的开放词汇变化检测方法

Daifeng Peng, Yuanke Peng, Haiyan Guan

机构 * School of Remote Sensing and Geomatics Engineering, Nanjing University of Information Science and Technology（南京信息工程大学遥感与测绘工程学院） 纠错

专题命中 效率与部署 ：foundation model(title)

AI总结 本文提出Zero-OVCD框架，结合无训练基础模型推理与感知噪声的伪标签学习，在多个遥感变化检测数据集上显著提升了开放词汇变化检测性能，且无需目标域像素级标注。

Comments 10 figures, 9 tables

AWARe: Mitigating Catastrophic Forgetting via Activation-Weighted Adaptive REtention

AWARe：基于激活加权的自适应保留缓解灾难性遗忘

Juncheng Liao, Jinfan Lv, Guoming Wang, Jupeng Zheng, Ling Xiao, Siliang Tang

机构 * School of Software Technology, Zhejiang University（浙江大学软件学院） ； College of Intelligent Robotics and Advanced Manufacturing, Fudan University（复旦大学智能机器人与先进制造学院） ； School of Artificial Intelligence, Sun Yat-Sen University（中山大学人工智能学院） ； Graduate School of Information Science, Hokkaido University（北海道大学信息科学研究院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 针对多模态大语言模型微调时的灾难性遗忘问题，提出无需修改架构的AWARe方法，通过激活加权控制参数更新，在保留上游能力的同时提升下游性能。

Learning from Online User Feedback for Shopping Agents

从在线用户反馈中学习购物智能体

Haobo Zhang, Kelong Mao, Sulong Xu, Simiu Gu, Zhicheng Dou

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出LOFA框架，结合强化学习与反馈感知的策略内蒸馏，利用真实在线用户反馈改进购物智能体，在电商日志实验中提升了推荐质量、回复有用性及用户满意度对齐效果。

TrimMoE A communication aware and adaptive depth framework for distributed edge inference

TrimMoE：面向分布式边缘推理的通信感知自适应深度框架

Ning Li, Shuting Bai, Xin Yuan, Wenchao Xu, Song Guo, Haijun Zhang

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 TrimMoE是一种面向分布式边缘MoE大模型推理的通信感知自适应深度框架，通过层跳跃、提前退出等技术，在保证任务质量退化不超2%的前提下，将平均延迟降低最多62.8%，减少跨服务器流量与远程执行比例并提升吞吐量。

Comments 17 pages, 11 figures

Agentic Bayesian Optimization through Surrogate-Augmented Autoresearch

基于代理的贝叶斯优化：通过代理增强的自动研究

Paul Brunzema, Louis Tiao, Nhat Le, Kevin De Angeli, Yao Xuan, Djordje Gligorijevic

机构 * Meta ； RWTH Aachen University（亚琛工业大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.LG

AI总结 该研究提出代理式贝叶斯优化范式，构建Sara代理与lenz后端，在合成及真实基准测试中，其兼具可靠性与性能，还可动态重构优化问题。

OrderMoE: An expert similarity driven distributed edge MoE inference

OrderMoE：一种由专家相似度驱动的分布式边缘混合专家推理

Xin Yuan, Ning Li, Quan Chen, Wenchao Xu, Song Guo

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究在资源受限边缘基础设施部署MoE推理的挑战，提出OrderMoE框架，通过构建专家相似度模型、设计分组部署策略和选择算法，平衡推理延迟等指标，实验表明其能显著降低相关指标，仅带来小的推理质量下降。

Comments 17 pages, 12 figures

A Theoretical Framework for Modular Learning of Robust Generative Models

模块化鲁棒生成模型的理论框架

Corinna Cortes, Mehryar Mohri, Yutao Zhong

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出模块化鲁棒生成模型的理论框架，通过门控机制结合预训练专家，理论证明其在数据混合下的稳健性，并通过实验验证其优于整体模型的性能。

Comments ICML 2026

NITRO: High-Performance 3D NAND Flash-Based In-Storage Computing with Enhanced Activation Dataflow

NITRO：基于3D NAND闪存的高性能存内计算架构，具备增强型激活数据流

Sanghun Shin, Sangyeon Kim, Gisan Ji, Sungju Ryu

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 针对NAND-PIM方案中间值数据流/缓冲的局限，提出带增强型激活缓冲的高性能NAND闪存ISC架构，结合分布式数据流方法，使推理延迟最高降低85%。

Comments Extended manuscript of DATE 2026

Cheap, Fallible Cognition and the Political Economy of Expertise

廉价、易出错的认知与专业知识的政治经济学

Christophe Kolb, Jim Caron

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 本文构建基于任务与制度的框架，引入任务脆弱性指数等，分析生成式AI对劳动力市场的影响，指出其命运是制度均衡，而非机械失业或自动充裕。

Comments 18 pages

The Sleeping Agent: What Gist-Based Context Compression Loses and Why

休眠智能体：基于主旨的上下文压缩会丢失什么以及为什么

Nicholas E. Kyrkewood

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 本研究以SWC为工具，发现主旨压缩对多跳推理等任务表现优于截断，但会损害时间相关问题的性能，通过修改提示可提升时间问题的评判准确率。

Comments 7 pages, 5 tables, appendices. Code and results at https://github.com/kyrkewood/sleeping-agent

Forecasting Side Effects of Activation Steering

预测激活引导的副作用

Chong Yong Ong, Alson Wei Jie Sim, Peixin Zhang, Jun Sun

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 该研究针对激活引导易产生意外副作用的问题，构建交叉效应矩阵揭示副作用的系统性与可预测性，为激活引导的安全部署提供支持。

Comments 24 pages, 5 figures, 13 tables

Foresight Without Seeing: Latent Futures for World Action Models

无视觉前瞻：面向世界动作模型的潜在未来

Jiakai Huang, Zhongbo Wu, Zheng Zhang, Zihan Wang, Shan You, Tao Huang

机构 * Shanghai Jiao Tong University（上海交通大学） ； ACE Robotics（ACE机器人公司） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 效率与部署 ：pretraining(abstract)；分类 cs.AI

AI总结 本文提出ForeWAM，一种动力学条件下的直接策略WAM，通过Future-KV和动力学寄存器在无需显式生成未来视频的情况下，使直接策略WAMs兼具高效动作预测与预测动力学暴露能力，在LIBERO和LIBERO-Plus上取得高成功率。

Comments 12 pages, 3 figures

Explicit Boundary Markers for Subword Vocabularies

子词词汇的显式边界标记

Sander Land, Clara Meister

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL

AI总结 该研究提出用显式词边界标记替代标准空格约定，缓解了子词词汇的条目重复问题，虽未提升分词压缩率，但可改善语言建模性能。

Comments Code available at https://github.com/sanderland/script_tok

Avatar-Forever: Decoupled Parallel Training for High-Quality Real-Time Infinite Avatars

Avatar-Forever：用于高质量实时无限虚拟形象的解耦并行训练

Ruibin Li, Tao Yang, Zhiyuan Ma, Fangzhou Ai, Shilei Wen, Lei Zhang

机构 * The Hong Kong Polytechnic University（香港理工大学） ； ByteDance（字节跳动） ； AMD（超威半导体公司） 纠错

专题命中 效率与部署 ：foundation model(abstract)

AI总结 Avatar-Forever是一种解耦并行训练框架，通过双分支设计与ForeverCache机制，在单张H100 GPU上实现27.2 FPS的768x512音频驱动无限虚拟形象生成，保障质量与效率，推进稳定数字人研究。

Silent Updates: Measuring and Closing the Post-Deployment Disclosure Gap

静默更新：测量并弥合部署后的披露差距

Sophia Abraham, Ben Bucknall

专题命中 效率与部署 ：foundation model(abstract)

AI总结 本文针对基础模型部署后的静默更新问题，分析了相关披露实践，推出了测量披露情况的评分卡，并提出了触发披露义务的三部分行为触发系统。

Comments Accepted to AIES-26

Data-Efficient Adaptation of DPA-4 Force Fields to DFT+U Energetics: A Case Study in NiO

面向DFT+U能量学的DPA-4力场的数据高效适配：以NiO为例

Fengyu Xie, Peiheng Jiang, Zhicheng Zhong

专题命中 效率与部署 ：pretraining(abstract)

AI总结 本研究以NiO为案例，通过微调预训练的DPA-4力场，高效修正了源层面的错误相能量学，提出了一种预训练与目标微调结合的多保真度策略。

Latent-Centroid Steering: Single-Pass Classifier-Free Guidance for Command-Aligned Autonomous Driving

隐式质心引导：用于指令对齐自动驾驶的单次无分类器引导

Meibo Hu, Jiamian Wang, Pichao Wang, Zhiqiang Tao

机构 * Rochester Institute of Technology（罗切斯特理工学院） ； NVIDIA（英伟达公司） 纠错

专题命中 效率与部署 ：language model(abstract)

AI总结 针对视觉语言自动驾驶模型的指令跟随差距，提出单次引导机制LCS，降低推理延迟约50%，在Bench2Drive和nuScenes基准上提升指令遵循与驾驶性能。

Comments IROS 2026

Pixel-Space Diffusion Transformers

像素空间扩散变换器

Renye Yan, Jikang Cheng, You Wu, Ling Liang, Wei Peng, Athanasios V. Vasilakos, Qingyu Zhao, Yu Zhang, Yimao Cai, Kilian M. Pohl, Guoying Zhao

机构 * Peking University（北京大学） ； Nanjing University（南京大学） ； Stanford University（斯坦福大学） ； Cornell University（康奈尔大学） ； University of Oulu（奥卢大学） 纠错

专题命中 效率与部署 ：foundation model(abstract)

AI总结 本文探讨像素空间扩散变换器，针对潜在扩散模型的局限，研究直接对原始像素建模的像素空间扩散方法，介绍其在高维建模中的挑战与多模态建模优势，从多方面回顾pDiTs，总结方法、识别挑战并展望未来方向。

Dual Distribution Estimation for Zero-shot Noisy Test-Time Adaptation with VLMs

基于双分布估计的零样本噪声测试时自适应方法

Wenjie Zhu, Yabin Zhang, Liang Xu, Xin Jin, Wenjun Zeng, Lei Zhang

机构 * The Hong Kong Polytechnic University（香港理工大学） ； Eastern Institute of Technology, Ningbo（宁波东方理工大学） ； Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 效率与部署 ：language model(abstract)

AI总结 针对噪声测试时自适应中分布外异常值问题，提出双分布估计框架，通过无训练的高斯分布建模实现零样本鲁棒自适应。

Comments Accepted by ECCV2026. Project Page:https://zhuwenjie98.github.io/DDE-project-page/

CoFiDA-M: Concept-Aware Feature Modulation for Cross-Domain Adaptation with Image-Only Inference

CoFiDA-M: 面向仅图像推理的跨域自适应的概念感知特征调制

Nurjahan Sultana, Moi Hoon Yap, Xinqi Fan, Wenqi Lu

机构 * Department of Computing and Mathematics, Manchester Metropolitan University（计算与数学系，曼彻斯特 Metropolitan 大学） 纠错

专题命中 效率与部署 ：foundation model(abstract)

AI总结 提出CoFiDA-M框架，通过特权信息学习利用临床概念（如MONET概率）指导特征调制，训练仅图像的学生模型，在跨域皮肤癌筛查中显著提升黑色素瘤召回率。

Comments 'Accepted by CVPR 2026'

Journal ref Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 2026, pp. 15060-15069

Prestige over merit: An adapted audit of LLM bias in peer review

声望胜过能力：对同行评审中大型语言模型（LLM）偏差的适应性审计

Anthony Howell, Jieshu Wang, Luyu Du, Julia Melkers, Varshil Shah

专题命中 领域大模型 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 本研究开发多角色LLM模拟系统，审计发现LLM在同行评审中存在偏差，机构声望是核心影响因素，低声望作者的论文更易被拒，训练数据的领域规范与声望先验是关键成因。

Grounding Large Language Models as Generalizable Policies in Network Control

大语言模型作为网络优化的通用策略

Duo Wu, Linjia Kang, Zhimin Wang, Fangxin Wang, Wei Zhang, Chongbo Sun, Xuefeng Tao, Wei Yang, Le Zhang, Wenwu Zhu, Peng Cui, Zhi Wang

机构 * Bytedance（字节跳动） ； Shenzhen International Graduate School（深圳国际研究生院） ； Tsinghua University（清华大学） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Department of Computer Science and Technology（计算机科学与技术系） 纠错

专题命中 领域大模型 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；foundation model(abstract)

AI总结 本文提出Trailblazer框架，利用大语言模型实现跨任务和环境的通用网络策略，通过网络对齐和策略协作机制提升效率与泛化能力。

Comments Arxiv version. Official version has been submitted to IEEE Transactions on Mobile Computing

From Safety Documentation to Safety Knowledge Support: An Evidence-Grounded LLM Framework for Medical Devices

从安全文档到安全知识支持：面向医疗器械的基于证据的大语言模型框架

Tuhinangshu Gangopadhyay, Rasmus Adler, Peter Liggesmeyer, Jan Reich

专题命中 领域大模型 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 针对现有LLM在医疗器械安全工程中源链接等支持不足的问题，本文提出基于证据的LLM框架，用于安全知识支持，不做安全判定，还给出对应评估策略。

Comments ISSRE 2026, AISQ, 8 pages

Making Collaborative Signals Count: Graph-Aware Large Language Models for Sequential Recommendation

让协同信号发挥作用：面向序列推荐的图感知大语言模型

Fenglin Yan, Bohao Wang, Jian Zhang, Yu Cui, Tongya Zheng, Ye Feng, Can Wang, Jiawei Chen

专题命中 领域大模型 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；pretraining(abstract)

AI总结 针对现有序列推荐方法难以捕捉全局协同模式的问题，提出图感知大语言模型框架GALLM，通过构建协同图建模三类关系并整合至注意力机制，在四个基准上取得最优性能，HR@5较最强基线平均提升9.76%。

Comments 10 pages, 5 figures