语言大模型 / LLM

Von Mises-Fisher Mixture Model with Dynamic Shrinkage for Realistic Test-Time Transduction

用于现实测试时转导的具有动态收缩的冯·米塞斯-费舍尔混合模型

Jiazhen Huang, Zhiming Liu, Changhu Wang, Wei Ju, Ziyue Qiao, Xiao Luo

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 研究针对测试时视觉语言模型性能问题，从惩罚似然估计角度提出具有动态收缩的冯·米塞斯-费舍尔混合模型（MOON），该模型基于分布混合建模，能动态调整收缩强度处理不平衡，无需训练和特定超参，实验验证其性能和效率优势。

Comments Accepted by ICML 2026

Journal ref ICML 2026

Rethinking Transfer in Continual Learning: A Replay-Based Realisation

重新思考持续学习中的迁移：基于重放的实现

Yang Meng, Zhenya Liu, Zhuokai Zhao, Yuxin Chen

机构 * University of Chicago（芝加哥大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 该研究重新思考持续学习中的迁移，提出三个条件框架，将其观点实例化为TSR，通过选择有益重放数据提升正向迁移，在低预算持续学习协议下优于现有基线，强调应把迁移作为持续学习首要目标先理解再设计。

Prediction-Only Distillation in Linear and Logistic Regression

线性回归和逻辑回归中的仅预测蒸馏

Hien Dang, Pratik Patil, Alessandro Rinaldo

专题命中 效率与部署 ：post-training(abstract)；分类 cs.LG

AI总结 研究在仅能获取训练好的预测器和未标记协变量时的自蒸馏，通过新方案训练学生模型，推导岭回归最优混合预测风险的确定性等价物，证明其风险更小，还表明最优混合权重可估计，且二元逻辑回归中预测混合能有更好表现。

Comments 73 pages, 21 figures, 12 tables

The Energy Society: A Simulation Environment for Studying Agent Cooperation under Survival Pressure

能源社会：一个用于研究生存压力下智能体合作的模拟环境

Lucas Bergholdt Hansen, Federico Torrielli, Filippo Tonini, Lukas Galke Poech

机构 * University of Southern Denmark（丹麦南部大学） ； University of Turin（都灵大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.CL

AI总结 介绍能源社会模拟环境，研究生存压力下竞争与合作激励对智能体行为的影响，通过对比实验发现大模型能耗高，合作激励改变行为，相互推荐行动与记忆有作用，是研究令牌成本与群体激励关系的测试平台。

Comments Accepted at AITC 2026

Quantize with Confidence? An Empirical Study of Quantization for Code Generation

有信心量化？代码生成量化的实证研究

Saima Afrin, Md. Zahidul Haque, Antonio Mastropaolo

机构 * AURA Lab Department of Computer Science William \& Mary Williamsburg, VA, USA 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.LG

AI总结 研究在资源受限硬件上运行大型代码模型时，六种量化方法对代码质量的影响，用多基准评估功能正确性等指标，引入提示复杂性分析，揭示不同量化技术在正确性、代码质量及鲁棒性上的差异，为选择量化策略提供指导。

Lyapunov Guidance: A Unified Framework for Stabilizing Generative Flows

李雅普诺夫引导：稳定生成流的统一框架

Jingdong Zhang, Xinze Li, Yize Jiang, Luan Yang, Minkai Xu, Junhong Liu

机构 * Imperial College London（伦敦帝国理工学院） ； Fudan University（复旦大学） ； Stanford University（斯坦福大学） ； MicroCyto（微赛生物） 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.LG

AI总结 研究针对流匹配重新训练计算昂贵、现有训练后引导方法无稳定性保证的问题，提出LyaGuide框架，将流引导作为李雅普诺夫控制问题，统一多种引导策略，经实验验证其在多方面有改进且保持计算效率。

Comments 25 pages, 13 figures

Active Learning for Efficient Annotation of Surgical Videos with Weak Supervision

基于弱监督的主动学习在手术视频高效标注中的应用

Manasa Dendukuri, Matjaz Jogan, Daniel A. Hashimoto, Guiqiu Liao

机构 * University of Pennsylvania（宾夕法尼亚大学） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.LG

AI总结 针对腹腔镜视频标注难题，提出人在回路知识获取框架，结合主动学习与双损失优化，利用基础模型及互补训练目标生成CAMs，迭代提出伪掩码引导标注，减少标注工作量50%，实现模型开发可扩展性及高效知识获取。

Comments Accepted to IPCAI 2026

Self-Improving AI Coding Agents Through Accumulated Behavioral Rules: A Closed-Loop Framework

通过累积行为规则实现自我改进的人工智能编码代理：一个闭环框架

Aditya Aggarwal, Nahid Farhady Ghalaty

机构 * Microsoft（微软） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI

AI总结 研究基于大语言模型的编码代理重复犯错问题，提出闭环框架，将审查评论编码为行为规则，经实验验证其能转移审查重点、降低错误复发率且跨接口转移，实现跨会话学习且不更新权重，积累人类工程智慧。

Comments Already presented and accepted in - 32nd ICE IEEE/ITMC Conference (ICE 2026)

Inference Economics of Enterprise Coding Agents: A Case Study of Cloud vs. On-Premise LLMs

企业编码代理的推理经济学：云与本地大语言模型的案例研究

Sheng-Wei Peng, Yi-Hsun Lin, Yi-Pei Lee

机构 * PEGAVERSE Pegatron Corporation（PEGAVERSE 联合科技公司） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI

AI总结 研究企业编码代理中云与本地大语言模型的权衡，通过案例研究对比两者，发现提示缓存可大幅降低API成本，本地配置缺陷修复负担高，不同场景下各有成本优劣，混合路由网关在成本与质量间有平衡表现。

Comments 20 pages, 13 figures, 14 tables. Industrial longitudinal case study

SPINE: Bridging the Cyber-Physical Gap with Agentic AI

SPINE：用智能体人工智能弥合网络物理差距

Minkyu Ham, Dongho Kim, Chan Lee, Jiayi Wang, Min Jun Kim, Yixi Zhang, Guo Ye, Jihai Zhao, Soyeon Park, Han Liu

机构 * Northwestern University（西北大学） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.AI

AI总结 研究针对机器人智能部署到物理平台存在的校准瓶颈，提出SPINE框架。该框架含两个多智能体工作流程，经实验验证，能跨双臂平台转移，减少对专家校准的依赖，提高操作成功率，缩短遥操作时间，推动具身人工智能向实际部署发展。

Toward Localizing and Repairing Bias in Transformer Attention Heads

迈向Transformer注意力头中偏差的定位与修复

Sigma Jahan

机构 * Sigma Jahan 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 研究Transformer语言模型中偏差输出难以定位和修复的问题，提出白盒头级公平性调试方法ROBIN，通过对注意力头排序并去除偏差子空间来修复偏差，在试点研究中减少WinoBias差距且更好保留语言建模质量。

Comments Accepted in ICSME NIER track, 2026

Policy-Conditioned Constrained Decoding for Column-Level Access Control in Text-to-SQL

文本到SQL中列级访问控制的策略条件约束解码

Ryoto Miyamoto, Xin Fan, Hayato Yamana

机构 * Waseda University（早稻田大学） 纠错

专题命中 效率与部署 ：prompting(abstract)；分类 cs.CL

AI总结 研究文本到SQL中列级访问控制问题，提出PCC-SQL系统，通过整合策略并应用逐令牌对数掩码，在单次解码中消除违规，在三个基准和开源模型上实现0%泄漏率与88.7%覆盖率，还评估了语义对齐。

We Hebben Een Serieus Translatie: Modeling Intercomprehension as Probabilistic Inference

我们有一个严肃的翻译：将互理解建模为概率推理

Thomas Hikaru Clark, Edward Gibson, Roger Levy

专题命中 效率与部署 ：prompting(abstract)；分类 cs.CL

AI总结 研究如何实现零样本跨语言理解，通过扩展噪声信道推理算法模型，在贝叶斯框架下建模互理解，用L1语言模型和通用噪声模型推断L2与L1单词映射，实验表明完整模型性能优于消融模型及大模型零样本提示。

Requential Coding: Pushing the Limits of Model Compression with Self-Generated Training Data

顺序编码：利用自生成训练数据突破模型压缩的极限

Shikai Qiu, Marc Finzi, Yujia Zheng, Kun Zhang, Andrew Gordon Wilson

机构 * New York University（纽约大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.LG

AI总结 研究利用自生成训练数据的顺序编码突破模型压缩极限，教师模型从学生分布选样本，学生代码记录选择，代码长度与参数和熵无关且更短，还能揭示现象、给出泛化保证、隔离可学习信息。

Comments Code available at https://github.com/shikaiqiu/requential-coding

Q-BridgeNet: A Quantization Network for Cross-Lingual Sign Language Translation

Q-BridgeNet：一种用于跨语言手语翻译的量化网络

Liqian Feng, Lintao Wang, Xiaochen Liu, Anusha Withana, Ken-Tye Yong, Dehui Kong, Zhiyong Wang, Kun Hu

机构 * The University of Sydney（悉尼大学） ； Beijing University of Technology（北京工业大学） ； Edith Cowan University（埃迪斯科文大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.CL

AI总结 针对多语言手语翻译中跨语言冲突问题，提出Q-BridgeNet框架，在手语侧用自适应分割等学习离散Q单元，口语侧微调多语言语言模型，实验证明该框架能有效减轻冲突，在多语言手语翻译上性能优异且泛化能力强。

MawForge: Memory-Bounded Expert Materialization for Local Mixture-of-Experts Inference

MawForge：用于局部专家混合推理的内存受限专家实例化

Craig Opie

机构 * Holocron Security, Inc（全息安全公司） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 研究局部MoE推理在受限内存机器上的可行性，提出MawForge方法，通过磁盘存储模型、按需实例化专家张量等实现，发现其可作为有界执行机制，但非缓存最大化策略，性能受多种因素影响。

Comments 7 pages

The evolution of AI from image interpretation toward scientific inference in nanoparticle electron microscopy

人工智能在纳米颗粒电子显微镜中从图像解释到科学推理的演变

Evropi Toulkeridou, Jiafei Li, Leonardo Lari, Panagiotis Grammatikopoulos

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.AI

AI总结 综述纳米颗粒电子显微镜中人工智能从图像解释到科学推理的演变，围绕颗粒表征挑战，回顾从传统机器学习到多种先进方法，探讨整合多方面数据，评估现有方法利弊，强调其在下一代纳米颗粒表征及加速材料发现中的作用。

Comments Main article: 34 pages, 8 figures (including Graphical Abstract), 5 tables. Appendix: 18 pages, 1 figure, 4 tables. This manuscript has been submitted (after invitation) to Advanced Intelligent Discovery for peer review

Parameter-Efficient Vision-Language Adaptation with Continuous Metadata Conditioning for Animal Re-Identification

基于连续元数据条件的参数高效视觉语言适配用于动物再识别

Anil Osman Tur, Tonje Knutsen Sordalen, Kim Tallaksen Halvorsen, Cigdem Beyan

机构 * Department of Computer Science, University of Verona（维罗纳大学计算机科学系） ； Institute of Marine Research（海洋研究所） ； University of Agder, Centre for Coastal Research（阿格德大学海岸研究中心） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 针对动物再识别中适应纵向生态环境的挑战，提出基于连续元数据条件的参数高效CLIP适配框架，通过保留元数据连续结构，在训练中平滑调制嵌入空间，提升了对外观变化和分布偏移的鲁棒性，实现纯视觉推理管道。

Comments This is the author's version of the paper accepted for publication in Expert Systems with Applications. The final authenticated version will be available from the publisher

KV-PRM: Efficient Process Reward Modeling via KV-Cache Transfer for Multi-Agent Test-Time Scaling

KV-PRM：通过KV缓存转移实现高效的过程奖励建模以进行多智能体测试时扩展

Peng Kuang, Haibo Jin, Xiaoyu Han, Yanli Wang, Xiaopeng Yuan, Ye Yu, Kaidi Xu, Haohan Wang

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Imperial College London（伦敦帝国理工学院） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI

AI总结 研究针对现有基于文本的过程奖励模型在长多智能体展开中评分成本高的问题，提出KV-PRM，通过读取KV缓存降低评分成本，经理论证明和实验验证，该模型在多基准测试及多种TTS方法下表现优异，大幅减少计算资源消耗。

Beyond Backpropagation: Monte Carlo Method Can Train Deep Neural Networks

超越反向传播：蒙特卡罗方法可训练深度神经网络

Hong Zhao

机构 * Department of Physics, Xiamen University（厦门大学物理系） ； Lanzhou Center for Theoretical Physics, Lanzhou University（兰州大学理论物理中心） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 研究探索超越反向传播的方法，提出用简单蒙特卡罗算法训练深度网络，该无梯度方法无需常见技术，灵活性高，可用于多种网络架构，为理解神经网络机制及构建深度学习系统提供新视角和途径。

Comments 22 pages, 5 figures

FSD-VLN: Fast-Slow Dual-System Modeling for Aerial Long-Horizon Vision-Language Navigation

FSD-VLN：用于空中长距离视觉语言导航的快慢双系统建模

Xueke Zhu, Qingyan Meng, Liutao Yu, Wei Zhang, Zhengyu Ma, Huihui Zhou, Yonghong Tian

机构 * Pengcheng Laboratory（鹏城实验室） ； Shenzhen Institutes of Advanced Technology（中国科学院深圳先进技术研究院） ； Peking University（北京大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 研究空中长距离视觉语言导航问题，提出FSD-VLN快慢双系统架构，将语义推理与低延迟飞行命令解耦，通过两个异步分支及时间感知自适应优化器实现，实验表明该方法提升导航成功率，减少推理延迟和运行时间。

Closing the Null Space: Guidance-Aware Quantization for Classifier-Free Diffusion

消除零空间：用于无分类器扩散的引导感知量化

Abdullah Al Shafi, Sumaiya Rahim Suma

专题命中 效率与部署 ：post-training(abstract)；分类 cs.LG

AI总结 研究在实际计算预算下部署CFG扩散模型的量化问题，针对现有方法忽略其结构导致的问题，提出引导感知混合精度方法，通过直接校准引导预测等操作防止无条件分支漂移，实现更好量化效果。

Comments 6 pages, 5 figures, 3 tables

Understanding Layer Patching in Model Size Interpolation

理解模型大小插值中的层修补

Sara Kangaslahti, Jonathan Geuter, Nihal V. Nayak, Marco Fumero, Francesco Locatello, David Alvarez-Melis

机构 * Harvard University（哈佛大学） ； Kempner Institute（肯普纳研究所） ； IST Austria（奥地利科学技术研究所） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 研究零样本模型大小插值中如何选择学生层，将其转化为优化问题并证明可看作无环图最短路径问题。通过实验揭示修补对插值行为的影响，介绍KLPatch算法，为模型大小插值提供理解与实用指导。

Comments 10 pages, 5 figures

Does Mixture-of-Experts Actually Help Inference on Consumer and Edge Hardware? An Empirical Study

混合专家模型是否真的有助于消费级和边缘硬件上的推理？一项实证研究

Alfarizy Alfarizy, Hung Truong Thanh Nguyen, René Richard, Roozbeh Razavi-Far, Hung Cao

机构 * TSAI Lab, University of New Brunswick, Fredericton, NB, Canada（TSAI实验室，新不伦瑞克大学，弗雷德里克顿，NB，加拿大） ； Analytics Everywhere Lab, University of New Brunswick, Fredericton, NB, Canada（全方位分析实验室，新不伦瑞克大学，弗雷德里克顿，NB，加拿大） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 通过实测OLMoE-1B-7B与稠密模型在Apple M2 Pro和Jetson Orin Nano上的性能，发现MoE的活跃参数优势在笔记本电脑上部分实现，在边缘设备上完全丧失，推理成本与总参数而非活跃参数相关。

Comments 18 pages, 7 tables, 4 figures. Submitted to FAIEMA 2026. Code available at https://github.com/Analytics-Everywhere-Lab/edge-moe

DeLS-Spec: Decoupled Long-Short Contexts for Parallel Speculative Drafting

DeLS-Spec：用于并行推测性草稿的解耦长短上下文

Hong-Kai Zheng, Piji Li

机构 * College of Artificial Intelligence, Nanjing University of Aeronautics and Astronautics（南京航空航天大学人工智能学院） ； MIIT Key Laboratory of Pattern Analysis and Machine Intelligence（工业和信息化部模式分析与机器智能重点实验室） ； The Key Laboratory of Brain-Machine Intelligence Technology, Ministry of Education（教育部脑机智能技术重点实验室） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.CL

AI总结 研究提出DeLS-Spec解耦长短上下文推测性解码方法，将DFlash模型作长上下文专家，引入轻量级本地头作短上下文专家，可独立训练降低成本，推理时结合二者逻辑，实验显示在多基准测试中比DFlash提升加速比和接受长度。

CarbonCLIP: Enhance Carbon Prediction from Satellite Imagery via Integrated Street-View Semantics and Temporal Context Training

CarbonCLIP：通过集成街景语义和时间上下文训练增强卫星图像的碳排放预测

Zeru Yang, Fang-Ying Gong, Steve H. L. Yim, Chau Yuen

机构 * Energy Research Institute at NTU（国立理工学院能源研究所） ； Interdisciplinary Graduate Programme（跨学科研究生项目） ； School of Electrical and Electronic Engineering（电气电子工程学院） ； School of Public Administration and Policy（公共管理与政策学院） ； Asian School of the Environment（亚洲环境学院） ； Center for Climate Change and Environmental Health（气候变化与环境健康中心） 纠错

专题命中 效率与部署 ：pretraining(abstract)；分类 cs.AI

AI总结 针对城市碳排放预测难题，CarbonCLIP提出多模态蒸馏框架，通过双分支对比学习，利用街景语义和时间上下文训练增强卫星图像碳排放预测，实验证明该方法优于基线，为卫星碳建模提供有力支持。

Comments Accepted by IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing. 21 pages, 6 figures, 9 tables

Quantize the Target, Quantize the Drafter: Efficient Inference with Qwen3.5-4B

量化目标，量化草稿生成器：使用Qwen3.5 - 4B进行高效推理

Jaeyeon Kim, Jewon Lee, Bo-Kyeong Kim

机构 * Nota Inc.（Nota公司） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.LG

AI总结 研究旨在在资源受限的NVIDIA A10G GPU上实现Qwen3.5 - 4B的低延迟服务。核心方法是结合量化目标模型与推测性解码，通过量化感知蒸馏恢复精度，训练专用草稿生成器加速解码，还用量化等减少开销。贡献是实现加速并满足质量阈值，排名第三。

Comments All authors contributed equally. Our submission to Efficient Qwen Competition, ICML 2026 Workshop on AdaptFM

When Words Predict Workload

当单词预测工作量时

Anubhab Banerjee

机构 * Nokia Germany（诺基亚德国） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.CL

AI总结 研究标准分布式语言模型调度器问题，提出CPU端语言资源预测网关，提取文本结构向量并用XGBoost预测器，经实时延迟遥测计算路由阈值，有效降低操作错误路由率，保障边缘VRAM安全。

Comments This work has been submitted to the IEEE for possible publication. Permission from the author must be obtained for all uses

IRIS: An Intelligent Vision-Language System for Ocular Surface Diseases via Topic Tree and Scene-Driven VQA Generation

IRIS：一种通过主题树和场景驱动的VQA生成用于眼表疾病的智能视觉语言系统

Hao Wei, Wenjin Qi, Dasen Dai, Minqing Zhang, Wu Yuan

机构 * The Chinese University of Hong Kong（香港中文大学） ； Westlake University（西湖大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 针对眼表疾病领域缺乏多模态数据问题，引入IRIS系统。构建IRIS-120K数据集，提出协同数据生成范式，含主题发现树和场景驱动策略，使4B参数VLM性能达最优。

Comments 11 pages, 3 figures

Sangam: Efficiently Serving Diffusion LLMs with the AR Stack

Sangam：使用AR堆栈高效服务扩散语言模型

Nitin Kedia, Saurabh Agarwal, Myungjin Lee, Aditya Akella

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） ； Cisco Research（思科研究） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 研究扩散语言模型服务问题，提出Sangam系统，用赤字令牌预算调度器实现摊还无停顿调度，采用混合服务策略缓解预填充资源不足，揭示服务设计空间受预填充-解码干扰等因素影响。