语言大模型 / LLM

Reverse Distillation: Consistently Scaling Protein Language Model Representations

反蒸馏：一致地扩展蛋白质语言模型表示

Darius Catrina, Christian Bepler, Samuel Sledzieski, Rohit Singh

机构 * Department of Computer Science（计算机科学系） ； Duke University（杜克大学） ； Center for Computational Biology（计算生物学中心） ； Flatiron Institute（Flatiron研究所） ； Depts of Biostats. and Bioinformatics（生物统计学与生物信息学系；细胞生物学系） ； and Cell Biology 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.LG

AI总结 反蒸馏通过分解大型蛋白质语言模型表示为正交子空间，使较大模型在相同维度下始终优于较小模型，提升了蛋白质特征编码效果。

Comments Proceedings of ICLR 2026

VisualScratchpad: Inference-time Visual Concepts Analysis in Vision Language Models

VisualScratchpad: 视觉语言模型推理时的视觉概念分析

Hyesu Lim, Jinho Choi, Taekyung Kim, Byeongho Heo, Jaegul Choo, Dongyoon Han

机构 * KAIST AI（韩国科学技术院人工智能研究所） ； NAVER AI Lab（NAVER人工智能实验室） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI

AI总结 VisualScratchpad通过交互式界面分析视觉语言模型推理过程中的视觉概念，揭示三种未被充分探索的失败模式，帮助理解模型内部机制并改进调试。

Comments Accetped at ICLR 2026 Turstworthy AI Workshop

Valid Feature-Level Inference for Tabular Foundation Models via the Conditional Randomization Test

通过条件随机化检验实现表格基础模型的特征层面推理

Mohamed Salem

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.LG

AI总结 本文提出结合条件随机化检验与TabPFN的方法，实现表格基础模型中特征层面的有效假设检验，提供有限样本有效的p值，无需模型重新训练或参数假设。

Stochastic Self-Organization in Multi-Agent Systems

多智能体系统中的随机自组织

Nurbek Tastan, Samuel Horvath, Karthik Nandakumar

机构 * Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)（莫扎德·本·扎耶德人工智能大学） ； Michigan State University (MSU)（密歇根州立大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出SelfOrg框架，通过实时适应通信结构，实现多智能体系统的随机自组织，提升协作效率与鲁棒性。

Comments Accepted to ICLR 2026

Scaling Agentic Capabilities, Not Context: Efficient Reinforcement Finetuning for Large Toolspaces

在大规模工具空间中扩展代理能力，而非上下文：用于大规模工具空间的高效强化微调

Karan Gupta, Pranav Vajreshwari, Yash Pandya, Raghav Magazine, Akshay Nambi, Ahmed Awadallah

机构 * Microsoft Research（微软研究院） 纠错

专题命中 效率与部署 ：language model(abstract)；small language model(abstract)；SLM(abstract)；分类 cs.AI、cs.LG

AI总结 ATLAS通过强化微调框架使小型语言模型在大规模工具空间中更高效地执行任务，通过学习上下文获取和动作执行，提升长周期工作流程的稳定性与效率。

Exp-Force: Experience-Conditioned Pre-Grasp Force Selection with Vision-Language Models

Exp-Force：基于视觉-语言模型的经验条件预抓取力选择

Siqi Shang, Minchao Huang, Bill Fan, Lillian Chin

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 Exp-Force通过经验条件框架利用视觉-语言模型实现基于单张图像的预抓取力选择，显著提升了抓取力的准确性和可靠性。

Efficient Domain-Adaptive Multi-Task Dense Prediction with Vision Foundation Models

高效域自适应多任务密集预测与视觉基础模型

Beomseok Kang, Niluthpol Chowdhury Mithun, Mikhail Sizintsev, Han-Pang Chiu, Supun Samarasekera

机构 * SRI International（SRI国际） ； Seoul National University（首尔国立大学） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 本文提出FAMDA框架，利用视觉基础模型进行自训练，实现高效多任务密集预测，提升领域自适应性能。

Open-Vocabulary Camouflaged Object Segmentation with Cascaded Vision Language Models

开放词汇伪装物体分割与级联视觉语言模型

Kai Zhao, Wubang Yuan, Zheng Wang, Guanyi Li, Xiaoqiang Zhu, Deng-ping Fan, Dan Zeng

机构 * Shanghai University（上海大学） ； UCLA（美国大学联盟） ； Nankai University（南开大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 本文提出了一种基于视觉语言模型的级联框架，用于解决开放词汇伪装物体分割中的领域差距和分割精度问题，通过共享VLM实现高效且语义一致的分割与分类。

Comments Accepted to Computational Visual Media (CVMJ) 2026

EAGLE-Pangu: Accelerator-Safe Tree Speculative Decoding on Ascend NPUs

EAGLE-Pangu：在Ascend NPUs上实现加速器安全的树推测解码

Chang Han, Yijie Hu, Jingling Liu

机构 * College of Computer Science, Chongqing University（重庆大学计算机学院） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 EAGLE-Pangu在Ascend NPUs上实现加速器安全的树状推测解码，通过显式缓存管理、结构化张量化和兼容教师验证路径，提升解码吞吐量1.27倍，p99达2.46倍。

Comments 14 pages. 7 figures

Adaptive Discovery of Interpretable Audio Attributes with Multimodal LLMs for Low-Resource Classification

基于多模态大语言模型的低资源音频分类中可解释属性的自适应发现

Kosuke Yoshimura, Hisashi Kashima

机构 * Kyoto University（京都大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.LG

AI总结 本文提出利用多模态大语言模型自适应发现可解释音频属性，提升低资源音频分类的效率和准确性。

Comments 5 pages, 1 figure

ELHPlan: Efficient Long-Horizon Task Planning for Multi-Agent Collaboration

ELHPlan: 为多智能体协作的高效长周期任务规划

Shaobin Ling, Yun Wang, Chenyou Fan, Tin Lun Lam, Junjie Hu

机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； City University of Hong Kong（香港城市大学） ； South China Normal University（华南师范大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 ELHPlan通过引入意图绑定的动作链，实现多智能体协作中的高效长周期任务规划，提升适应性与效率，实验表明其在任务成功率与令牌消耗方面表现优异。

VISTA: Vision-Language Inference for Training-Free Stock Time-Series Analysis

VISTA：面向无训练股票时间序列分析的视觉-语言推理

Tina Khezresmaeilzadeh, Parsa Razmara, Seyedarmin Azizi, Mohammad Erfan Sadeghi, Erfan Baghaei Potraghloo

机构 * University of Southern California（南加州大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；language model(abstract)；prompting(abstract)；分类 cs.LG

AI总结 VISTA通过结合文本和视觉信息，利用无训练的视觉-语言模型实现股票时间序列预测，实验结果显示其在预测精度上显著优于传统方法。

Comments Accepted to the CVPR 2025 Workshop on Transformers for Vision (T4V): accepted-papers" target="_blank" rel="noopener">https://sites.google.com/view/t4v-cvpr25/accepted-papers

LycheeCluster: Efficient Long-Context Inference with Structure-Aware Chunking and Hierarchical KV Indexing

LycheeCluster: 基于结构感知分块和分层KV索引的高效长上下文推理

Dongfang Li, Zixuan Liu, Gang Lin, Baotian Hu, Min Zhang

机构 * Harbin Institute of Technology（哈尔滨工业大学） ； University of Electronic Science and Technology of China（电子科技大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 LycheeCluster通过结构感知分块和分层KV索引，实现高效长上下文推理，提升推理速度3.6倍且性能损失极小。

Comments 17 pages, 12 figures

From Reactive to Map-Based AI: Tuned Local LLMs for Semantic Zone Inference in Object-Goal Navigation

从反应式到基于地图的AI：针对目标导航的语义区域推断的调优本地LLM

Yudai Noda, Kanji Tanaka

机构 * Graduate School of Engineering, University of Fukui（福井大学工学研究科） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出一种基于地图的AI方法，利用调优的本地LLM进行语义区域推断，以提升对象-目标导航任务中的成功率和路径效率。

Comments 6 pages, 5 figures, technical report

LLM4PQC - Accurate and Efficient Synthesis of PQC Cores by Feedback-Driven LLMs

LLM4PQC - 通过反馈驱动的LLM实现准确且高效的PQC核心合成

Buddhi Perera, Zeng Wang, Weihua Xiao, Mohammed Nabeel, Ozgur Sinanoglu, Johann Knechtel, Ramesh Karri

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 LLM4PQC通过反馈驱动的LLM实现PQC核心的高效准确合成，减少手动工作量并加速设计探索。

Comments Accpeted at DATE 26

iLLaVA: An Image is Worth Fewer Than 1/3 Input Tokens in Large Multimodal Models

iLLaVA: 图像的价值少于三分之一的输入标记在大型多模态模型中

Lianyu Hu, Liqing Gao, Fanhua Shang, Liang Wan, Wei Feng

机构 * School of Computer Science and Technology, Tianjin University（天津大学计算机科学与技术学院） ； School of Computer Science and Technology, Tiangong University（天津工大学计算机科学与技术学院） ； Key Research Center for Surface Monitoring and Analysis of Relics, State Administration of Cultural Heritage（文物表面监测与分析关键研究中心，国家文物局） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 iLLaVA通过联合优化图像编码器和LLM，减少冗余标记并提升吞吐量，实现更高效的多模态模型性能。

Comments Accepted by ICLR2026,code is released at https://github.com/hulianyuyy/iLLaVA

Position: LLMs Must Use Functor-Based and RAG-Driven Bias Mitigation for Fairness

位置：LLMs必须使用基于函子和RAG驱动的偏见缓解以实现公平性

Ravi Ranjan, Utkarsh Grover, Agorista Polyzou

机构 * Knight Foundation School of Computing and Information Sciences（骑士基金会计算与信息科学学院） ； Florida International University（佛罗里达国际大学） ； College of Engineering（工程学院） ； University of South Florida（佛罗里达州立大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出通过范畴论转换和RAG结合的方法，解决LLMs中的偏见问题，以实现公平性。

Comments 24 pages, 3 figures

Journal ref Review available from NeurIPS 2025 reviwers

LAMBDA: A Large Model Based Data Agent

LAMBDA：基于大模型的数据代理

Maojun Sun, Ruijian Han, Binyan Jiang, Houduo Qi, Defeng Sun, Yancheng Yuan, Jian Huang

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 LAMBDA是一种基于大模型的数据代理系统，通过程序员和检查员协作实现无需代码的数据分析，提升数据分析的可访问性和效率。

Comments 56 pages

Journal ref Journal of the American Statistical Association, 2025

Best-of-Tails: Bridging Optimism and Pessimism in Inference-Time Alignment

最佳尾部：在推理时间对齐中弥合乐观与悲观

Hsiang Hsu, Eric Lei, Chun-Fu Chen

机构 * JPMorganChase Global Technology Applied Research（摩根大通全球技术应用研究） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出BoT框架，通过Tsallis分歧作为正则化器，在推理时间对齐中平衡乐观与悲观，提升对齐性能。

Not all tokens are needed(NAT): token efficient reinforcement learning

并非所有标记都必要（NAT）：标记效率强化学习

Hejian Sang, Yuanda Xu, Zhengze Zhou, Ran He, Zhipeng Wang

机构 * LinkedIn Corporation（LinkedIn公司） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 NAT通过局部标记采样提升RL效率，使用50%标记实现与完整标记相同性能。

vLLM Hook v0: A Plug-in for Programming Model Internals on vLLM

vLLM Hook v0: 一种用于编程vLLM内部模型的插件

Ching-Yun Ko, Pin-Yu Chen

机构 * IBM Research（IBM研究院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 vLLM Hook v0 提供了一种插件，用于编程vLLM模型的内部状态，支持被动和主动编程，以增强模型的可编程性和功能。

KVSlimmer: Theoretical Insights and Practical Optimizations for Asymmetric KV Merging

KVSlimmer: 对非对称KV合并的理论洞察与实用优化

Lianjun Liu, Hongli An, Weiqi Yan, Xin Du, Shengchuan Zhang, Huazhong Liu, Yunshan Zhong

机构 * School of Information and Communication Engineering, Hainan University, Haikou, China（信息与通信工程学院，海南大学，海口，中国） ； School of Cyberspace Security, Hainan University, Haikou, China（网络安全学院，海南大学，海口，中国） ； MAC Lab, Department of Artificial Intelligence, School of Informatics, Xiamen University, Xiamen, China（人工智能系信息学院MAC实验室，厦门大学，厦门，中国） ； School of Computer Science and Technology, Hainan University, Haikou, China（计算机科学与技术学院，海南大学，海口，中国） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 KVSlimmer通过理论分析和高效算法优化非对称KV合并，提升模型性能并降低内存与延迟开销。

Photons = Tokens: The Physics of AI and the Economics of Knowledge

光子等于标记：人工智能的物理与知识经济

Alec Litowitz, Nick Polson, Vadim Sokolov

机构 * QStar Capital（QStar资本） ； University of Chicago（芝加哥大学） ； George Mason University（乔治·梅森大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文通过物理和经济视角，探讨人工智能计算中标记的热力学成本及人类能向AI系统提出的问题数量限制，揭示经济价值集中与监管必要性。

Switchable Activation Networks

可切换激活网络

Laha Ale, Ning Zhang, Scott A. King, Pingzhi Fan

机构 * Southwest Jiaotong University（西南交通大学） ； University of Windsor（温莎大学） ； Texas A&M University-Corpus Christi（德克萨斯大学阿姆斯特朗分校） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 SWAN通过动态控制神经元激活，实现高效推理和紧凑模型部署，统一稀疏性、剪枝和自适应推理的优势。

Comments 14 pages, 9 figures

Slurry-as-a-Service: A Modest Proposal on Scalable Pluralistic Alignment for Nutrient Optimization

泥浆即服务：一种可扩展的多元对齐方案用于营养优化

Rachel Hong, Yael Eiger, Jevan Hutson, Os Keyes, William Agnew

机构 * ValueMulch 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出ValueMulch框架，通过多元对齐方法提升覆盖模型对社区规范的符合度，探讨伦理与技术对齐的挑战。

MWM: Mobile World Models for Action-Conditioned Consistent Prediction

MWM: 移动世界模型用于动作条件一致预测

Han Yan, Zishang Xiang, Zeyu Zhang, Hao Tang

机构 * School of Computer Science, Peking University（北京大学计算机科学系） 纠错

专题命中 效率与部署 ：pretraining(abstract)；post-training(abstract)

AI总结 MWM提出了一种移动世界模型，通过两阶段训练框架和推理一致状态蒸馏提升动作条件一致性的图像目标导航性能。

When Token Pruning is Worse than Random: Understanding Visual Token Information in VLLMs

当令牌修剪不如随机：理解VLLMs中的视觉令牌信息

Yahong Wang, Juncheng Wu, Zhangkai Ni, Longzhen Yang, Yihang Liu, Chengmei Yang, Ying Wen, Lianghua He, Xianfeng Tang, Hui Liu, Yuyin Zhou

机构 * Tongji University（同济大学） ； University of California, Santa Cruz（加州大学圣克ruz分校） ； Amazon（亚马逊） ； East China Normal University（华东师范大学） ； Shanghai Eye Disease Prevention and Treatment Center（上海眼病预防与治疗中心） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 本文研究了VLLMs中视觉令牌信息随网络深度变化的现象，发现信息消失地平线导致深度层随机修剪更有效，且与模型容量相关。

Comments Accepted to CVPR 2026

BrownoutServe: SLO-Aware Inference Serving under Bursty Workloads for MoE-based LLMs

BrownoutServe: MoE-based LLMs 下突发负载下面向 SLO 的推理服务

Jianmin Hu, Minxian Xu, Kejiang Ye, Chengzhong Xu

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 BrownoutServe 是一种面向 MoE 模型的推理服务框架，通过动态调整和联合专家机制提升效率并保障 SLO。

Comments 12 pages

Journal ref IEEE Transactions on Computers, 2026

The Model Knows Which Tokens Matter: Automatic Token Selection via Noise Gating

模型知道哪些token重要：通过噪声门实现的自动token选择

Landi He, Xiaoyu Yang, Lijian Xu

机构 * Shenzhen University of Advanced Technology（深圳先进技术大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；language model(abstract)

AI总结 AutoSelect通过噪声门实现自动token选择，提升视觉语言模型的推理效率与准确性。

Mozart: Modularized and Efficient MoE Training on 3.5D Wafer-Scale Chiplet Architectures

Mozart：模块化和高效的3.5D晶圆级芯片组架构上的MoE训练

Shuqing Luo, Ye Han, Pingzhi Li, Jiayin Qin, Jie Peng, Yang, Zhao, Yu, Cao, Tianlong Chen

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 Mozart通过模块化和高效的算法-硬件协同设计，提升3.5D晶圆级芯片组架构上MoE模型的训练效率与资源利用率。

Comments NeurIPS 2025 Spotlight