语言大模型 / LLM

Distilling Knowledge from Large Language Models into Lightweight Reinforcement Learning Agents for Autonomous Cyber Operations

将大型语言模型中的知识蒸馏为用于自主网络操作的轻量级强化学习智能体

Konur Tholl, François Rivest, Mariam El Mezouar, Adrian Taylor, Ranwa Al Mallah

机构 * Royal Military College of Canada（加拿大皇家军事学院） ； Defence Research and Development Canada（加拿大国防研究与发展部） ； Polytechnique Montreal（蒙特利尔理工学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(summary_cn,abstract)；分类 cs.LG

AI总结 该研究针对自主网络操作中强化学习智能体训练不稳定的问题，通过提示工程证明80亿参数网络安全LLM性能优于基线RL智能体，再经在线策略蒸馏将其防御知识迁移至仅64910参数的轻量级RL智能体，为前沿网络安全模型的实用化提供了可行方案。

On the Efficacy of Self-Supervised Point Cloud Encoders for Efficient 3D Large Language Models

自监督点云编码器在高效3D大语言模型中的效能研究

Yao Zheng, Tian Zhang

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)

AI总结 该研究探究低成本自监督点云编码器能否替代昂贵多模态编码器用于3D-LLM，经实验发现其与架构存在强交互，为高性价比3D-LLM设计提供指南。

Comments 14 pages, 3 figures. This work has been previously released as a preprint on ChinaXiv (No. ChinaXiv:202607.00167, DOI: 10.12074/202607.00167)

Hollow-LLM Attack: Computationally Trivial Weights in Zero-Knowledge Verification of LLM Inference

Hollow-LLM攻击：LLM推理零知识验证中的计算上微不足道的权重

Chen Gong, Beijie Liu, Mengyuan Li

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 该研究提出Hollow-LLM攻击，利用LLM零知识验证的工作量缺口，通过嵌入幽灵权重使不诚实提供者以小模型成本生成有效证明，需额外措施绑定正确性与计算工作。

Comments Accepted to the 2026 IEEE Symposium on Security and Privacy (S&P 2026)

Conformal Cascade: Distribution-Free Accuracy Guarantees for Multi-Tier LLM Inference

共形级联：多层大语言模型推理的无分布精度保证

Yifan Dou, Shikan Lian, Shibo Li

机构 * Department of Computer Science, Florida State University（佛罗里达州立大学计算机科学系） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究针对LLM级联推理成本高、置信分数校准不当等问题，提出共形级联框架，以共形预测集大小为推迟规则，提供无分布精度保证，在多基准测试中表现优于启发式级联，且无需模型训练，仅需黑盒API访问。

Compiled AI: Deterministic Code Generation for LLM-Based Workflow Automation

编译AI：基于LLM的工作流自动化确定性代码生成

Geert Trooskens, Aaron Karlsberg, Anmol Sharma, Lamara De Brouwer, Max Van Puyvelde, Matthew Young, John Thickstun, Gil Alterovitz, Walter A. De Brouwer

机构 * XY.AI Labs, Palo Alto, CA（XY.AI实验室，帕洛阿尔托） ； Stanford University School of Medicine, Stanford, CA（斯坦福大学医学院，斯坦福） ； Cornell University, Department of Computer Science, Ithaca, NY（康奈尔大学计算机科学系，伊萨卡） ； Brigham and Women’s Hospital / Harvard Medical School, Boston, MA（布莱根妇女医院/哈佛医学院，波士顿） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文研究编译AI，一种大语言模型在编译阶段生成可执行代码，随后工作流确定性执行的范式。重点探讨其在高风险企业工作流中的应用，尤其在医疗领域，强调可靠性与可审计性。

Comments 14 pages, 2 figures, 3 tables

SLIM: Saturation-Aware Lightweight Performance Modeling for LLM Serving

SLIM：面向大语言模型服务的饱和度感知轻量级性能建模

Pol G. Recasens, Ferran Agullo, Yue Zhu, Chen Wang, Jordi Torres, Josep Ll. Berral

专题命中 效率与部署 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)

AI总结 该研究针对LLM服务吞吐量饱和问题，通过GPU剖析明确其源于解码阶段注意力内核的DRAM带宽饱和，提出SLIM半分析性能模型及BCA工具，可高效预测吞吐量与延迟并优化批处理配置。

Comments Pol G. Recasens and Ferran Agullo contributed equally to the work

BLADE: Boundary-Expanded and Layer-Adaptive Dynamic Exit for Efficient LLM Reasoning

BLADE：用于高效大语言模型推理的边界扩展与层自适应动态出口

Keshu Fu, Keqin Peng, Jun Bai, Shuhan Qin, Chen Li, Junzhu Liang, Yefei Chen, Jiaqi Li, Yuanxin Ouyang

专题命中 效率与部署 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 BLADE是一种轻量级框架，通过构建多粒度检查点、学习紧凑探测层子集等，在保持接近基线准确率的同时，减少大语言模型的推理计算与生成令牌量，提升了LLM推理效率。

Comments 8 pages

Can Zero-Shot LLMs Predict Child Malnutrition? A Fairness and Temporal Robustness Study

零样本大型语言模型能否预测儿童营养不良？一项关于公平性与时序鲁棒性的研究

Muhammad Ashad Kabir, Md Ahshanul Haque

机构 * School of Computing, Mathematics and Engineering, Charles Sturt University（查尔斯斯特大学计算、数学与工程学院） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；foundation model(abstract)

AI总结 本研究评估零样本LLM预测儿童营养不良的可行性，发现GPT-4o-mini零样本预测儿童发育迟缓性能接近随机森林基线，灵敏度更高、性别公平性好、时序稳定，但居住地和家庭财富维度存在公平性差异，需进一步研究。

Comments Accepted to AIME 2026 Workshop

Efficient LLM Adversarial Training via Low-Rank Defense and Circuit-Guided Surrogates

基于低秩防御与电路引导代理的高效大语言模型对抗训练

Weiyi He, Yuping Lin, Jiliang Tang, Yue Xing

机构 * Michigan State University（密歇根州立大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本研究针对大语言模型对抗训练计算成本高的问题，从防御侧优化表示微调、攻击侧构建轻量代理模型两方面提出策略，使每步对抗训练FLOPs降48.1%，仅需0.0118%可训练参数。

FriendBench: Benchmarking Dyadic Familiarity Inference in Humans and Multimodal Large Language Models

FriendBench：人类与多模态大语言模型的二元熟悉度推理基准

Jeffrey M. Girard, Jason Z. Zheng, Jacqueline R. Vertino, Antony D'Avirro, Benjamin Peloquin

机构 * Fluid Concepts Research（流体概念研究机构） 纠错

专题命中 效率与部署 ：large language model(title)；language model(title)；分类 cs.CL、cs.AI

AI总结 该研究推出FriendBench基准，通过20秒二元破冰对话片段推断两人熟悉度，对比7家公司26个模型与人类的表现，发现模型与人类准确率无统计差异但先验倾向不同，且仅人类能从可见行为中获益，同时发布了相关资源。

Comments 15 pages, 3 figures

Self-Boosting Vision-Language Models with Noisy Student On-Policy Self-Distillation

基于有噪学生策略性自蒸馏的自增强视觉语言模型

Shuai Wang, Daoan Zhang, Zhe Tang, Hao Cheng, Jiaheng Wei

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； ByteDance Inc.（字节跳动公司） ； Zhejiang University of Technology（浙江工业大学） ； Hong Kong Baptist University（香港浸会大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；post-training(abstract)；分类 cs.LG

AI总结 研究针对视觉语言模型无外部监督难以改进的问题，提出NOPD自蒸馏方法，利用干净与损坏输入预测差异产生自监督信号，在多视觉推理任务中有效，能提升多个模型在多个基准测试中的表现。

DeltaServe: Host-Agnostic Co-Serving of Inference and Fine-Tuning for LLMs

DeltaServe：面向大语言模型的主机无关式推理与微调协同服务

Jiaxuan Chen, Jianshu She, Ye Yuan, Rajat Ghosh, Karan Gupta, Qirong Ho, Xue Liu, Oana Balmau

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.LG

AI总结 DeltaServe是一种主机无关式LLM推理与微调协同服务设计，可利用闲置GPU算力提升LoRA微调吞吐量，已集成至vLLM等框架，在保持100%推理SLO合规的前提下，微调吞吐量较现有方案显著提升。

Rethinking AI Cloud Infrastructure for Agentic Serving Systems with the Aries Experimentation Framework

基于Aries实验框架重新思考智能体服务系统的AI云基础设施

Leonid Kondrashov, Hongrui Liu, JooYoung Park, Boxi Zhou, Zonghao Liu, Chengzhi Lu, Riccardo Mancini, Esha Choukse, Haris Javaid, German Sviridov, Tao Peng, Chen Zhao, Anastasia Avdeeva, Aleksei Gusev, Marios Kogias, Luo Mai, Dmitrii Ustiugov

专题命中 效率与部署 ：LLM(summary_cn,abstract)

AI总结 该研究针对自主智能体对传统LLM服务的挑战，提出Aries全栈实验框架，通过实验揭示服务系统的关键瓶颈，探讨智能体原生服务系统的设计愿景。

MARGIN: Runtime Confidence Calibration for Multi-Agent Foundation Model Coordination

MARGIN：多智能体基础模型协调的运行时置信度校准

Joss Armstrong

机构 * Ericsson, Athlone, Ireland（爱立信，Athlone，爱尔兰） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.LG

AI总结 提出在线校准方法MARGIN，通过任务流学习每个智能体每个置信度带的校准因子，无需模型访问或重训练，在分布漂移下将校准误差降低3-6倍，并显著提升多智能体选择性能。

Predict-then-Diffuse: Adaptive Response Length for Compute-Budgeted Inference in Diffusion LLMs

预测后扩散：面向扩散大语言模型的自适应响应长度计算

Michael Rottoli, Subhankar Roy, Stefano Paraboschi

机构 * IEEE 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出Predict-then-Diffuse框架，通过自适应响应长度预测器和安全机制，实现计算预算下的高效推理，减少计算成本并保持输出质量。

Comments Accepted for publication in IJCNN 2026 (International Joint Conference on Neural Networks)

Linear Foundation Model for Quantum Embedding: Data-Driven Compression of the Ghost Gutzwiller Variational Space

量子嵌入的线性基础模型：数据驱动的鬼Gutzwiller变分空间压缩

Samuele Giuli, Hasanat Hasan, Benedikt Kloss, Marius S. Frank, Tsung-Han Lee, Olivier Gingras, Yong-Xin Yao, Nicola Lanatà

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 本文提出一种基于PCA的量子嵌入线性基础模型，通过数据驱动方法压缩变分空间，显著降低强关联系统计算成本。

Comments 17 pages, 6 figures

Token-Level Diagnosis of Sycophancy in LLMs with Attribution-Guided Steering

基于归因引导调控的大语言模型谄媚行为的令牌级诊断

Hieu Nguyen, Mahammed Kamruzzaman, Anshuman Chhabra, Gene Louis Kim

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本研究针对大语言模型的谄媚行为，提出基于集成梯度的权威份额指数进行令牌级归因诊断，构建调控向量实现推理时无重训的谄媚缓解，使最极端案例的谄媚率从96%降至25%。

Dual-Dimensional Consistency: Balancing Budget and Quality in Adaptive Inference-Time Scaling

双维度一致性：在适应性推理时间扩展中平衡预算与质量

Rongman Xu, Yifei Li, Tianzhe Zhao, Yanrui Wu, Bo Li, Hang Yan

机构 * Xi’an Jiaotong University（西安交通大学） 纠错

专题命中 效率与部署 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出双维度一致性框架，通过结合置信度加权贝叶斯协议与趋势感知分层剪枝，平衡推理预算与质量，减少10倍以上token消耗并保持高精度。

Matterhorn: Masked Time-to-First-Spike Encoding by Reassigning the Silent State for Sparse and Energy-Efficient Spiking Transformers

Matterhorn: 一种高效的类脑稀疏脉冲变压器架构与掩码时间到首次脉冲编码

Zhanglu Yan, Kaiwen Tang, Zixuan Zhu, Zhenyu Bai, Qianhui Liu, Yongxin Zhu, Weng-Fai Wong

机构 * Department of computer science, National University of Singapore（新加坡国立大学计算机科学系） ； School of Artificial Intelligence, Shandong University（山东大学人工智能学院） ； Shanghai Advanced Research Institute, Chinese Academy of Science（中国科学院上海先进研究院） ； University of Chinese Academy of Sciences, Beijing（中国科学院大学北京校区） 纠错

专题命中 效率与部署 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 Matterhorn通过引入掩码时间到首次脉冲编码和类比计算在内存技术，实现高效稀疏脉冲变压器架构，提升能效并达到新的准确率水平。

Preventing Premature Commitment in Coding Agents with an Evidence-Conditioned Execution Layer

通过证据条件执行层防止编码智能体的过早提交

Yisen Xu, Chenglin Li, Zehao Wang, Jinqiu Yang, Tse-Hsun Chen

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；language model(abstract)

AI总结 ECLoop是介于编码智能体与仓库间的证据条件执行层，可防止过早提交，在SWE-bench Verified上提升Pass@1指标4.8-11.8个百分点，同时降低平均token消耗。

Comments 9 pages

Towards the Holographic Characteristic of LLMs for Efficient Short-text Generation

向LLMs的全息特性迈进：为高效短文本生成而努力

Shun Qian, Bingquan Liu, Chengjie Sun, Zhen Xu, Baoxun Wang

机构 * Harbin Institute of Technology（哈尔滨工业大学） ； Platform and Content Group, Tencent（腾讯平台与内容组） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出HOLO插件，利用语言模型的全息特性提升短文本生成效率，通过提取目标关键词并补充平行文本生成，实现高效生成。

MAGA: Multi-Platform Self-Fusion of GUI Agents via Structured Action Distillation

MAGA：基于结构化动作蒸馏的GUI智能体多平台自融合

Hang Yan, Zhangxuan GU, Beitong Zhou, Jiaxuan Chen, Runze Li, Yusong Hu, Shuheng Shen, Changhua Meng

机构 * Ant Group（蚂蚁集团） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 该研究针对GUI智能体跨平台部署受限问题，提出MAGA方法优化训练信号分配，在8B参数规模下性能优于基准模型，与教师模型表现接近。

Comments 13 pages, 4 figures

Tool Specifications Matter: Uncovering and Mitigating Safety Risks in AI Agents

工具规格很重要：揭示和缓解AI智能体中的安全风险

Minghui Pan, Jiayuxuan Yang, Yuanyuan Yuan, Yu Jiang, Zhenpeng Chen

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； Beihang University（北京航空航天大学） ； Tsinghua University（清华大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究发现模式格式工具规格是AI智能体安全下降的主因，提出SafeKeep防护措施，可提升有害请求弃权率、降低攻击成功率，性能优于现有防护且保留任务处理能力。

BM25 Wins at Scale: A Scaling Study of Retrieval-Augmented Generation Paradigms

哪种RAG范式在规模化场景下表现最优？检索增强生成范式的规模化研究

Pengyu Wang, Benfeng Xu, Shaohan Wang, Mingxuan Du, Xin Zeng, Huarui Wu, Lei Zhang, Licheng Zhang

机构 * University of Science and Technology of China（中国科学技术大学） ； Metastone Technology（Metastone科技） ； Information Technology Research Center, Beijing Academy of Agriculture and Forestry Sciences（北京农林科学院信息技术研究中心） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 本文通过28个嵌套语料层级的受控研究，对比四类RAG范式的规模化表现，发现BM25综合性能最优，Agent+BM25全规模准确率达69.4，图基RAG存在构建瓶颈。

FORGE: Frame Orthogonality in Relevance Geometry for Long-Form Video Understanding

FORGE：用于长视频理解的相关几何中的帧正交性

Ghazal Kaviani, Ghassan AlRegib

机构 * Georgia Institute of Technology（佐治亚理工学院） ； Center for Signal and Information Processing (CSIP)（信号与信息处理中心 (CSIP)） ； School of Electrical and Computer Engineering（电气与计算机工程学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究长视频理解中推理时最大化查询相关信息问题，提出FORGE模型无关方法，通过在预训练嵌入空间引入查询条件几何统一相关性和多样性，实验证明该方法在关键帧选择和问答上有显著提升。

Comments Under Review

CodeShrink: Adaptive Visual Compression for Efficient Multimodal Code Understanding

CodeShrink：面向高效多模态代码理解的自适应视觉压缩

Wenxin Tang, Jingyu Xiao, Zhenyu Liu, Zipeng Xie, Junliang Liu, Wang Luo, Yuan Jiang, Yintong Huo, Michael Lyu

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 CodeShrink是含无空白渲染、自适应压缩配置、主导令牌选择的自适应视觉压缩框架，可减少代码理解的视觉令牌用量，在三类代码任务上优于基线。

Spatial Visual Analytics for Multi-Document Summary Verification

面向多文档摘要验证的空间视觉分析技术

Jiahao Xu, Wei Liu, Yang Liu, Eric Krokos, Kirsten Whitley, Xuan Wang, Rebecca Faust, Chris North

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 该研究针对多文档摘要验证难题，提出SVS视觉分析系统，含两种二维布局，实验表明其可提升验证准确性、降低工作量，SUMMARY-GUIDED布局综合表现最优。

Comments Accepted to IEEE VIS 2026; 13 pages, including appendices (11-page paper plus 2-page appendices)

Step-Attention Refinement of DINOv3 Features for Efficient Anterior Eye Segmentation

用于高效眼前节分割的DINOv3特征的步注意力细化

Philippe Baumstimler, Jean-Mathieu Gagnon, Sébastien Gagné, Mathieu Duchesneau, Clément Playout, Lama Séoud

机构 * Polytechnique Montréal（蒙特利尔理工学院） ； LightX Innovations（LightX创新公司） ； Institut de l’Oeil des Laurentides（劳伦琴眼科研究所） 纠错

专题命中 效率与部署 ：foundation model(abstract,abstract_cn)

AI总结 本研究针对临床眼前节分割问题，提出基于蒸馏DINOv3 ViT-Small主干的轻量架构，引入步注意力特征细化模块，在私有数据集上实现最优性能与域偏移鲁棒性，为相关任务建立强基线。

OPERA: Online Data Pruning for Efficient Retrieval Model Adaptation

OPERA：面向高效检索模型适应的在线数据剪枝

Haoyang Fang, Shuai Zhang, Yifei Ma, Hengyi Wang, Cuixiong Hu, Katrin Kirchhoff, Bernie Wang, George Karypis

机构 * Amazon Web Services（亚马逊云服务） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 OPERA通过在线数据剪枝提升检索模型适应效果，SP在标准微调基础上提升NDCG，DP在多个领域数据集上取得最佳排名和召回效果，且训练时间减少50%。

Comments Code is released at: https://github.com/autogluon/autogluon-rag/tree/main/projects/opera

When Does On-Policy Interaction Help? Representational Tradeoffs in Value-Based Imitation Learning

基于值函数的模仿学习中，何时在线交互是有帮助的？表示权衡研究

Luca Viano, Antoine Moulin, Audrey Huang, Volkan Cevher, Philip Amortila, Dylan J. Foster

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文针对基于值函数的模仿学习，提出交互式在线算法OVI，发现专家交互可降低学习者的表示要求，且OVI在多数场景下性能优于现有方法。