语言大模型 / LLM

GUARD-SLM: Token Activation-Based Defense Against Jailbreak Attacks for Small Language Models

GUARD-SLM：基于令牌激活的对抗 Jailbreak 攻击防御方法用于小语言模型

Md Jueal Mia, Joaquin Molto, Yanzhao Wu, M. Hadi Amini

机构 * Knight Foundation School of Computing and Information Sciences（奈特基金会计算与信息科学学院） ； Security, Optimization, and Learning for InterDependent networks laboratory (solid lab)（安全、优化与相互依赖网络学习实验室） ； Florida International University（佛罗里达国际大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；SLM(title,abstract)；large language model(abstract)

AI总结 本文研究了小语言模型在面对异构攻击时的脆弱性，提出GUARD-SLM方法通过分析隐藏层激活来过滤恶意提示，提升小语言模型的安全性。

From Efficiency to Adaptivity: A Deeper Look at Adaptive Reasoning in Large Language Models

从效率到适应性：深入探讨大语言模型中的适应性推理

Chao Wu, Baoheng Li, Mingchen Gao, Yu Tian, Zhenyi Wang

机构 * University at Buffalo（布法罗大学） ； University of Central Florida（中佛罗里达大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 本文探讨大语言模型中适应性推理的核心方法与贡献，提出适应性推理的控制增强策略优化问题，并构建系统分类法以比较不同策略。

Developing Adaptive Context Compression Techniques for Large Language Models (LLMs) in Long-Running Interactions

开发用于长持续交互的大型语言模型（LLMs）的自适应上下文压缩技术

Payal Fofadiya, Sunil Tiwari

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI

AI总结 本文提出一种自适应上下文压缩框架，通过重要性感知内存选择、相干敏感过滤和动态预算分配，提升长对话中的稳定性与检索性能，同时减少token使用和推理延迟。

$D^2Prune$: Sparsifying Large Language Models via Dual Taylor Expansion and Attention Distribution Awareness

$D^2Prune$：通过双重泰勒展开和注意力分布意识对大型语言模型进行稀疏化

Lang Xiong, Ning Liu, Ao Ren, Yuheng Bai, Haining Fang, BinYan Zhang, Zhe Jiang, Yujuan Tan, Duo Liu

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 本文提出$D^2Prune$方法，通过双重泰勒展开和注意力分布意识，解决现有剪枝方法在激活分布偏移和注意力模块长尾分布方面的不足，提升模型压缩效果。

Journal ref Proceedings of the AAAI Conference on Artificial Intelligence, 40(32), 27171-27179, 2026

Towards Automated Knowledge Transfer in Evolutionary Multitasking via Large Language Models

通过大语言模型实现进化多任务优化中的自动化知识转移

Xuebin Lyu, Yuxiao Huang, XueFeng Chen, Jing Tang, Liang Feng, Kay Chen Tan

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)

AI总结 本文提出SKTD框架，利用大语言模型自动生成进化多任务优化中的知识转移方法，提升异构任务和多场景下的优化效果与泛化能力。

Comments 25 pages

Accelerating Diffusion Large Language Models with SlowFast Sampling: The Three Golden Principles

通过SlowFast采样加速扩散大语言模型：三大黄金原则

Qingyan Wei, Yaojie Zhang, Zhiyuan Liu, Puyu Zeng, Yuxuan Wang, Biqing Qi, Dongrui Liu, Linfeng Zhang

机构 * EPIC Lab, Shanghai Jiao Tong University（上海交通大学 EPIC 实验室） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(title)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出SlowFast采样策略，通过三大原则动态切换探索与加速解码阶段，提升扩散语言模型的生成速度与效率。

Comments 11 pages; 5 figures;

Generalizable Foundation Models for Calorimetry via Mixtures-of-Experts and Parameter Efficient Fine Tuning

通过专家混合和参数高效微调实现可推广的 calorimetry 基础模型

Carlos Cardona-Giraldo, Cristiano Fanelli, James Giroux, Cole Granger, Benjamin Nachman, Gerald Sabin

机构 * RNET Technologies Inc.（RNET技术公司） ； SLAC National Accelerator Laboratory（SLAC国家加速器实验室） ； Stanford University（斯坦福大学） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出一种基于next-token transformer的可推广calorimetry基础模型，结合专家混合预训练和参数高效微调，实现模块化适应不同材料和粒子类型，提升模拟效率和扩展性。

Comments 18 pages, 11 figures, 1 table

LLMON: An LLM-native Markup Language to Leverage Structure and Semantics at the LLM Interface

LLMON：一种面向大语言模型的标记语言，用于在大语言模型接口中利用结构和语义

Michael Hind, Basel Shbita, Bo Wu, Farhan Ahmed, Chad DeLuca, Nathan Fulton, David Cox, Dan Gutfreund

机构 * IBM Research（IBM研究院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 LLMON通过引入一种面向大语言模型的标记语言，使文本的结构和语义元数据能自然地传递给大语言模型，从而提升模型的准确性、安全性和稳定性。

Comments 28 pages

Reward-Based Online LLM Routing via NeuralUCB

基于神经UCB的奖励驱动在线大语言模型路由

Ming-Hua Tsai, Phat Tran

机构 * Oregon State University（俄勒冈州立大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出基于神经UCB的LLM路由策略，在模拟环境中验证其在成本意识路由中的优势，相比随机和最小成本基线，其在效用奖励上表现更优，同时保持较低的推理成本。

One-for-All: A Lightweight Stabilized and Parameter-Efficient Pre-trained LLM for Time Series Forecasting

万能一用：一种轻量级稳定且参数高效的预训练语言模型用于时间序列预测

Prasanjit Dey, Soumyabrata Dev, Bianca Schoen-Phelan

机构 * ADAPT SFI Research Centre, School of Computer Science, Technological University Dublin（ADAPT SFI研究中心，计算机科学学院，都柏林科技大学） ； ADAPT SFI Research Centre, School of Computer Science, University College Dublin（ADAPT SFI研究中心，计算机科学学院，都柏林大学学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出One-for-All，一种轻量级稳定且参数高效的预训练语言模型，用于时间序列预测，通过引入Gaussian Rank-Stabilized Low-Rank Adapters（rsLoRA）实现高效微调，显著提升参数效率和内存占用，适用于边缘设备部署。

Comments This manuscript is currently under review at IEEE Transactions on Knowledge and Data Engineering (TKDE)

Federated Inference for Heterogeneous LLM Communication and Collaboration

联邦推断用于异构大语言模型通信与协作

Zihan Chen, Zeshen Li, Howard H. Yang, Tony Q. S. Quek, Jihong Park

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出FedRefine框架，解决多LLM协作中的性能、隐私和异构性问题，通过隐私保护的KV缓存通信提升设备端推断能力。

Comments 6 pages. Accepted by AAAI 2026 Workshop on ML4Wireless

DiffusionVL: Translating Any Autoregressive Models into Diffusion Vision Language Models

DiffusionVL: 将任意自回归模型转化为扩散视觉语言模型

Lunbin Zeng, Jingfeng Yao, Bencheng Liao, Hongyuan Tao, Wenyu Liu, Xinggang Wang

机构 * Huazhong University of Science and Technology（华中科技大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；instruction tuning(abstract)

AI总结 本文提出DiffusionVL，通过高效扩散微调将预训练自回归模型转化为扩散视觉语言模型，实现高效生成和性能提升。

Comments 12 pages, 4 figures, conference or other essential info

StepCache: Step-Level Reuse with Lightweight Verification and Selective Patching for LLM Serving

StepCache: 基于轻量验证和选择性修补的步骤级重用用于大语言模型服务

Azam Nouri

机构 * Department of Science, Technology & Mathematics, Lincoln University（林肯大学科学与技术数学系） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.CL、cs.AI

AI总结 StepCache通过步骤级重用和轻量验证实现LLM服务的高效处理，减少延迟并提高准确性，支持结构化输出和容错机制。

Comments 9 pages, 1 figure

ITQ3_S: High-Fidelity 3-bit LLM Inference via Interleaved Ternary Quantization with Rotation-Domain Smoothing

ITQ3_S：通过交错三进制量化与旋转域平滑实现高保真3位LLM推理

Edward J. Yoon

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出ITQ3_S，一种新的3位权重量化格式，通过FWHT预旋转空间，解决传统3位方法的精度损失问题，实现高保真LLM部署。

Comments 12 pages, 4 figures, 3 tables

InfiniteVL: Synergizing Linear and Sparse Attention for Highly-Efficient, Unlimited-Input Vision-Language Models

InfiniteVL: 融合线性与稀疏注意力以实现高效率、无限输入的视觉-语言模型

Hongyuan Tao, Bencheng Liao, Shaoyu Chen, Haoran Yin, Qian Zhang, Wenyu Liu, Xinggang Wang

机构 * Huazhong University of Science and Technology（华中科技大学） ； Horizon Robotics（地平线机器人） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI

AI总结 InfiniteVL通过融合线性与稀疏注意力机制，实现高效率和无限输入的视觉-语言模型，提升解码速度和长上下文处理能力。

Comments 20 pages, 8 figures, conference or other essential info

A Provable Energy-Guided Test-Time Defense Boosting Adversarial Robustness of Large Vision-Language Models

一种可证明的能量引导测试时间防御提升大视觉-语言模型的对抗鲁棒性

Mujtaba Hussain Mirza, Antonio D'Orazio, Odelia Melamed, Iacopo Masi

机构 * OmnAI Lab, Computer Science Department, Sapienza University of Rome, Italy（罗马大学计算机科学系OmnAI实验室，意大利） ； Weizmann Institute of Science, Israel（魏茨曼科学研究所，以色列） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 本文提出ET3，一种轻量且无需训练的防御方法，通过最小化输入样本的能量提升模型鲁棒性，实验显示其在分类和提升大视觉-语言模型鲁棒性方面表现优异。

Comments Accepted at the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) 2026, Main Conference

Seeing the Evidence, Missing the Answer: Tool-Guided Vision-Language Models on Visual Illusions

看到证据，却错失答案：基于工具引导的视觉语言模型在视觉错觉中的应用

Xuesong Wang, Harry Wang

机构 * Wayne State University（韦恩州立大学） ； University of Michigan（密歇根大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 本文提出一种工具引导的推理框架，通过通用图像处理工具和提示系统，解决视觉语言模型在处理视觉错觉时的系统性偏差问题，并展示其在不同结构错觉变体上的跨结构泛化能力。

Comments CVPR 2026 DataCV Workshop, code: https://github.com/Davidxswang/cvpr_2026_datacv_submission

Past, Present, and Future of Bug Tracking in the Generative AI Era

过去、现在与未来：生成AI时代的缺陷跟踪

Utku Boran Torun, Mehmet Taha Demircan, Mahmut Furkan Gön, Eray Tüzün

机构 * Bilkent University, Department of Computer Engineering（比尔肯大学计算机工程系） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文探讨生成AI时代缺陷跟踪的发展，提出基于大语言模型和智能代理的框架，旨在通过自然语言报告和AI自动化降低解决时间与协调成本。

Comments Accepted to ACM TOSEM Special Issue: 2030 Software Engineering Roadmap

AI-Programmable Wireless Connectivity: Challenges and Research Directions Toward Interactive and Immersive Industry

AI可编程无线连接：面向交互式和沉浸式产业的挑战与研究方向

Haris Gacanin

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文探讨了将传统信号处理与AI结合以实现高效、可编程和可扩展的无线连接基础设施的挑战，重点分析了紧凑型AI模型在资源受限环境下的应用及其实现路径。

Comments 9 pages, 6 figures

SeGPruner: Semantic-Geometric Visual Token Pruner for 3D Question Answering

SeGPruner: 用于3D问答的语义-几何视觉令牌修剪器

Wenli Li, Kai Zhao, Haoran Jiang, Enquan Yang, Yi Su, Dan Zeng

机构 * Shanghai University（上海大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出SeGPruner，通过语义和几何引导的令牌减少框架提升3D问答效率，显著降低视觉令牌预算和推理延迟，同时保持竞争性性能。

OneComp: One-Line Revolution for Generative AI Model Compression

OneComp: 生成AI模型压缩的单行革命

Yuma Ichikawa, Keiji Kimura, Akihiro Yoshida, Yudai Fujimoto, Hiroki Tokura, Yamato Arai, Yoshiyuki Ishii, Yusei Kawakami, Genki Shikada, Achille Jacquemond, Yoshihiko Fujisawa, Katsuki Fujisawa, Takumi Honda, Akira Sakai

专题命中 效率与部署 ：foundation model(abstract)；post-training(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 OneComp通过自动化流程实现生成AI模型压缩，结合混合精度分配和逐步量化阶段，提升模型部署效率与性能。

Comments 31 pages, 6 figures

ResAdapt: Adaptive Resolution for Efficient Multimodal Reasoning

ResAdapt：面向高效多模态推理的自适应分辨率

Huanxuan Liao, Zhongtao Jiang, Yupu Hao, Yuqiao Tan, Shizhu He, Ben Wang, Jun Zhao, Kun Xu, Kang Liu

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 ResAdapt通过自适应输入分辨率框架，在保持高空间分辨率的同时提升多模态推理效率，尤其在压缩条件下显著提升性能。

Comments work in progress

ProxyAttn: Guided Sparse Attention via Representative Heads

ProxyAttn: 通过代表性头实现引导稀疏注意力

Yixuan Wang, Huang He, Siqi Bao, Hua Wu, Haifeng Wang, Qingfu Zhu, Wanxiang Che

机构 * Harbin Institute of Technology（哈尔滨工业大学） ； Baidu Inc.（百度公司） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出ProxyAttn，一种无需训练的稀疏注意力算法，通过压缩注意力头维度实现更精确的块估计，结合代表性头得分和多头动态预算，提升长文本任务的效率和性能。

Comments ICLR 2026 camera ready

Software Vulnerability Detection Using a Lightweight Graph Neural Network

利用轻量级图神经网络进行软件漏洞检测

Miles Farmer, Ekincan Ufuktepe, Anne Watson, Hialo Muniz Carvalho, Vadim Okun, Zineb Maasaoui, Kannappan Palaniappan

机构 * University of Missouri（密苏里大学） ； National Institute of Standards and Technology（美国国家标准与技术研究院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出VulGNN，一种基于图神经网络的轻量级模型，在漏洞检测中性能接近大语言模型，且更小、更快，适用于边缘部署。

Comments 12 pages, 3 figures, preprint of journal submission

Streaming 4D Visual Geometry Transformer

流式4D视觉几何变换器

Dong Zhuo, Wenzhao Zheng, Jiahe Guo, Yuqi Wu, Jie Zhou, Jiwen Lu

机构 * Tsinghua University（清华大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种流式视觉几何变换器，通过因果变换器架构实现低延迟的4D视觉几何重建，结合知识蒸馏和高效注意力机制，提升在线场景下的推理速度与重建质量。

Comments Code is available at: https://github.com/wzzheng/StreamVGGT

SISA: A Scale-In Systolic Array for GEMM Acceleration

SISA：一种可扩展的流体阵列用于GEMM加速

Luigi Altamura, Alessio Cicero, Mateo Vázquez Maceiras, Mohammad Ali Maleki, Pedro Trancoso

机构 * Department of Computer Science ； Engineering,\ University of Technology 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对LLM中非均匀矩阵带来的Systolic Array资源浪费问题，SISA通过将传统正方形阵列划分为水平矩形片，实现小/倾斜矩阵的高效执行，同时保留大GEMM的全阵操作，从而在代表LLM上实现8.52倍的速度提升和93%的EDP降低。

TeamMedAgents: Pareto-Efficient Multi-Agent Medical Reasoning Through Teamwork Theory

TeamMedAgents: 通过团队理论实现帕累托高效多智能体医疗推理

Pranav Pushkar Mishra, Mohammad Arvan, Mohan Zalake

机构 * University of Illinois Chicago（伊利诺伊大学芝加哥分校） 纠错

专题命中 效率与部署 ：language model(abstract)；small language model(abstract)；分类 cs.AI

AI总结 TeamMedAgents基于团队理论构建模块化多智能体框架，通过共享心理模型、团队领导、团队导向等机制，提升医疗推理效率，实现帕累托效率前沿提升，并在低token成本下取得竞争性准确率。

Comments 19 pages, 6 figure, 12 tables, 2 algorithm

ReDiPrune: Relevance-Diversity Pre-Projection Token Pruning for Efficient Multimodal LLMs

ReDiPrune：基于相关性与多样性的预投影令牌剪枝用于高效的多模态大语言模型

An Yu, Ting Yu Tsai, Zhenfei Zhang, Weiheng Lu, Felix X. -F. Ye, Ming-Ching Chang

机构 * University at Albany, SUNY（纽约州立大学奥尔巴尼分校） ； Peking University（北京大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 ReDiPrune是一种无需训练的预投影令牌剪枝方法，通过选择信息丰富的视觉令牌提升多模态大语言模型的效率与准确性。

SecAgent: Efficient Mobile GUI Agent with Semantic Context

SecAgent：基于语义上下文的高效移动GUI代理

Yiping Xie, Song Chen, Jingxuan Xing, Wei Jiang, Zekun Zhu, Yingyao Wang, Pi Bu, Jun Song, Yuning Jiang, Bo Zheng

机构 * Taobao & Tmall Group of Alibaba（阿里巴巴淘天集团） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 SecAgent通过构建中文移动GUI数据集和语义上下文机制，提升移动GUI代理的效率与性能，实现高效任务处理与多语言支持。

KD-GAT: Combining Knowledge Distillation and Graph Attention Transformer for a Controller Area Network Intrusion Detection System

KD-GAT：结合知识蒸馏和图注意力变换器的控制器局域网络入侵检测系统

Robert Frenken, Sidra Ghayour Bhatti, Hanqin Zhang, Qadeer Ahmed

机构 * The Ohio State University（俄亥俄州立大学） 纠错

专题命中 效率与部署 ：pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出KD-GAT框架，结合图注意力网络与知识蒸馏提升CAN入侵检测精度并降低计算复杂度，实验表明学生模型在Car-Hacking和Car-Survival数据集上准确率高达99.97%和99.31%。