语言大模型 / LLM

Plan and Budget: Effective and Efficient Test-Time Scaling on Reasoning Large Language Models

计划与预算：在推理大语言模型中实现有效且高效的测试时扩展

Junhong Lin, Xinyue Zeng, Jie Zhu, Song Wang, Julian Shun, Jun Wu, Dawei Zhou

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 Plan-and-Budget通过分解复杂查询并动态分配token预算，提升大语言模型在推理任务中的效率与准确性。

Comments This work has been accepted to the ICLR 2026 (International Conference on Learning Representations)

Gender Bias in Emotion Recognition by Large Language Models

大语言模型在情绪认知中的性别偏见

Maureen Herbert, Katie Sun, Angelica Lim, Yasaman Etesam

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本研究探讨了大语言模型在情绪认知任务中的性别偏见问题，并提出基于训练的干预方法以减少偏见。

Comments Accepted at AAAI 2026 Workshop (WS37)

Distribution-Aware Companding Quantization of Large Language Models

面向分布的扩增量化：大型语言模型

Athul Radhakrishnan, Siddhant Mohan, Mahima Sachdeva

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本研究提出一种多标记预测方法，通过提升样本效率和推理速度，显著提高大型语言模型在编码等生成任务中的性能。

Addition is almost all you need: Compressing large language models with double binary factorization

加法几乎就够了：通过双重二进制分解压缩大语言模型

Vladimír Boža, Vladimír Macko

机构 * Faculty of Mathematics, Physics and Informatics（数学、物理与信息学系） ； Comenius University（科尼乌斯大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 本文提出双重二进制分解方法，通过分解权重矩阵为二进制矩阵乘积，实现高效压缩大语言模型，同时保持较高的精度和压缩率。

RCPU: Rotation-Constrained Error Compensation for Structured Pruning of Large Language Models

RCPU: 结构化剪枝中旋转约束的误差补偿

Shuichiro Haruta, Kazunori Matsumoto, Zhi Li, Yanan Wang, Mori Kurokawa

机构 * AI Division, KDDI Research, Inc.（KDDI研究公司人工智能部门） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出RCPU方法，通过旋转约束更新和方差感知评分，有效补偿结构化剪枝中的误差，提升LLM的性能。

Comments Accepted as ICLR2026

Not All Attention is Needed: Parameter and Computation Efficient Transfer Learning for Multi-modal Large Language Models

并非所有注意力都是必需的：面向多模态大语言模型的参数和计算高效迁移学习

Qiong Wu, Weihao Ye, Yiyi Zhou, Xiaoshuai Sun, Rongrong Ji

机构 * Key Laboratory of Multimedia Trusted Perception and Efficient Computing, Ministry of Education of China（教育部多媒体可信感知与高效计算重点实验室） ； Institute of Artificial Intelligence, Xiamen University（厦门大学人工智能研究院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出高效注意力跳过方法，通过减少冗余注意力计算提升多模态大语言模型的推理效率与性能。

MoDES: Accelerating Mixture-of-Experts Multimodal Large Language Models via Dynamic Expert Skipping

通过动态专家跳过加速混合专家多模态大语言模型

Yushi Huang, Zining Wang, Zhihang Yuan, Yifu Ding, Ruihao Gong, Jinyang Guo, Xianglong Liu, Jun Zhang

机构 * Hong Kong University of Science and Technology（香港科技大学） ； Beihang University（北航） ； Peking University（北京大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 MoDES通过动态专家跳过机制提升多模态大语言模型的推理效率和准确性。

Comments Accepted by CVPR 2026

BitHydra: Towards Bit-flip Inference Cost Attack against Large Language Models

BitHydra: 面向大语言模型的位翻转推理成本攻击

Xiaobei Yan, Yiming Li, Hao Wang, Han Qiu, Tianwei Zhang

机构 * Nanyang Technological University（南洋理工大学） ； Tsinghua University（清华大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 BitHydra通过位翻转攻击针对大语言模型的推理成本进行攻击，利用ADMM方法高效实现无限生成。

Retrospective In-Context Learning for Temporal Credit Assignment with Large Language Models

回顾上下文学习用于大语言模型中的时间信用分配

Wen-Tse Chen, Jiayu Chen, Fahim Tajwar, Hao Zhu, Xintong Duan, Ruslan Salakhutdinov, Jeff Schneider

机构 * Carnegie Mellon University（卡内基梅隆大学） ； The University of Hong Kong（香港大学） ； Stanford University（斯坦福大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 本文提出利用大语言模型进行回顾上下文学习，以提高强化学习中时间信用分配的样本效率和泛化能力。

Comments Accepted to NeurIPS 2025

Query as Anchor: Scenario-Adaptive User Representation via Large Language Model

查询作为锚点：通过大语言模型实现场景自适应的用户表示

Jiahao Yuan, Yike Xu, Jinyong Wen, Baokun Wang, Ziyi Gao, Xiaotong Lin, Yun Liu, Xing Fu, Yu Cheng, Yongchao Liu, Weiqiang Wang, Zhongle Xie

机构 * Ant Group（蚂蚁集团） ； East China Normal University（东华大学） ； Zhejiang University（浙江大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 通过Query-as-Anchor框架，利用大语言模型实现动态查询感知的用户表示，提升工业级用户建模的场景适应性和性能表现。

Comments 15 pages, 12 figures

SAFER: Risk-Constrained Sample-then-Filter in Large Language Models

SAFER：在大语言模型中基于风险的采样-过滤方法

Qingni Wang, Yue Fan, Xin Eric Wang

机构 * University of California, Santa Cruz（加州大学圣克鲁兹分校） ； University of California, Santa Barbara（加州大学圣巴巴拉分校） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 SAFER通过两阶段风险控制框架，在大语言模型中实现风险约束的采样与过滤，提升输出可信度与数据效率。

AISA: Awakening Intrinsic Safety Awareness in Large Language Models against Jailbreak Attacks

AISA: 在大型语言模型中唤醒对抗劫持攻击的内在安全性意识

Weiming Song, Xuan Xie, Ruiping Yin

机构 * Beijing University of Technology（北京理工大学） ； Macau University of Science and Technology（澳门科技大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 AISA通过激活模型内在安全机制，提供一种轻量级、单次通过的防御方法，有效提升大型语言模型对抗劫持攻击的鲁棒性与安全性。

TriGen: NPU Architecture for End-to-End Acceleration of Large Language Models based on SW-HW Co-Design

TriGen：基于软硬件协同设计的NPU架构，用于大型语言模型的端到端加速

Jonghun Lee, Junghoon Lee, Hyeonjin Kim, Seoho Jeon, Jisup Yoon, Hyunbin Park, Meejeong Park, Heonjae Ha

机构 * Gachon University（高丽大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 TriGen通过软硬件协同设计，提出了一种针对资源受限环境的NPU架构，实现大型语言模型的端到端加速，平均性能提升2.73倍，内存传输减少52%。

Comments 13 pages, 14 figures

$\mathcal{X}$-KD: General Experiential Knowledge Distillation for Large Language Models

$\mathcal{X}$-KD：用于大型语言模型的通用经验知识蒸馏

Yuang Cai, Yuyu Yuan

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出$\mathcal{X}$-KD，通过模拟教师的原始学习环境，提升大型语言模型的蒸馏效果，优于现有基线方法。

PlanetServe: A Decentralized, Scalable, and Privacy-Preserving Overlay for Democratizing Large Language Model Serving

PlanetServe: 一种去中心化、可扩展且隐私保护的叠加层，用于民主化大语言模型服务

Fei Fang, Yifan Hua, Shengze Wang, Ruilin Zhou, Yi Liu, Chen Qian, Xiaoxue Zhang

机构 * University of California, Santa Cruz（加州大学圣克鲁兹分校） ； University of Nevada, Reno（内华达大学拉森） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(title)；LLM(abstract)；分类 cs.AI

AI总结 PlanetServe通过去中心化叠加层提升大语言模型服务的可扩展性和隐私保护，实现服务效率与安全性的平衡。

On the Use of a Large Language Model to Support the Conduction of a Systematic Mapping Study: A Brief Report from a Practitioner's View

在系统映射研究中使用大型语言模型以支持其开展：一名实践者视角的简要报告

Cauã Ferreira Barros, Marcos Kalinowski, Mohamad Kassab, Valdemar Vicente Graciano Neto

机构 * Federal University of Goiás\ Institute Goiânia Goiás Brazil ； Pontifical Catholic University of Rio de Janeiro\ of Informatics Rio de Janeiro Rio de Janeiro Brazil ； Boston University\ of Computer Science Boston Massachusetts USA ； Federal University of Goiás\ Institute ； Pontifical Catholic University of Rio de Janeiro\ of Informatics ； Boston University\ of Computer Science 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文从实践者视角报告了使用大型语言模型开展系统映射研究的经验，讨论了其在时间节省和数据标准化方面的优势，以及构建提示、幻觉和手动验证等挑战。

Comments 6 pages, includes 2 tables. Submitted and Accepted to the WSESE 2026 ICSE Workshop

HiFo-Prompt: Prompting with Hindsight and Foresight for LLM-based Automatic Heuristic Design

HiFo-Prompt: 基于前瞻性与回顾性的提示方法用于基于大语言模型的自动启发式设计

Chentong Chen, Mengyuan Zhong, Ye Fan, Jialong Shi, Jianyong Sun

机构 * School of Mathematics and Statistics, Xi’an Jiaotong University, Xi’an, China（西安交通大学数学与统计学院） ； School of Electronics and Information, Northwest Polytechnical University, Xi’an, China（西北工业大学电子与信息学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；prompting(title,abstract)；分类 cs.AI

AI总结 HiFo-Prompt通过前瞻性与回顾性提示策略，提升基于大语言模型的自动启发式设计效率与质量。

Comments Accepted at ICLR 2026

Next-generation cyberattack detection with large language models: anomaly analysis across heterogeneous logs

下一代基于大语言模型的网络攻击检测：跨异构日志的异常分析

Yassine Chagna, Antal Goldschmidt

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本研究提出基于大语言模型的下一代网络攻击检测方法，通过构建异构日志数据集和两阶段训练框架，实现高效准确的异常检测。

Fast-Slow Efficient Training for Multimodal Large Language Models via Visual Token Pruning

通过视觉标记修剪实现多模态大语言模型的快慢高效训练

Dingkun Zhang, Shuhan Qi, Yulin Wu, Xinyu Xiao, Xuan Wang, Long Chen

机构 * Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） ； Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 DualSpeed通过快慢双模式实现多模态大语言模型的高效训练，提升训练速度并保持性能

Zero-shot large vision-language model prompting for automated bone identification in paleoradiology x-ray archives

零样本大视觉语言模型提示法用于古放射学x光档案中骨骼自动识别

Owen Dong, Lily Gao, Manish Kota, Bennett A. Landmana, Jelena Bekvalac, Gaynor Western, Katherine D. Van Schaik

专题命中 效率与部署 ：language model(title,abstract)；prompting(title,abstract)；分类 cs.AI

AI总结 利用大视觉语言模型实现古放射学x光图像中骨骼自动识别，提升内容导航效率。

Augmenting Parameter-Efficient Pre-trained Language Models with Large Language Models

通过大语言模型增强参数高效预训练语言模型

Saurabh Anand, Shubham Malaviya, Manish Shukla, Sachin Lodha

机构 * TCS Research（TCS研究） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 本文提出通过大语言模型增强参数高效预训练语言模型，以提高网络安全领域模型的可靠性与鲁棒性。

Comments 22 pages, 9 figures, 11 tables, short paper was accepted in ACM SAC 2024

Data Distribution Matters: A Data-Centric Perspective on Context Compression for Large Language Model

数据分布至关重要：一种以数据为中心的视角来探讨大型语言模型中的上下文压缩

Kangtao Lv, Jiwei Tang, Langming Liu, Haibin Chen, Weidong Zhang, Shilei Liu, Yongwei Wang, Yujin Yuan, Wenbo Su, Bo Zheng

机构 * Future Living Lab of Alibaba（阿里巴巴未来生活实验室） ； Tsinghua University（清华大学） ； Zhejiang University（浙江大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文从数据分布角度探讨了大型语言模型中的上下文压缩问题，发现输入熵与压缩质量负相关，而内在数据差距影响压缩增益，提出优化压缩的实用指南。

Comments 15 pages,6 figures

Reliability-Aware Determinantal Point Processes for Robust Informative Data Selection in Large Language Models

可靠性感知的行列式点过程用于大型语言模型中鲁棒的信息数据选择

Ahmad Sarlak, Abolfazl Razi

机构 * Clemson University, Clemson, SC, USA（克林姆恩大学） ； School of Computing, Clemson University, Clemson, SC, USA（计算学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 本文提出ProbDPP，一种可靠性感知的行列式点过程，用于在不确定环境下实现鲁棒的信息数据选择，以提高大型语言模型的部署效率。

Low-Rank Tensor Approximation of Weights in Large Language Models via Cosine Lanczos Bidiagonalization

通过余弦兰舍兹双线性化实现大语言模型权重的低秩张量近似

A. El Ichi, K. Jbilou

机构 * Université du Littoral Cote d’Opale（卢瓦尔海岸大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 本文提出通过余弦兰舍兹双线性化对大语言模型权重进行低秩张量近似，以提高计算效率和减少内存占用。

AuroraEdge-V-2B: A Faster And Stronger Edge Visual Large Language Model

AuroraEdge-V-2B: 一种更快更强大的边缘视觉大语言模型

Xiang Chen

机构 * Independent Researcher（独立研究者） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 AuroraEdge-V-2B是一种为边缘部署设计的高性能视觉大语言模型，具有紧凑参数、高速推理和强大性能的特点。

Efficient Multimodal Large Language Models: A Survey

高效多模态大语言模型：综述

Yizhang Jin, Jian Li, Yexin Liu, Tianjun Gu, Kai Wu, Zhengkai Jiang, Muyang He, Bo Zhao, Xin Tan, Zhenye Gan, Yabiao Wang, Chengjie Wang, Lizhuang Ma

机构 * Youtu Lab, Tencent（腾讯优图实验室） ； SJTU（上海交通大学） ； BAAI（北京人工智能研究院） ； ECNU（华东师范大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文综述了高效多模态大语言模型的发展现状，探讨了其高效结构、策略及应用，并展望了未来研究方向。

Comments Accepted by Visual Intelligence

Journal ref Visual Intelligence, Volume 3, article number 27, (2025)

FastAV: Efficient Token Pruning for Audio-Visual Large Language Model Inference

FastAV: 面向音频视觉大语言模型推理的高效令牌修剪

Chaeyoung Jung, Youngjoon Jang, Seungwoo Lee, Joon Son Chung

机构 * Korea Advanced Institute of Science and Technology（韩国科学技术院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 FastAV通过两阶段令牌修剪策略，针对音频视觉大语言模型实现高效推理，减少FLOPs超过40%并保持性能

Quartet: Native FP4 Training Can Be Optimal for Large Language Models

Quartet：原生FP4训练可用于大型语言模型

Roberto L. Castro, Andrei Panferov, Soroush Tabesh, Oliver Sieberling, Jiale Chen, Mahdi Nikdan, Saleh Ashkboos, Dan Alistarh

机构 * ISTA ； Red Hat AI（红帽人工智能） ； ETH Zürich（苏黎世联邦理工学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 Quartet通过原生FP4训练实现大型语言模型的高效训练，提供与FP16和FP8同等的性能。

An AI-Driven Thermal-Fluid Testbed for Advanced Small Modular Reactors: Integration of Digital Twin and Large Language Models

面向先进小型模块化反应堆的AI驱动热-流体测试平台：数字孪生与大语言模型的集成

Doyeong Lim, Yang Liu, Zavier Ndum Ndum, Christian Young, Yassin Hassan

机构 * organization= Department of Nuclear Engineering, Texas A\&M University , city= College Station , postcode= 77843 , state= TX , country= USA 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文提出一个结合数字孪生与大语言模型的AI驱动热-流体测试平台，用于加速小型模块化反应堆的创新与部署。

Journal ref AI Thermal Fluids, 100023 (2025)

MI-PRUN: Optimize Large Language Model Pruning via Mutual Information

MI-PRUN：通过互信息优化大语言模型剪枝

Hao Zhang, Zhibin Zhang, Guangxin Wu, He Chen, Jiafeng Guo, Xueqi Cheng

机构 * Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） ； University of Chinese Academy of Sciences（中国科学院大学） ； School of Advanced Interdisciplinary Sciences, University of Chinese Academy of Sciences（中国科学院大学先进交叉学科学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 MI-PRUN通过互信息方法优化大语言模型剪枝，利用隐藏状态转换识别冗余块，并结合数据处理不等式提升剪枝效率和稳定性。

Comments 10 pages