语言大模型 / LLM

AgentCompress: Task-Aware Compression for Affordable Large Language Model Agents

AgentCompress: 任务感知压缩以实现经济高效的大型语言模型代理

Zuhair Ahmed Khan Taha, Mohammed Mudassir Uddin, Shahnawaz Alam

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 AgentCompress通过任务感知动态压缩技术，显著降低大型语言模型的计算成本，同时保持高成功率。

Speak While Watching: Unleashing TRUE Real-Time Video Understanding Capability of Multimodal Large Language Models

边看边说：解锁多模态大语言模型的实时视频理解能力

Junyan Lin, Junlong Tong, Hao Wu, Jialiang Zhang, Jinming Liu, Xin Jin, Xiaoyu Shen

机构 * Department of Computing, The Hong Kong Polytechnic University（香港理工大学计算机系） ； Ningbo Key Laboratory of Spatial Intelligence and Digital Derivative, Institute of Digital Twin, EIT（宁波空间智能与数字衍生关键实验室，数字孪生研究院，EIT） ； Shanghai Jiao Tong University（上海交通大学） ； Ocean University of China（中国海洋大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出并行流式框架，通过三种设计解决多模态大语言模型在实时视频理解中的位置连续性约束问题，实现边看边说的实时交互。

Garbage Attention in Large Language Models: BOS Sink Heads and Sink-aware Pruning

大语言模型中的垃圾注意力：BOS下沉头和下沉感知剪枝

Jaewon Sok, Jewon Yeom, Seonghyeon Park, Jeongjae Park, Taesup Kim

机构 * Graduate School of Data Science, Seoul National University（数据科学研究生院，首尔国立大学） ； Department of Rural Systems Engineering, Seoul National University（农村系统工程系，首尔国立大学） ； Department of Aerospace Engineering, Seoul National University（航空航天工程系，首尔国立大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本研究提出通过BOS下沉分数识别并剪枝大语言模型中冗余的注意力头，以提升模型压缩效果。

Cross-Border Data Security and Privacy Risks in Large Language Models and IoT Systems

跨境数据安全与隐私风险在大语言模型和物联网系统中

Chalitha Handapangoda

机构 * Department of Computer Science and Engineering（计算机科学与工程系） ； NYU Tandon School of Engineering（纽约大学坦顿工程学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 本文提出一种主权意识的隐私由设计架构，通过动态整合本地加密、自适应差分隐私和实时合规性证明，有效降低跨境数据暴露风险并确保合规性。

Comments Final project for CS-GY 6813 at NYU Tandon School of Engineering

ELMM: Efficient Lightweight Multimodal Large Language Models for Multimodal Knowledge Graph Completion

ELMM: 为多模态知识图谱补全设计的高效轻量多模态大语言模型

Wei Huang, Peining Li, Meiyu Liang, Xu Hou, Junping Du, Yingxia Shao, Guanhua Ye, Wu Liu, Kangkang Lu, Yang Yu

机构 * School of Computer Science, Beijing University of Posts and Telecommunications（计算机学院，北京邮电大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 ELMM通过多视图视觉标记压缩和注意力修剪策略，高效解决多模态知识图谱补全中的模态冲突和计算成本问题，实现最先进的性能。

Comments 14 pages, 5 figures

Iterative Structured Pruning for Large Language Models with Multi-Domain Calibration

迭代式结构剪枝用于具有多领域校准的大语言模型

Guangxin Wu, Hao Zhang, Zhang Zhibin, Jiafeng Guo, Xueqi Cheng

机构 * Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） ； University of Chinese Academy of Sciences（中国科学院大学） ； School of Advanced Interdisciplinary Sciences, University of Chinese Academy of Sciences（中国科学院大学先进交叉学科学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出了一种迭代式结构剪枝方法，通过多领域校准集和迭代策略实现高效模型压缩，减少计算开销和内存占用，同时保持性能稳定。

Comments 10 pages

Power-of-Two Quantization-Aware-Training (PoT-QAT) in Large Language Models (LLMs)

功率为二的量化感知训练（PoT-QAT）在大语言模型（LLMs）中

Mahmoud Elgenedy

机构 * Department of Computer Science, Stanford University（计算机科学系，斯坦福大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本研究提出了一种基于功率为二量化的量化感知训练方法，通过减少内存占用和提升推理速度，显著提升了大语言模型的性能。

Emoji-Based Jailbreaking of Large Language Models

基于表情符号的大型语言模型劫持

M P V S Gopinadh, S Mahaboob Hussain

机构 * Vishnu Institute of Technology（维什努技术学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本研究通过测试基于表情符号的提示揭示了大型语言模型在安全对齐方面的漏洞，发现不同模型对表情符号攻击的响应存在显著差异，强调了在提示层面加强安全机制的重要性。

Comments 7 pages, 2 figures

Knowledge Distillation for Temporal Knowledge Graph Reasoning with Large Language Models

基于大语言模型的时序知识图谱推理知识蒸馏

Wang Xing, Wei Song, Siyu Lin, Chen Wu, Zhesi Li, Man Wang

机构 * School of Computer Science and Technology, Xidian University（西安电子科技大学计算机科学与技术学院） ； School of Computing and Artificial Intelligence, Southwest Jiaotong University（西南交通大学计算机与人工智能学院） ； School of Information Science and Engineering, Chongqing Jiaotong University（重庆交通大学信息科学与工程学院） ； School of Information Engineering, Chang’an University（长安大学信息工程学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出基于大语言模型的时序知识图谱推理蒸馏框架，通过有效转移结构和时间推理能力，提升学生模型的时效建模能力，实现高效部署。

TimeBill: Time-Budgeted Inference for Large Language Models

TimeBill: 为大语言模型设计的时间预算推理方法

Qi Fan, An Zou, Yehan Ma

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 TimeBill提出了一种时间预算推理框架，通过细粒度响应长度预测和执行时间估计，提升大语言模型在时间敏感任务中的效率和响应性能。

Comments Accepted to AAAI 2026

Prefix Probing: Lightweight Harmful Content Detection for Large Language Models

前缀探查：用于大型语言模型的轻量有害内容检测

Jirui Yang, Hengqi Guo, Zhihui Lu, Yi Zhao, Yuansen Zhang, Shijing Hu, Qiang Duan, Yinggui Wang, Tao Wei

机构 * Fudan University（复旦大学） ； Ant Group（蚂蚁集团） ； Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 Prefix Probing通过高效前缀探查实现轻量有害内容检测，在保持检测效果的同时大幅降低计算成本和部署需求。

Multiscale Aggregated Hierarchical Attention (MAHA): A Game Theoretic and Optimization Driven Approach to Efficient Contextual Modeling in Large Language Models

多尺度聚合层次注意力（MAHA）：一种基于博弈论和优化驱动的高效上下文建模方法，用于大型语言模型

Caner Erden

机构 * Sakarya University of Applied Sciences（萨卡里亚应用科技大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 MAHA通过层次化分解和数学优化方法，提升大型语言模型在长上下文任务中的计算效率与上下文建模能力。

LOOPRAG: Enhancing Loop Transformation Optimization with Retrieval-Augmented Large Language Models

LOOPRAG：通过检索增强的大语言模型增强循环变换优化

Yijie Zhi, Yayu Cao, Jianhua Dai, Xiaoyang Han, Jingwen Pu, Qingran Wu, Sheng Cheng, Ming Cai

机构 * Zhejiang University（浙江大学） ； Zhejiang Institute of Administration（浙江行政研究院） ； Beijing ShenZhou Aerospace Software Technology Ltd.（北京神舟航天软件技术有限公司） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 LOOPRAG通过检索增强大语言模型提升循环变换优化效率，实现代码生成的准确性和性能提升。

Comments Accepted to ASPLOS 2026

Is GPT-OSS All You Need? Benchmarking Large Language Models for Financial Intelligence and the Surprising Efficiency Paradox

GPT-OSS真的足够吗？对大型语言模型进行金融智能评估及令人惊讶的效率悖论

Ziqian Bi, Danyang Zhang, Junhao Song, Chiung-Yi Tseng

机构 * Purdue University（普渡大学） ； Independent Researcher（独立研究者） ； Imperial College London（帝国理工学院伦敦分校） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 本文评估了GPT-OSS在金融NLP任务中的表现，发现较小的模型在效率和性能上优于更大的竞争对手。

DART: Difficulty-Adaptive Reasoning Truncation for Efficient Large Language Models

DART: 为高效大语言模型的难度自适应推理截断

Ruofan Zhang, Bin Xia, Zhen Cheng, Cairen Jian, Minglun Yang, Ngai Wong, Yuan Cheng

机构 * School of Artificial Intelligence, Shanghai Jiao Tong University（上海交通大学人工智能学院） ； CSE Department, The Chinese University of Hong Kong（香港中文大学计算机科学与工程系） ； Research and Development Department, SIMMIR Tech（Simmir科技研发部） ； School of Information Science and Technology, Xiamen University Tan Kah Kee College（厦门大学信息科学与技术学院） ； The University of Hong Kong（香港大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 DART通过自适应调整推理长度提升大语言模型效率，实现81.2%的推理截断和5.33倍的计算加速。

RADAR: Accelerating Large Language Model Inference With RL-Based Dynamic Draft Trees

RADAR: 通过基于强化学习的动态草稿树加速大语言模型推理

Junjie Ma, Jinlong Li

机构 * School of Computer Science（计算机科学学院） ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 RADAR通过基于强化学习的动态草稿树方法，有效提升大语言模型推理速度，实现3.17至4.82倍的加速效果。

Comments 5 pages, 2 figures

Accelerating Large Language Model Inference via Early-Exiting Algorithms

通过早退算法加速大语言模型推理

Sangmin Bae

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本研究通过设计高效的并行解码机制和深度参数共享架构，结合预训练轻量级路由器，实现大语言模型推理的高效与性能平衡。

Comments PhD Dissertation

SEAL: Speech Embedding Alignment Learning for Speech Large Language Model with Retrieval-Augmented Generation

SEAL：用于带有检索增强生成的语音大语言模型的语音嵌入对齐学习

Chunyu Sun, Bingyu Liu, Zhichao Cui, Junhan Shi, Anbin Qi, Tian-hao Zhang, Dinghao Zhou, Lewei Lu

机构 * SenseTime Research（商汤科技研究院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 SEAL通过统一的语音和文本嵌入框架，提升语音大语言模型的检索效率与准确性，减少延迟并增强多模态检索能力。

KVNAND: Efficient On-Device Large Language Model Inference Using DRAM-Free In-Flash Computing

KVNAND：利用无DRAM闪存计算实现高效的设备端大语言模型推理

Lishuo Deng, Shaojie Xu, Jinwu Chen, Changwei Yan, Jiajie Wang, Zhe Jiang, Weiwei Shan

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 KVNAND通过无DRAM闪存计算实现高效设备端大语言模型推理，解决KV缓存存储问题，提升性能并减少资源消耗。

V-ITI: Mitigating Hallucinations in Multimodal Large Language Models via Visual Inference-Time Intervention

V-ITI: 通过视觉推理时间干预缓解多模态大语言模型中的幻觉

Nan Sun, Zhenyu Zhang, Xixun Lin, Kun Wang, Yanmin Shang, Naibin Gu, Shuohuan Wang, Yu Sun, Hua Wu, Haifeng Wang, Yanan Cao

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院） ； Baidu Inc.（百度公司） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 V-ITI通过视觉推理时间干预框架，有效缓解多模态大语言模型中的视觉相关幻觉问题，同时保持任务性能。

Strategic Innovation Management in the Age of Large Language Models Market Intelligence, Adaptive R&D, and Ethical Governance

大语言模型时代的战略创新管理：市场洞察、自适应研发与伦理治理

Raha Aghaei, Ali A. Kiaei, Mahnaz Boush, Mahan Rofoosheh, Mohammad Zavvar

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本研究探讨大语言模型如何通过自动化知识发现和跨学科整合，提升研发效率并加速创新进程，同时强调伦理治理的重要性。

Reproducibility Report: Test-Time Training on Nearest Neighbors for Large Language Models

可重复性报告：为大语言模型进行邻近邻居测试时训练

Boyang Zhou, Johan Lindqvist, Lindsey Li

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 通过测试时训练邻近邻居方法，提升大语言模型在多种领域上的性能，尤其在结构化数据集上表现显著。

Holographic Knowledge Manifolds: A Novel Pipeline for Continual Learning Without Catastrophic Forgetting in Large Language Models

全息知识流形：一种实现大语言模型持续学习中无灾难性遗忘的新型流程

Justin Arndt

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 全息知识流形通过分形量化等技术实现大语言模型持续学习中零灾难性遗忘，提升知识压缩效率并降低训练成本。

Comments This paper includes significant errors discovered post publication by the author

Response Attack: Exploiting Contextual Priming to Jailbreak Large Language Models

响应攻击：利用上下文优先级来劫持大语言模型

Ziqi Miao, Lijun Li, Yuan Xiong, Zhenhua Liu, Pengyu Zhu, Jing Shao

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Xi’an Jiaotong University（西安交通大学） ； Beijing University of Posts and Telecommunications（北京邮电大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 响应攻击通过利用对话中中间响应作为上下文优先级，有效劫持大语言模型生成违反政策的内容。

Comments 20 pages, 10 figures. Code and data available at https://github.com/Dtc7w3PQ/Response-Attack

The Rise of Parameter Specialization for Knowledge Storage in Large Language Models

大语言模型中用于知识存储的参数专业化趋势的兴起

Yihuai Hong, Yiran Zhao, Wei Tang, Yang Deng, Yu Rong, Wenxuan Zhang

机构 * Alibaba Group（阿里巴巴集团） ； New York University（纽约大学） ； National University of Singapore（新加坡国立大学） ； Singapore Management University（新加坡管理大学） ； Singapore University of Technology and Design（新加坡科技设计大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本研究分析了大语言模型中MLP参数的知识存储方式，发现参数专业化提高了知识利用效率，并通过实验验证了其重要性。

Comments Accepted in NeurIPS 2025

Q-MLLM: Vector Quantization for Robust Multimodal Large Language Model Security

Q-MLLM：向量量化用于鲁棒多模态大语言模型安全

Wei Zhao, Zhe Li, Yige Li, Jun Sun

机构 * Singapore Management University（新加坡管理大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 Q-MLLM通过两级向量量化提升多模态大语言模型的安全性，有效防御对抗性攻击并保持模型实用性。

Comments Accepted by NDSS 2026

Evaluating Multimodal Large Language Models with Daily Composite Tasks in Home Environments

在家庭环境中评估多模态大语言模型的日常复合任务

Zhenliang Zhang, Yuxi Wang, Hongzhao Xie, Shiyun Zhao, Mingyuan Liu, Yujie Lu, Xinyi He, Zhenku Cheng, Yujia Peng

机构 * State Key Laboratory of General Artificial Intelligence, Beijing Institute for General Artificial Intelligence（通用人工智能国家重点实验室、北京通用人工智能研究院） ； School of Psychological and Cognitive Sciences and Beijing Key Laboratory of Behavior and Mental Health, Key Laboratory of Machine Perception (Ministry of Education), Peking University（心理与认知科学学院及北京行为与心理健康重点实验室、机器感知重点实验室（教育部）） ； School of Intelligence Science and Technology, Peking University（智能科学与技术学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本研究在家庭环境中评估了多模态大语言模型在日常复合任务中的表现，发现其在物体理解、空间智能和社会活动领域存在显著差距，为具身MLLMs的发展提供了初步评估框架。

Bias in, Bias out: Annotation Bias in Multilingual Large Language Models

Xia Cui, Ziyi Huang, Naeemeh Adel

机构 * Manchester Metropolitan University（曼彻斯特 Metropolitan 大学） ； Hubei University（湖北大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

ProST: Progressive Sub-task Training for Pareto-Optimal Multi-agent Systems Using Small Language Models

Biddut Sarker Bijoy, Mohammad Saqib Hasan, Pegah Alipoormolabashi, Avirup Sil, Aruna Balasubramanian, Niranjan Balasubramanian

机构 * Stony Brook University（石溪大学） ； Oracle Applied Science（Oracle应用科学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；small language model(title)；large language model(abstract)；分类 cs.CL

Breaking the Gradient Barrier: Unveiling Large Language Models for Strategic Classification

Xinpeng Lv, Yunxin Mao, Haoxuan Li, Ke Liang, Jinxuan Yang, Wanrong Huang, Haoang Chi, Huan Chen, Long Lan, Yuanlong Chen, Wenjing Yang, Haotian Wang

机构 * College of Computer Science and Technology, National University of Defense Technology（国防科技大学计算机科学与技术学院） ； Center for Data Science, Peking University（北京大学数据科学中心） ； Faculty of Engineering, the University of Sydney（悉尼大学工程学院） ； Faculty of Computing, Harbin Institute of Technology（哈尔滨工业大学计算机学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

Comments Accepted by NeurIPS 2025