arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

共收录 22280 信号源:cs.CL, cs.AI, cs.LG

1. 效率与部署 22280 篇

2603.02686 2026-03-05 cs.IT math.IT 89%

Large Language Model Empowered CSI Feedback in Massive MIMO Systems

大语言模型赋能的海量MIMO系统中的CSI反馈

Jie Wu, Wei Xu, Le Liang, Xiaohu You, Mérouane Debbah

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文提出利用大语言模型进行CSI反馈,通过掩码标记预测和自信息策略提升压缩反馈的准确性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.02901 2026-03-04 cs.HC 89%

Speech recognition assisted by large language models to command software orally -- Application to an augmented and virtual reality web app for immersive molecular graphics

通过大型语言模型辅助的语音识别来控制软件——应用于增强和虚拟现实网页应用中的沉浸式分子图形

Fabio Cortes Rodriguez, Luciano Abriata

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 通过结合Chrome的语音识别和大型语言模型的函数调用方法,开发了一个语音控制网页应用,用于沉浸式分子图形。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.22158 2026-02-26 cs.DC 89%

LLMTailor: A Layer-wise Tailoring Tool for Efficient Checkpointing of Large Language Models

LLMTailor: 一种用于大型语言模型高效检查点存储的分层定制工具

Minqiu Sun, Xin Huang, Luanzheng Guo, Nathan R. Tallent, Kento Sato, Dong Dai

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 LLMTailor通过分层定制工具实现大型语言模型高效检查点存储,减少存储开销和检查点时间,同时保持模型质量。

Comments 9 pages, 3 figures, accepted at PDSW'25

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.21547 2026-02-26 cs.DB 89%

RAC: Relation-Aware Cache Replacement for Large Language Models

基于关系的大型语言模型缓存替换策略RAC

Yuchong Wu, Zihuan Xu, Wangze Ni, Peng Cheng, Lei Chen, Xuemin Lin, Heng Tao Shen, Kui Ren

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 RAC通过利用请求之间的语义关系,提出了一种高效的缓存替换策略,显著提升了缓存命中率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.20489 2026-02-25 cs.CE 89%

Application of Large Language Models for Container Throughput Forecasting: Incorporating Contextual Information in Port Logistics

大型语言模型在集装箱吞吐量预测中的应用:在港口物流中融入上下文信息

Minseop Kim, Jaeeun Kwon, Hanbyeol Park, Kikun Park, Taekhyun Park, Hyerim Bae

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本研究利用大型语言模型预测集装箱吞吐量,通过设计新的提示结构融入港口运营上下文信息,实验表明其优于现有方法,并探讨了LLM在港口物流中的应用约束与未来研究方向。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.16760 2026-02-20 cs.CR cs.DC 89%

Privacy-Aware Split Inference with Speculative Decoding for Large Language Models over Wide-Area Networks

面向宽域网络的隐私保护分割推断与推测解码

Michael Cunningham

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文提出一种隐私保护的大语言模型分割推断系统,通过非对称层分割和lookahead解码技术,在宽域网络上实现高吞吐量和隐私安全的LLM推断。

Comments 21 pages, 21 tables, no figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2501.09135 2026-02-20 cs.SE 89%

HAFix: History-Augmented Large Language Models for Bug Fixing

HAFix: 历史增强型大语言模型用于缺陷修复

Yu Shi, Abdul Ali Bangash, Emad Fallahzadeh, Bram Adams, Ahmed E. Hassan

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 HAFix通过整合历史启发式方法提升LLM在缺陷修复中的性能,实验表明其在缺陷修复率上显著优于基线方法。

Comments Accepted at Empirical Software Engineering (EMSE) 2026 Journal

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.01024 2026-02-17 cs.DC 89%

Low-Latency Federated Fine-Tuning for Large Language Models Over Wireless Networks

面向无线网络的低延迟联邦微调框架用于大语言模型

Zhiwen Pang, Kang Wei, Long Shi, Zhe Wang, Jun Li, Feng Shu

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文提出了一种联合客户端特定剪枝和带宽分配框架,以提高无线网络下大语言模型的微调效率,实验表明其在减少训练时间的同时降低了计算和通信开销。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.13266 2026-02-17 cs.DB cs.PF 89%

LoPace: A Lossless Optimized Prompt Accurate Compression Engine for Large Language Model Applications

LoPace:一种无损优化提示准确压缩引擎,用于大语言模型应用

Aman Ulla

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 LoPace通过三种压缩方法实现提示存储的高效无损压缩,平均节省72.2%空间,适用于大语言模型应用。

Comments 42 pages, 14 figures, 7 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.11470 2026-02-13 cs.CR 89%

Cachemir: Fully Homomorphic Encrypted Inference of Generative Large Language Model with KV Cache

Cachemir: 生成式大语言模型的全同态加密推理与KV缓存

Ye Yu, Yifan Zhou, Yi Chen, Pedro Soto, Wenjie Xiong, Meng Li

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 Cachemir通过整合KV缓存优化同态加密推理,实现高效生成式大语言模型推理。

Comments 16 pages, 10 figures, 6 tables. Under review

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.00891 2026-02-12 cs.CV 89%

Accelerating Streaming Video Large Language Models via Hierarchical Token Compression

通过分层令牌压缩加速流式视频大型语言模型

Yiyu Wang, Xuyang Liu, Xiyan Gui, Xinying Lin, Boxue Yang, Chenfei Liao, Tailai Chen, Linfeng Zhang

机构 * EPIC Lab, Shanghai Jiao Tong University(上海交通大学EPIC实验室) Sichuan University(四川大学) Huazhong University of Science and Technology(华中科技大学) Sun Yat-sen University(中山大学) Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 STC通过分层令牌压缩技术,显著降低流式视频大语言模型的处理延迟,同时保持高精度。

Comments Code is avaliable at \url{https://github.com/lern-to-write/STC}

详情

展开后加载摘要…

URL PDF HTML 收藏
2405.01466 2026-02-11 cs.SE 89%

A Systematic Literature Review on Large Language Models for Automated Program Repair

基于大型语言模型的自动程序修复系统文献综述

Quanjun Zhang, Chunrong Fang, Yang Xie, YuXiang Ma, Weisong Sun, Yun Yang, Zhenyu Chen

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文系统综述了2020-2025年间基于大型语言模型的自动程序修复技术,分析了其应用、挑战与未来方向。

Comments Accepted to ACM Transactions on Software Engineering and Methodology (TOSEM 2026)

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.08861 2026-02-10 cs.CV 89%

TiFRe: Text-guided Video Frame Reduction for Efficient Video Multi-modal Large Language Models

TiFRe: 基于文本的视频帧减少用于高效视频多模态大语言模型

Xiangtian Zheng, Zishuo Wang, Yuxin Peng

机构 * Wangxuan Institute of Computer Technology, Peking University(王轩计算机技术研究所,北京大学)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 TiFRe通过文本引导的帧采样和帧匹配机制,有效减少视频输入帧数,同时保留关键信息,提升视频多模态大语言模型的效率和性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.08024 2026-02-10 cs.CV cs.AI cs.CL cs.LG 89%

FlashVID: Efficient Video Large Language Models via Training-free Tree-based Spatiotemporal Token Merging

FlashVID: 通过无训练树状时空标记合并实现高效的视频大语言模型

Ziyang Fan, Keyu Chen, Ruilong Xing, Yulin Li, Li Jiang, Zhuotao Tian

机构 * Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳)) The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)) Shenzhen Loop Area Institute(深圳河套学院)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 FlashVID通过无训练的树状时空标记合并技术,在保留99.1%性能的情况下将视频帧输入提升10倍,实现高效视频大语言模型加速。

Comments Accepted by ICLR 2026 (Oral)

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.05452 2026-02-06 cs.DB 89%

DistillER: Knowledge Distillation in Entity Resolution with Large Language Models

DistillER: 基于大语言模型的实体解析中的知识蒸馏

Alexandros Zeakis, George Papadakis, Dimitrios Skoutas, Manolis Koubarakis

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 DistillER通过知识蒸馏方法,利用大语言模型和小型语言模型,提升实体解析的效率和效果。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.01870 2026-02-03 cs.RO 89%

BTGenBot-2: Efficient Behavior Tree Generation with Small Language Models

BTGenBot-2: 基于小语言模型的高效行为树生成

Riccardo Andrea Izzo, Gianluca Bardaro, Matteo Matteucci

机构 * Department of Electronics, Information, and Bioengineering(电子、信息与生物工程系)

专题命中 效率与部署 :language model(title,abstract);small language model(title,abstract);LLM(abstract)

AI总结 BTGenBot-2是一种基于小语言模型的高效行为树生成方法,通过开源模型实现零样本生成和快速推理,显著提升机器人任务规划效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.00983 2026-02-03 cs.CL cs.AI cs.LG 89%

DISPO: Enhancing Training Efficiency and Stability in Reinforcement Learning for Large Language Model Mathematical Reasoning

DISPO:提升大型语言模型数学推理中的训练效率和稳定性

Batuhan K. Karaman, Aditya Rawal, Suhaila Shakiah, Mohammad Ghavamzadeh, Mingyi Hong, Arijit Biswas, Ruida Zhou

机构 * Cornell University(康奈尔大学) Amazon AGI(亚马逊人工智能实验室)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 DISPO通过分离正确与错误响应的重要性采样权重裁剪,实现训练效率与稳定性的平衡,提升大型语言模型在数学推理任务中的性能。

Comments This work is accepted to the 29th International Conference on Artificial Intelligence and Statistics (AISTATS) 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.17855 2026-02-03 cs.DC stat.ML 89%

A Universal Load Balancing Principle and Its Application to Large Language Model Serving

一种通用的负载均衡原理及其在大语言模型服务中的应用

Zixi Chen, Tianci Bu, Chendong Song, Xin Lu, Yinyu Ye, Zijie Zhou

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文提出了一种适用于屏障同步系统的通用负载均衡原理,通过减少负载不均衡实现能源节约,应用于大语言模型服务中,实现了28%的能耗降低和性能提升。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.00426 2026-02-03 cs.LG cs.AI cs.CL eess.SP 89%

LLMs as High-Dimensional Nonlinear Autoregressive Models with Attention: Training, Alignment and Inference

基于注意力机制的高维非线性自回归模型:训练、对齐与推理

Vikram Krishnamurthy

机构 * Cornell University(康奈尔大学)

专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);pretraining(abstract)

AI总结 本文将LLMs表述为具有注意力依赖的高维非线性自回归模型,探讨了训练、对齐与推理的原理及方法。

Comments 27 pages, 12 figures. Mathematical survey framing LLMs as high-dimensional nonlinear autoregressive models with attention, covering training, alignment, and inference, with nanoGPT/nanochat-style code examples. Feedback welcome

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.22779 2026-02-02 eess.AS cs.SD 89%

Streaming Speech Recognition with Decoder-Only Large Language Models and Latency Optimization

流式语音识别与解码器-only大型语言模型及延迟优化

Genshun Wan, Wenhui Zhang, Jing-Xuan Zhang, Shifu Xiong, Jianqing Gao, Zhongfu Ye

机构 * University of Science and Technology of China(科学技术大学) iFLYTEK Research, iFLYTEK Co., Ltd.(iFLYTEK研究院,iFLYTEK有限公司) School of Artificial Intelligence and Computer Science(人工智能与计算机科学学院)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文提出了一种结合解码器-only大型语言模型和延迟优化的流式语音识别方法,通过动态分割语音嵌入和联合训练策略,提升了识别性能并降低了延迟。

Comments accepted to ICASSP 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21540 2026-01-30 cs.SI cs.MA eess.SP 89%

Opinion Consensus Formation Among Networked Large Language Models

网络化大语言模型中的意见共识形成

Iris Yazici, Mert Kayaalp, Stefan Taga, Ali H. Sayed

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 研究通过DeGroot模型分析网络化大语言模型的意见共识形成,发现共识依赖于讨论主题和内在偏见,而非初始条件,且收敛速度与图的特征值相关。

Comments Accepted at ICASSP 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.07253 2026-01-28 eess.AS cs.CV cs.SD 89%

Omni-AVSR: Towards Unified Multimodal Speech Recognition with Large Language Models

Omni-AVSR:迈向基于大语言模型的统一多模态语音识别

Umberto Cappellazzo, Xubo Liu, Pingchuan Ma, Stavros Petridis, Maja Pantic

机构 * Imperial College London, UK(伦敦帝国理工学院) University of Surrey, UK(萨里大学)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 Omni-AVSR通过统一多模态语音识别框架,结合高效多粒度训练与参数高效适应,实现跨任务协同,降低资源消耗并提升鲁棒性。

Comments Accepted to IEEE ICASSP 2026 (camera-ready version). Project website (code and model weights): https://umbertocappellazzo.github.io/Omni-AVSR/

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.17443 2026-01-27 cs.CL cs.AI cs.LG 89%

Clustering-driven Memory Compression for On-device Large Language Models

基于聚类的记忆压缩用于设备端大语言模型

Ondrej Bohdal, Pramit Saha, Umberto Michieli, Mete Ozay, Taha Ceritli

机构 * University of Oxford(牛津大学)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出一种基于聚类的记忆压缩方法,通过分组和合并相似记忆以提升设备端大语言模型的上下文效率和生成质量。

Comments Accepted at ICASSP 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.13260 2026-01-27 cs.CL cs.AI cs.LG 89%

Stop Taking Tokenizers for Granted: They Are Core Design Decisions in Large Language Models

不要轻视分词器:它们是大型语言模型中的核心设计决策

Sawsan Alqahtani, Mir Tafseer Nayeem, Md Tahmid Rahman Laskar, Tasnim Mohiuddin, M Saiful Bari

机构 * Princess Nourah Bint Abdulrahman University(普里丝琴·努拉·本·阿卜杜勒拉赫曼大学) Saudi Data & AI Authority (SDAIA)(沙特数据与人工智能管理局) University of Alberta(阿尔伯塔大学) Dialpad(Dialpad公司) York University(约克大学) Qatar Computing Research Institute(卡塔尔计算研究所) Amazon AGI(亚马逊人工智能研究所)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出将分词视为大型语言模型的核心设计决策,强调上下文感知框架和标准化评估的重要性,以提升语言技术的公平性、效率和适应性。

Comments Accepted to EACL 2026 (long, main). The first two authors contributed equally

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.14051 2026-01-21 cs.CL cs.AI cs.LG 89%

Kakugo: Distillation of Low-Resource Languages into Small Language Models

Kakugo:通过低资源语言名称训练通用小型语言模型的蒸馏方法

Peter Devine, Mardhiyah Sanni, Farid Adilazuarda, Julieta Gil Loizaga, Barry Haddow

机构 * School of Informatics, University of Edinburgh(信息学院,爱丁堡大学)

专题命中 效率与部署 :language model(title,abstract);small language model(title,abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 Kakugo通过仅使用语言名称作为输入,利用大型教师模型生成合成数据,有效训练小型语言模型以处理低资源语言,从而在多种NLP任务中提升性能,成本低于50美元每种语言。

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.24624 2026-01-21 cs.CR 89%

PRIVMARK: Private Large Language Models Watermarking with MPC

PRIVMARK: 基于MPC的私有大语言模型水印技术

Thomas Fargues, Ye Dong, Tianwei Zhang, Jin-Song Dong

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 PRIVMARK通过MPC技术实现大语言模型的隐私保护水印,无需暴露模型权重,有效抵御攻击并保持性能。

Comments 8 pages, 4 figures, under peer-review

Journal ref ICC 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2507.03160 2026-01-21 cs.SE 89%

Assessing Small Language Models for Code Generation: An Empirical Study with Benchmarks

评估小型语言模型用于代码生成:基于基准的实证研究

Md Mahade Hasan, Muhammad Waseem, Kai-Kristian Kemell, Jussi Rasku, Juha Ala-Rantala, Pekka Abrahamsson

专题命中 效率与部署 :language model(title,abstract);small language model(title,abstract);large language model(abstract)

AI总结 本研究评估了多种小型语言模型在代码生成中的性能,发现紧凑模型在效率与性能间取得平衡,但进一步提升需转向更大模型。

Comments 17 pages, 10 Tables, 57 figures. Includes benchmarks and multilingual evaluation. Submitted to the Journal of Systems and Software

详情

展开后加载摘要…

URL PDF HTML 收藏
2503.22315 2026-01-14 cs.CY 89%

Large Language Models Are Democracy Coders with Attitudes

大型语言模型是带有偏见的民主编码器

Nils B. Weidmann, Mats Faulborn, David García

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文利用大型语言模型对民主指标进行编码,发现其在某些情况下存在偏见,但结合两种模型可缓解问题,但仍难以完全替代人类编码者。

Journal ref APSC 59 (2026) 17-23

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.00882 2026-01-06 cs.PL 89%

BALI: Branch-Aware Loop Invariant Inference with Large Language Models

BALI: 基于分支的循环不变式推断与大语言模型

Mingxiu Wang, Jiawei Wang, Xiao Cheng

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 BALI通过结合大语言模型和分支感知分析,提升循环不变式的推断和验证精度,实现更高效和自动化的不变式发现。

Comments 4 pages, 1 figure, AAAI-26 Bridge Program B10: Making Embodied AI Reliable with Testing and Formal Verification

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.00282 2026-01-05 cs.CL cs.AI cs.LG 89%

Can Large Language Models Still Explain Themselves? Investigating the Impact of Quantization on Self-Explanations

大语言模型还能自我解释吗?探讨量化对自我解释的影响

Qianli Wang, Nils Feldhus, Pepa Atanasova, Fedor Splitt, Simon Ostermann, Sebastian Möller, Vera Schmitt

机构 * Quality and Usability Lab, Technische Universität Berlin(柏林技术大学质量与可用性实验室) University of Copenhagen(哥本哈根大学) Saarland Informatics Campus(萨尔州信息学校园) German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心) Centre for European Research in Trusted AI (CERTAIN)(可信AI欧洲研究中心) BIFOLD – Berlin Institute for the Foundations of Learning and Data(柏林学习与数据基础研究院)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 研究探讨量化对大语言模型自我解释质量及可信度的影响,发现量化会导致中等程度的下降,但不影响其作为压缩技术的有效性。

Comments In submission

详情

展开后加载摘要…

URL PDF HTML 收藏