arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

共收录 22280 信号源:cs.CL, cs.AI, cs.LG

1. 效率与部署 22280 篇

2509.03117 2026-05-25 cs.CR 89%

PromptCOS: Towards Content-only System Prompt Copyright Auditing for LLMs

PromptCOS: 面向LLM的仅内容系统提示版权审计

Yuchen Yang, Yiming Li, Hongwei Yao, Enhao Huang, Shuo Shao, Yuyi Wang, Zhibo Wang, Dacheng Tao, Zhan Qin

专题命中 效率与部署 :LLM(title_cn,summary_cn);large language model(abstract);language model(abstract)

AI总结 针对系统提示版权审计中内容级验证不稳定的问题,提出基于内容输出相似性的PromptCOS方法,通过循环输出信号和辅助令牌实现水印稳定性与保真度,实验表明高效且鲁棒。

Comments This paper is accepted by IEEE S&P 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.19247 2026-05-20 cs.CV 89%

Structuring Open-Ended NAS: Semi-Automated Design Knowledge Structuring with LLMs for Efficient Neural Architecture Search

结构化开放端NAS:利用LLM进行半自动设计知识结构化以实现高效的神经架构搜索

Yuiko Sakuma, Masakazu Yoshimura, Marcel Gröpl, Zitang Sun, Junji Otsuka, Atsushi Irie, Takeshi Ohashi

机构 * Sony Group Corporation(索尼集团公司) ETH Zurich(苏黎世联邦理工学院)

专题命中 效率与部署 :LLM(title_cn,summary_cn);large language model(abstract);language model(abstract)

AI总结 本文提出一种半自动方法,利用LLM结构化模型设计知识,以指导神经架构搜索过程,通过定义高层结构模板和引入FairNAD算法,实现了高效的开放端搜索空间探索,提升了在多个数据集上的性能。

Comments 42 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2410.15362 2026-05-20 cs.LG cs.AI cs.CL cs.CR 89%

Faster-GCG: Efficient Discrete Optimization Jailbreak Attacks against Aligned Large Language Models

Faster-GCG: 面向对齐大语言模型的高效离散优化监狱突破攻击

Xiao Li, Wei Zhang, Zhuhong Li, Qiongxiu Li, Shei PernChua, BingZe Lee, Jinghao Cui, Yifan Huang, Xiaolin Hu

机构 * Tsinghua University(清华大学) Sea-Fill Duke University(杜克大学) Aalborg University(奥胡斯大学) Chinese Institute for Brain Research (CIBR)(中国脑科学研究院)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出Faster-GCG,通过改进估计、高效采样和避免重复评估,提高了对齐大语言模型的监狱突破攻击效率,实现了样本效率提升8倍,时间减少7倍,并在多个模型上取得了更高的突破成功率。

Comments 18 pages, new version

详情

展开后加载摘要…

URL PDF HTML 收藏
2508.14302 2026-05-14 cs.LG cs.AI cs.CL 89%

GLASS: Global-Local Aggregation for Inference-time Sparsification of LLMs

GLASS:用于LLM推理时稀疏化的全局-局部聚合

Amirmohsen Sattarifard, Sepehr Lavasani, Kunlin Zhang, Amirhossein Rajabpour, Hanlin Xu, Fengyu Sun, Negar Hassanpour, Chao Gao

机构 * Huawei Technologies Canada Co., Ltd.(华为技术加拿大公司) Huawei Technologies Ltd.(华为技术有限公司)

专题命中 效率与部署 :LLM(title_cn,summary_cn);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 GLASS通过融合全局和局部信号提升LLM推理时的稀疏化效果,尤其在短提示和长生成场景中表现优异,显著降低困惑度和KL散度,同时加快设备解码速度。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.06423 2026-05-08 cs.CR 89%

Pop Quiz Attack: Black-box Membership Inference Attacks Against Large Language Models

Pop Quiz Attack:针对大语言模型的黑盒成员推断攻击

Zeyuan Chen, Yihan Ma, Xinyue Shen, Michael Backes, Yang Zhang

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract_cn)

AI总结 本文提出PopQuiz攻击,通过将目标数据转化为选择题来推断大语言模型是否能回忆特定训练数据,平均ROC-AUC达0.873,优于现有方法。

Comments 15 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.26951 2026-04-30 cs.CL cs.AI cs.LG 89%

Turning the TIDE: Cross-Architecture Distillation for Diffusion Large Language Models

将TIDE转向:用于扩散大语言模型的跨架构蒸馏

Gongbo Zhang, Wen Wang, Ye Tian, Li Yuan

机构 * Peking University(北京大学) Zhejiang University(浙江大学)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出TIDE框架,通过跨架构蒸馏提升扩散大语言模型性能,采用三个模块解决不同架构间的知识转移问题,在八个基准测试中平均提升1.53分,尤其在代码生成任务中表现突出。

Comments 15 pages, 3 figures. Code: https://github.com/PKU-YuanGroup/TIDE

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.26687 2026-04-30 cs.DC 89%

COPUS: Co-adaptive Parallelism and Batch Size Selection in Large Language Model Training

COPUS:大语言模型训练中的协同并行与批量大小选择

Akhmed Sakip, Erland Hilman Fuadi, Omar Sayedelahl, Zonghang Li, Jianshu She, Alham Fikri Aji, Steve Liu, Eric Xing, Qirong Ho

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 COPUS通过动态调整全局批量大小、并行策略和微批次大小,提升大语言模型训练效率,实验显示在不同配置下平均收敛时间缩短3.9%-8.0%,峰值提升达11.1%。

Comments 22 pages, 13 figures, 2 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.20796 2026-04-23 cs.CV 89%

LLaDA2.0-Uni: Unifying Multimodal Understanding and Generation with Diffusion Large Language Model

LLaDA2.0-Uni:通过扩散大语言模型统一多模态理解和生成

Inclusion AI, Tiwei Bie, Haoxing Chen, Tieyuan Chen, Zhenglin Cheng, Long Cui, Kai Gan, Zhicheng Huang, Zhenzhong Lan, Haoquan Li, Jianguo Li, Tao Lin, Qi Qin, Hongjun Wang, Xiaomei Wang, Haoyuan Wu, Yi Xin, Junbo Zhao

机构 * AGI Research Center, Inclusion AI(AGI研究中心,Inclusion AI)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);foundation model(abstract)

AI总结 LLaDA2.0-Uni结合全语义离散分词器、MoE-based dLLM和扩散解码器,实现多模态理解和生成,通过SigLIP-VQ离散化视觉输入,提升推理效率,支持交错生成与推理,展现强大的图像生成与编辑能力。

Comments LLaDA2.0-Uni Technical Report

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.17227 2026-04-21 cs.DC 89%

Cloud-native and Distributed Systems for Efficient and Scalable Large Language Models -- A Research Agenda

云原生与分布式系统用于高效可扩展的大语言模型——研究议程

Minxian Xu, Jingfeng Wu, Shengye Song, Satish Narayana Srirama, Bahman Javad, Rajiv Ranjan, Devki Nandan Jha, Sa Wang, Wenhong Tian, Huanle Xu, Li Li, Zizhao Mo, Shuo Ren, Thomas Kunz, Petar Kochovski, Vlado Stankovski, Kejiang Ye, Chengzhong Xu, Rajkumar Buyya

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文探讨云平台和分布式系统在支持大语言模型的可扩展性、效率和优化中的作用,分析部署复杂性及新兴趋势,提出未来研究方向。

Comments 45 pages, 5 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.04595 2026-04-21 cs.NE 89%

SpikingMamba: Towards Energy-Efficient Large Language Models via Knowledge Distillation from Mamba

SpikingMamba: 通过从Mamba知识蒸馏实现能量高效的大型语言模型

Yulong Huang, Jianxiong Tang, Chao Wang, Ziyi Wang, Jianguo Zhang, Zhichao Lu, Bojun Cheng, Luziwei Leng

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);pretraining(abstract)

AI总结 SpikingMamba通过知识蒸馏从Mamba模型中实现高效能的Spiking神经网络大型语言模型,结合SI-LIF神经元和SGC路径,在保持精度的同时显著降低能耗。

Journal ref Transactions on Machine Learning Research (01/2026)

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.15488 2026-04-20 cs.LG cs.AI cs.CL 89%

FineSteer: A Unified Framework for Fine-Grained Inference-Time Steering in Large Language Models

FineSteer: 一种用于大语言模型推理时细粒度引导的统一框架

Zixuan Weng, Jinghuai Zhang, Kunlin Cai, Ying Li, Peiran Wang, Yuan Tian

机构 * University of California, Los Angeles(加州大学洛杉矶分校)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出FineSteer框架,通过条件引导和细粒度向量合成两个阶段实现高效引导,保留模型效用并提升引导效果,实验显示其在安全性和真实性基准上表现优异。

Comments Accepted by ACL 2026 (Main)

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.00989 2026-04-15 cs.SE 89%

Sustainable Code Generation Using Large Language Models: A Systematic Literature Review

利用大语言模型实现可持续代码生成:系统文献综述

Sabiya Banu Masthan Ali, Oussema Kirmani, Aroosa Hameed, Syed Muhammad Danish, Gautam Srivastava

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文系统回顾了大语言模型生成代码的可持续性研究,分析了代码效率对环境影响,指出现有研究存在方法分散、缺乏统一评估框架的问题。

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.23970 2026-04-14 cs.DC cs.AR 89%

Cache Your Prompt When It's Green: Carbon-Aware Caching for Large Language Model Serving

在绿色时缓存提示:面向大型语言模型服务的碳感知缓存

Yuyang Tian, Desen Sun, Yi Ding, Sihang Liu

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文提出GreenCache框架,通过动态资源分配平衡碳排放与服务等级协议,实现在LLM服务中减少15.1%的碳排放,最高达25.3%。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.09017 2026-04-13 cs.NI 89%

Multimodal Large Language Model Enabled Robust Beamforming for HAP Downlink Communications

多模态大语言模型赋能的HAP下行链路鲁棒波束成形

Xiaoyu Xing, Peng Yang, Guoquan Tao, Dingyi Lu, Zehui Xiong, Xianbin Cao

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文提出基于多模态大语言模型的波束成形框架,通过飞行 telemetry 预测HAP姿态并实现鲁棒下行通信,提升用户服务比和总速率22.1%和12.5%。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.01400 2026-04-13 cs.CV 89%

Token Reduction via Local and Global Contexts Optimization for Efficient Video Large Language Models

通过局部和全局上下文优化实现高效视频大语言模型的token缩减

Jinlong Li, Liyuan Jiang, Haonan Zhang, Nicu Sebe

机构 * University of Trento(特伦托大学) Tsinghua University(清华大学) University of Electronic Science and Technology of China(电子科技大学)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文提出AOT方法,通过局部-全局最优传输优化视频大语言模型中的token,实现高效的token缩减,保持时间与视觉保真度。

Comments CVPR2026, Project webpage: https://tyroneli.github.io/AOT

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.03857 2026-04-07 cs.NI 89%

CCA Reimagined: An Exploratory Study of Large Language Models for Congestion Control

CCA Reimagined: 一种大型语言模型用于拥塞控制的探索性研究

Xiaoxuan Qin, Yufei Wang, Longfei Shangguan

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文通过模拟引导研究,系统探讨了大型语言模型驱动的拥塞控制可行性,提出更通用的LLM拥塞控制策略,实验表明LLM方案在动态网络条件下可降低延迟达50%,仅牺牲极小吞吐量。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.03414 2026-04-07 cs.CV 89%

KiToke: Kernel-based Interval-aware Token Compression for Video Large Language Models

KiToke:基于核的区间感知令牌压缩用于视频大语言模型

Haifeng Huang, Yang Li

机构 * Department of Computer Science, Iowa State University(爱荷华州立大学计算机科学系)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 KiToke通过全局核冗余度测量和区间感知令牌合并,有效压缩视频大语言模型的视觉令牌,提升效率并保持关键信息。

详情

展开后加载摘要…

URL PDF HTML 收藏
2504.00446 2026-04-07 cs.CR 89%

Exposing the Ghost in the Transformer: Abnormal Detection for Large Language Models via Hidden State Forensics

揭示Transformer中的幽灵:通过隐藏状态取证实现大语言模型的异常检测

Shide Zhou, Kailong Wang, Ling Shi, Haoyu Wang

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文提出通过隐藏状态取证检测大语言模型异常行为,实现实时高效的安全威胁识别,检测准确率超95%,计算开销极低。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.13307 2026-04-03 cs.NI 89%

Cooperative Edge Caching with Large Language Model in Wireless Networks

无线网络中基于大语言模型的协同边缘缓存

Ning Yang, Wentao Wang, Lingtao Ouyang, Haijun Zhang

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文提出基于大语言模型的集中式多基站缓存替换控制器,通过确定性文本到动作循环实现协同缓存替换,优于传统方法,在缓存容量、库大小、流行度偏斜和用户密度等方面表现出鲁棒性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.28576 2026-03-31 cs.CE 89%

Tiered Super-Moore's Law: Price Evolution, Production Frontiers, and Market Competition in Large Language Model Inference Services

分层超级摩尔定律:大型语言模型推理服务中的价格演变、生产前沿与市场竞争

Mingdeng Du

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文系统分析了大型语言模型推理市场中token定价,发现token价格下降约600倍,并提出分层超级摩尔假说,揭示软件和架构创新驱动价格下降,而非硬件进步。

Comments 23 pages, 12 figures, 6 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.24361 2026-03-26 cs.RO 89%

LATS: Large Language Model Assisted Teacher-Student Framework for Multi-Agent Reinforcement Learning in Traffic Signal Control

LATS:基于多智能体强化学习的交通信号控制中的大语言模型辅助教师-学生框架

Yifeng Zhang, Peizhuo Li, Tingguang Zhou, Mingfeng Fan, Guillaume Sartoretti

机构 * Department of Mechanical Engineering, National University of Singapore(新加坡国立大学机械工程系)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文提出LATS框架,结合大语言模型和多智能体强化学习,通过教师-学生模块提升交通信号控制的表示能力,实验表明其在多样交通场景中具有更高效和泛化性强的控制策略。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.20161 2026-03-23 cs.CL cs.AI cs.LG 89%

Semantic Token Clustering for Efficient Uncertainty Quantification in Large Language Models

语义标记聚类用于大型语言模型中的高效不确定性量化

Qi Cao, Andrew Gambardella, Takeshi Kojima, Yutaka Matsuo, Yusuke Iwasawa

机构 * The University of Tokyo(东京大学)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出语义标记聚类方法,通过语义信息高效量化大型语言模型的不确定性,无需辅助模型且计算开销低。

Comments EACL 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.08448 2026-03-19 cs.MA 89%

Scalable UAV Multi-Hop Networking via Multi-Agent Reinforcement Learning with Large Language Models

通过多智能体强化学习与大语言模型实现可扩展的UAV多跳网络

Yanggang Xu, Jirong Zha, Weijie Hong, Xiangmin Yi, Geng Chen, Jianfeng Zheng, Chen-Chun Hsia, Xinlei Chen

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文提出MRLMN框架,结合多智能体强化学习和大语言模型,提升UAV多跳网络性能,通过分组策略和奖励分解增强算法可扩展性,并利用知识蒸馏提升训练效率。

Comments 18 pages, 23 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.16382 2026-03-18 cs.CR 89%

Rotated Robustness: A Training-Free Defense against Bit-Flip Attacks on Large Language Models

旋转鲁棒性:一种对抗大语言模型位翻转攻击的无训练防御方法

Deng Liu, Song Chen

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文提出旋转鲁棒性(RoR),通过正交Householder变换对激活空间进行旋转,有效消除激活异常值与敏感权重之间的对齐,提升大语言模型的可靠性。

Comments 13 pages, 8 figures. Preprint. Under review at IEEE Transactions on Information Forensics and Security

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.13313 2026-03-17 cs.RO 89%

MRPoS: Mixed Reality-Based Robot Navigation Interface Using Spatial Pointing and Speech with Large Language Model

基于混合现实的机器人导航接口:结合空间指针与语音及大语言模型

Eduardo Iglesius, Masato Kobayashi, Yuki Uranishi

机构 * The University of Osaka(大阪大学) Kobe University(Kobe大学)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文提出MRPoS接口,利用空间指针和语音交互替代传统手势,提升机器人导航的直观性和效率,实验表明任务完成时间与工作负荷显著降低。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.11877 2026-03-13 eess.AS 89%

Silent Speech Interfaces in the Era of Large Language Models: A Comprehensive Taxonomy and Systematic Review

在大语言模型时代的大声接口:全面的分类法和系统性综述

Kele Xu, Yifan Wang, Ming Feng, Qisheng Xu, Wuyang Chen, Yutao Dou, Cheng Yang, Huaimin Wang

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);foundation model(abstract)

AI总结 本文综述了在大语言模型时代无声语音接口的发展,探讨了从传统传感器到意图执行的分类法,分析了生物信号处理的转变,并提出了未来发展方向和伦理边界。

Comments 20 pages, 4 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.11828 2026-03-13 physics.optics 89%

Large language models for optical network O&M: Agent-embedded workflow for automation

大语言模型用于光网络运维:嵌入代理的工作流自动化

Shengnan Li, Yidi Wang, Fubin Wang, Yujia Yang, Yao Zhang, Yuchen Song, Xiaotian Jiang, Yue Pang, Min Zhang, Danshi Wang

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文提出基于代理的多代理协作架构,利用大语言模型提升光网络运维的自动化水平,通过整合LLM能力与现有工具,实现任务执行的可行性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2507.16083 2026-03-13 cs.CL cs.AI cs.LG 89%

Efficient Compositional Multi-tasking for On-device Large Language Models

高效设备端大语言模型的组合多任务处理

Ondrej Bohdal, Mete Ozay, Jijoong Moon, Kyeng-Hun Lee, Hyeonmok Ko, Umberto Michieli

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出了一种高效的设备端多任务处理方法,通过任务融合提升大语言模型在复杂多任务场景中的性能。

Comments Accepted at EMNLP 2025 (main track, long paper)

详情

展开后加载摘要…

URL PDF HTML 收藏
2502.09922 2026-03-09 cs.DC 89%

λScale: Enabling Fast Scaling for Serverless Large Language Model Inference

λScale: 为无服务器大型语言模型推理实现快速扩展

Minchen Yu, Rui Yang, Chaobo Jia, Zhaoyuan Su, Sheng Yao, Tingfeng Lan, Yuchen Yang, Zirui Wang, Yue Cheng, Wei Wang, Ao Wang, Ruichuan Chen

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 λScale通过高效模型组播和分布式推理实现无服务器LLM推理的快速扩展,显著提升延迟性能并降低成本。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.04800 2026-03-06 cs.CV 89%

MASQuant: Modality-Aware Smoothing Quantization for Multimodal Large Language Models

MASQuant: 多模态大语言模型的模态感知平滑量化

Lulu Hu, Wenhu Xiao, Xin Chen, Xinhua Xu, Bowen Xu, Kun Li, Yongliang Tao

机构 * Alibaba Cloud Computing, Alibaba Group(阿里巴巴云 computing,阿里巴巴集团)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);post-training(abstract)

AI总结 MASQuant通过模态感知平滑和跨模态补偿技术,解决多模态大语言模型的量化问题,实现稳定且高效的量化性能。

Comments Accepted to CVPR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏