arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-04-03 至 2026-04-03 共收录 25 信号源:cs.CL, cs.AI, cs.LG

1. 效率与部署 25 篇

2604.01881 2026-04-03 cs.CV cs.CL 89%

HieraVid: Hierarchical Token Pruning for Fast Video Large Language Models

HieraVid:用于快速视频大语言模型的分层令牌修剪

Yansong Guo, Chaoyang Zhu, Jiayi Ji, Jianghang Lin, Liujuan Cao

机构 * Xiamen University(厦门大学)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract);分类 cs.CL

AI总结 HieraVid通过分层修剪框架减少视频令牌冗余,提升视频大语言模型的效率,在保留性能的同时实现30%的令牌保留率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.00474 2026-04-03 cs.IT cs.LG eess.SP math.IT 89%

Wireless Power Control Based on Large Language Models

基于大语言模型的无线功率控制

Jiacheng Wang, Yucheng Sheng, Le Liang, Hao Ye, Shi Jin

机构 * School of Information Science and Engineering, Southeast University(东南大学信息科学与工程学院) Department of Electrical and Computer Engineering, University of California, Santa Cruz(加州大学圣克鲁兹分校电气与计算机工程系)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract);分类 cs.LG

AI总结 本文提出PC-LLM框架,通过引入干扰感知注意力偏差,有效融合无线拓扑与预训练关系先验,实现高效无线网络功率控制,且在零样本环境下表现出色。

Comments 13 pages, 6 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.13307 2026-04-03 cs.NI 89%

Cooperative Edge Caching with Large Language Model in Wireless Networks

无线网络中基于大语言模型的协同边缘缓存

Ning Yang, Wentao Wang, Lingtao Ouyang, Haijun Zhang

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(abstract)

AI总结 本文提出基于大语言模型的集中式多基站缓存替换控制器,通过确定性文本到动作循环实现协同缓存替换,优于传统方法,在缓存容量、库大小、流行度偏斜和用户密度等方面表现出鲁棒性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02119 2026-04-03 cs.LG 88%

AA-SVD : Anchored and Adaptive SVD for Large Language Model Compression

AA-SVD:面向大语言模型压缩的锚定与自适应SVD

Atul Kumar Sinha, François Fleuret

机构 * University of Geneva(日内瓦大学) FAIR, Meta(Meta FAIR)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);分类 cs.LG

AI总结 本文提出一种快速低秩因子分解框架,用于压缩大语言模型,实现无需重新训练的快速压缩。通过同时考虑原始输入和分布偏移,改进Transformer块的端到端压缩,减少输出失真并联合补偿累积误差,实验表明在高压缩率下优于现有SVD基方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.03396 2026-04-03 cs.CL 88%

Towards Distillation-Resistant Large Language Models: An Information-Theoretic Perspective

迈向抗蒸馏的大语言模型:信息论视角

Hao Fang, Tianyi Zhang, Tianqu Zhuang, Jiawei Kong, Kuofeng Gao, Bin Chen, Leqi Liang, Shu-Tao Xia, Ke Xu

机构 * Tsinghua University(清华大学) Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳))

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);分类 cs.CL

AI总结 本文从信息论角度分析蒸馏防御问题,提出通过最小化条件互信息来提升模型抗蒸馏能力,设计变换矩阵净化输出以增强安全性,实验表明方法有效降低蒸馏性能并保持任务准确性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.01235 2026-04-03 cs.AI 85%

Runtime Burden Allocation for Structured LLM Routing in Agentic Expert Systems: A Full-Factorial Cross-Backend Methodology

结构化大语言模型路由在代理专家系统中的运行时负担分配:一种全因子跨后端方法论

Zhou Hanlin, Chan Huah Yong

机构 * School of Computer Sciences, Universiti Sains Malaysia (USM)(马来西亚理科大学计算机科学学院) Xiamen Software Vocational & Technical College(厦门软件职业技术学院)

专题命中 效率与部署 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文探讨了结构化LLM路由在代理专家系统中的负担分配问题,提出了一种全因子跨后端方法论,通过全面评估不同后端配置下的性能,揭示了后端特定交互效应对性能的主导作用。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.00388 2026-04-03 cs.LG 83%

Safer by Diffusion, Broken by Context: Diffusion LLM's Safety Blessing and Its Failure Mode

扩散模型更安全,但受上下文影响而失效:扩散大语言模型的安全祝福及其失效模式

Zeyuan He, Yupeng Chen, Lang Lin, Yihan Wang, Shenxu Chang, Eric Sommerlade, Philip Torr, Junchi Yu, Adel Bibi, Jialin Yu

机构 * Torr Vision Group, University of Oxford(牛津大学Torr视觉组) School of Data Science, The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)数据科学学院) The University of Texas at Austin(德克萨斯大学奥斯汀分校) Microsoft(微软)

专题命中 效率与部署 :LLM(title);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 研究探讨了扩散大语言模型(D-LLMs)在生成效率上的优势及其安全特性,发现其扩散生成方式增强了对对抗攻击的抵抗力,但存在上下文嵌套等失效模式,首次成功突破Gemini Diffusion的安全防线。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02008 2026-04-03 cs.CL 83%

$k$NNProxy: Efficient Training-Free Proxy Alignment for Black-Box Zero-Shot LLM-Generated Text Detection

$k$NNProxy:高效无训练代理对齐方法用于黑盒零样本LLM生成文本检测

Kahim Wong, Kemou Li, Haiwei Wu, Jiantao Zhou

机构 * School of Information and Software Engineering, University of Electronic Science and Technology of China(电子科技大学信息与软件工程学院)

专题命中 效率与部署 :LLM(title,abstract);language model(abstract);分类 cs.CL

AI总结 本文提出$ k $NNProxy方法,利用$ k $NN语言模型检索机制作为领域适配器,实现无训练的代理对齐,提升黑盒零样本LLM生成文本检测的鲁棒性与效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.01563 2026-04-03 cs.AI cs.LG 81%

Does Your Optimizer Care How You Normalize? Normalization-Optimizer Coupling in LLM Training

你的优化器是否在意你如何归一化?LLM训练中的归一化-优化器耦合

Abdelrahman Abouzeid

机构 * Georgia Institute of Technology(佐治亚理工学院)

专题命中 效率与部署 :LLM(title,abstract);分类 cs.AI、cs.LG

AI总结 研究发现归一化层与优化器在LLM训练中存在交互影响,动态Erf在Muon优化器下表现下降,通过调整参数可恢复性能,揭示归一化方法对优化器的敏感性。

Comments 16 pages, 8 figures. Preprint. Under review

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.11812 2026-04-03 cs.AI 79%

Predicting LLM Output Length via Entropy-Guided Representations

通过熵引导表示预测LLM输出长度

Huanyi Xie, Yubin Chen, Liangyu Wang, Lijie Hu, Di Wang

机构 * King Abdullah University of Science and Technology (KAUST)(阿卜杜拉国王科技大学) Provable Responsible AI and Data Analytics (PRADA) Lab(可验证负责任人工智能与数据分析实验室) Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)(穆罕默德·本·扎耶德人工智能大学)

专题命中 效率与部署 :LLM(title,abstract);分类 cs.AI

AI总结 本文提出熵引导标记池化和渐进长度预测方法,有效减少LLM推理中的计算浪费,提升吞吐量。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02288 2026-04-03 cs.LG cs.AI 79%

Unifying Group-Relative and Self-Distillation Policy Optimization via Sample Routing

通过样本路由统一组相对和自蒸馏策略优化

Gengsheng Li, Tianyu Yang, Junfeng Fang, Mingyang Song, Mao Zheng, Haiyun Guo, Dan Zhang, Jinqiao Wang, Tat-Seng Chua

机构 * Foundation Model Research Center, Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所基础模型研究中心) School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院) National University of Singapore(新加坡国立大学) Tencent(腾讯) Wuhan AI Research(武汉人工智能研究院)

专题命中 效率与部署 :large language model(abstract);language model(abstract);post-training(abstract);分类 cs.AI、cs.LG

AI总结 本文提出SRPO框架,通过样本路由整合GRPO和SDPO的优势,解决自蒸馏在长期训练中的稳定性问题,实现快速早期改进与长周期稳定性的结合。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.00076 2026-04-03 cs.LG cs.AI 79%

Learning to Play Blackjack: A Curriculum Learning Perspective

学习玩21点:从课程学习视角出发

Amirreza Alasti, Efe Erdal, Yücel Celik, Theresa Eimer

机构 * Leibniz University Hannover(莱布尼茨汉诺威大学) Leibniz AI Academy(莱布尼茨人工智能学院)

专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 本文提出利用大语言模型动态生成课程,提升强化学习在复杂环境中的效率和性能,应用于21点游戏,通过分阶段训练提升Q学习和DQN代理的表现。

Comments Accepted as an oral presentation at the International Conference on Distributed Artificial Intelligence (DAI 2025). 16 pages, 7 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02265 2026-04-03 cs.CV 78%

Modular Energy Steering for Safe Text-to-Image Generation with Foundation Models

模块化能量引导用于基础模型的安全文本到图像生成

Yaoteng Tan, Zikui Cai, M. Salman Asif

机构 * University of California Riverside(加州大学河滨分校) University of Maryland(马里兰大学)

专题命中 效率与部署 :foundation model(title,abstract)

AI总结 本文提出一种基于梯度反馈的引导框架,利用预训练基础模型的潜在估计实现安全可控的文本到图像生成,适用于扩散和流匹配模型,提升生成质量与鲁棒性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2411.11683 2026-04-03 cs.RO cs.AI 77%

Robot Collapse: Supply Chain Backdoor Attacks Against VLM-based Robotic Manipulation

机器人崩溃:针对基于VLM的机器人操控的供应链后门攻击

Xianlong Wang, Hewen Pan, Hangtao Zhang, Minghui Li, Shengshan Hu, Ziqi Zhou, Lulu Xue, Peijin Guo, Aishan Liu, Leo Yu Zhang, Xiaohua Jia

机构 * City University of Hong Kong(香港城市大学) Huazhong University of Science and Technology(华中科技大学) Beihang University(北京航空航天大学) Griffith University(格里菲斯大学)

专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文提出TrojanRobot框架,通过在模块化机器人策略中嵌入恶意模块,操控LLM到VLM路径,验证了在18个真实任务和4个VLM上的优越性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02322 2026-04-03 cs.LG cs.AI cs.CL 75%

Batched Contextual Reinforcement: A Task-Scaling Law for Efficient Reasoning

批量上下文强化:一种任务扩展定律以实现高效推理

Bangji Yang, Hongbo Ma, Jiajun Fan, Ge Liu

机构 * University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校) Tsinghua University(清华大学)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出批量上下文强化方法,通过在共享上下文窗口中同时解决多个问题,实现高效推理,减少token消耗并提升准确性。

Comments 43 pages, 5 figures, 24 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02217 2026-04-03 cs.AI cs.CL 73%

VISTA: Visualization of Token Attribution via Efficient Analysis

VISTA: 通过高效分析实现令牌归因的可视化

Syed Ahmed, Bharathi Vokkaliga Ganesh, Jagadish Babu P, Karthick Selvaraj, Praneeth Talluri, Sanket Hingne, Anubhav Kumar, Anushka Yadav, Pratham Kumar Verma, Kiranmayee Janardhan, Mandanna A N

机构 * Infosys Limited(印孚瑟斯有限公司)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 本文提出了一种轻量且通用的方法,用于可视化令牌重要性,以理解生成式AI系统如何感知和优先处理输入文本信息,无需额外计算成本。

Comments 12 pages, 3 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.13606 2026-04-03 cs.DC cs.AI cs.AR cs.LG 73%

NCCL EP: Towards a Unified Expert Parallel Communication API for NCCL

NCCL EP:迈向统一的专家并行通信API

Amos Goldman, Nimrod Boker, Maayan Sheraizin, Nimrod Admoni, Artem Polyakov, Subhadeep Bhattacharya, Fan Yu, Kai Sun, Georgios Theodorakis, Hsin-Chun Yin, Peter-Jan Gootzen, Aamir Shafi, Assaf Ravid, Salvatore Di Girolamo, James Dinan, Xiaofan Li, Manjunath Gorentla Venkata, Gil Bloch

机构 * Oak Ridge National Laboratory(橡树岭国家实验室) University of New Mexico(新墨西哥大学) Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 本文提出NCCL EP,一种基于NCCL设备API的MoE通信库,提供统一的调度和组合原语,支持低延迟和高吞吐模式,提升大语言模型的通信性能。

Comments 13 pages, 8 figures, 7 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2410.17954 2026-04-03 cs.AI cs.CL 73%

ExpertFlow: Efficient Mixture-of-Experts Inference via Predictive Expert Caching and Token Scheduling

ExpertFlow:通过预测专家缓存和令牌调度实现高效的混合专家推理

Xin He, Shunkang Zhang, Kaijie Tang, Shaohuai Shi, Yuxin Wang, Zihao Zeng, Zhenheng Tang, Xiaowen Chu, Haiyan Yin, Ivor W. Tsang, Yew Soon Ong

机构 * CFAR, Agency for Science, Technology and Research (A*STAR), Singapore(新加坡科技研究局CFAR) The Hong Kong University of Science and Technology, Hong Kong(香港科技大学) Harbin Institute of Technology, Shenzhen, China(哈尔滨工业大学(深圳)) Hong Kong Baptist University, Hong Kong(香港浸会大学) Nanyang Technological University, Singapore(南洋理工大学) The Hong Kong University of Science and Technology (Guangzhou), China(香港科技大学(广州))

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 本文提出ExpertFlow,通过预测专家缓存和令牌调度实现高效的混合专家推理,减少GPU内存使用达93.72%,提升推理吞吐量达10倍。

Comments Accepted in DAC'26, Mixture-of-Experts, Inference, Offloading

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.01514 2026-04-03 cs.CL cs.CV 70%

Why Instruction-Based Unlearning Fails in Diffusion Models?

为何基于指令的反学习在扩散模型中失效?

Zeliang Zhang, Rui Sun, Jiani Liu, Qi Wu, Chenliang Xu

机构 * University of Rochester(罗切斯特大学) UCLA(加州大学洛杉矶分校) UCSB(加州大学圣塔芭芭拉分校)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.CL

AI总结 研究探讨了基于指令的反学习在扩散模型中的有效性,发现扩散模型在仅依赖自然语言反学习指令时无法有效抑制目标概念,揭示了提示级指令的局限性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02309 2026-04-03 cs.LG cs.CL 62%

go-$m$HC: Direct Parameterization of Manifold-Constrained Hyper-Connections via Generalized Orthostochastic Matrices

go-$m$HC:通过广义正交随机矩阵直接参数化流形约束超连接

Torque Dandachi, Sophia Diggs-Galligan

专题命中 效率与部署 :language model(abstract);分类 cs.CL、cs.LG

AI总结 go-$m$HC通过广义正交随机矩阵直接参数化流形约束超连接,实现高效且精确的双重随机矩阵参数化,提升模型表达能力和效率。

Comments 29 pages, 30 figures, 9 tables. Includes supplementary material

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02331 2026-04-03 cs.CV 50%

EventHub: Data Factory for Generalizable Event-Based Stereo Networks without Active Sensors

EventHub:无需主动传感器的通用事件基立体网络数据工厂

Luca Bartolomei, Fabio Tosi, Matteo Poggi, Stefano Mattoccia, Guillermo Gallego

机构 * Advanced Research Center on Electronic System (ARCES)(电子系统高级研究中心 (ARCES)) TU Berlin, Robotics Institute Germany(柏林工业大学德国机器人研究所) Einstein Center Digital Future(爱因斯坦数字未来中心) SCIoI Excellence Cluster(SCIoI卓越集群)

专题命中 效率与部署 :foundation model(abstract)

AI总结 EventHub利用标准彩色图像生成代理标注和事件,无需主动传感器的地面真实标注,重新利用先进RGB立体模型处理事件数据,提升立体网络的泛化能力。

Comments CVPR 2026. Project Page: https://bartn8.github.io/eventhub/ Code: https://github.com/bartn8/eventhub

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02252 2026-04-03 cs.CV 50%

SPAR: Single-Pass Any-Resolution ViT for Open-vocabulary Segmentation

SPAR:单次通过任意分辨率ViT用于开放词汇分割

Naomi Kombol, Ivan Martinović, Siniša Šegvić, Giorgos Tolias

专题命中 效率与部署 :language model(abstract)

AI总结 SPAR通过单次通过任意分辨率ViT实现高效高分辨率推理,提升开放词汇分割的mIoU性能,无需架构改动或像素级监督。

Comments Accepted to CVPR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02040 2026-04-03 cs.CV 50%

Efficient Reasoning via Thought Compression for Language Segmentation

通过思维压缩实现高效的语言分段推理

Qing Zhou, Shiyu Zhang, Yuyu Jia, Junyu Gao, Weiping Ni, Junzheng Wu, Qi Wang

机构 * Northwestern Polytechnical University, China(西北工业大学) Northwest Institute of Nuclear Technology, China(西北核技术研究所)

专题命中 效率与部署 :prompting(abstract)

AI总结 WISE通过压缩推理过程提升语言分段性能,采用自蒸馏目标确保简洁总结与详细解释的语义一致性,实验显示其在ReasonSeg基准上达到58.3 cIoU,推理长度减少近5倍。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.01760 2026-04-03 eess.AS 50%

T5Gemma-TTS Technical Report

T5Gemma-TTS 技术报告

Chihiro Arata, Kiyoshi Kurihara

专题命中 效率与部署 :language model(abstract)

AI总结 T5Gemma-TTS 通过跨注意力机制实现持久文本条件,提升多语言语音合成质量与可控性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.01570 2026-04-03 cs.RO 50%

Boosting Vision-Language-Action Finetuning with Feasible Action Neighborhood Prior

通过可行动作邻域先验提升视觉-语言-动作微调

Haochen Niu, Kanyu Zhang, Shuyu Yin, Qinghai Guo, Peilin Liu, Fei Wen

机构 * Shanghai Jiao Tong University(上海交通大学) Huawei Technologies(华为技术有限公司)

专题命中 效率与部署 :SFT(abstract)

AI总结 本文提出FAN引导正则化方法,通过调整模型输出分布以匹配FAN几何特性,提升VLA适应的样本效率和泛化能力。

Comments Accepted by CVPR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏