arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-05-18 至 2026-05-18 共收录 320 信号源:cs.CL, cs.AI, cs.LG

1. 效率与部署 70 篇

2605.04816 2026-05-18 cs.HC 83%

Building AI Companions that Prioritise Learning over Performance

构建以学习优先于性能的人工智能伴侣

Hassan Khosravi, Dragan Gasevic, Shazia Sadiq, Lixiang Yan, Jason Lodge, Jason Tangen, Paul Denny, Kristen DiCerbo, Simon Buckingham Shum, Ryan S. Baker

专题命中 效率与部署 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);prompting(abstract)

AI总结 本文探讨如何设计人工智能以支持学习而非仅提升即时输出,提出AI学习伴侣的概念,通过五个案例研究展示其潜力与局限,主张转向以教学为基础、适应性学习和促进深层理解的人工智能设计。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.15417 2026-05-18 cs.LG cs.AI 82%

$f$-Trajectory Balance: A Loss Family for Tuning GFlowNets, Generative Models, and LLMs with Off- and On-Policy Data

$f$-轨迹平衡:一种用于调整GFlowNets、生成模型和LLMs的损失家族,结合on-policy和off-policy数据

Jake Fawkes, Jason Hartford

机构 * Department of Statistics, University College London, UK(伦敦大学学院统计学系) Valence Labs, London, UK(伦敦Valence实验室)

专题命中 效率与部署 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 本文提出一种基于$f$-散度的损失家族,通过on-policy和off-policy数据调整生成模型,提升模型覆盖性和泛化能力。

Comments Published at ICML 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.15206 2026-05-18 cs.LG cs.AI cs.DC 82%

AgentStop: Terminating Local AI Agents Early to Save Energy in Consumer Devices

AgentStop: 早期终止本地AI代理以在消费设备中节省能源

Dzung Pham, Kleomenis Katevas, Ali Shahin Shamsabadi, Hamed Haddadi

机构 * University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校) Brave Software, Imperial College London(Brave软件公司,伦敦帝国学院)

专题命中 效率与部署 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 研究提出AgentStop方法,通过预测并提前终止可能失败的代理任务,减少能源消耗,提升本地AI代理的能效与隐私保护。

Comments ACM CAIS '26

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.14282 2026-05-18 cs.LG cs.AI 82%

Weight Concentration Regularization for Improving Pruning Robustness Under High Sparsity

权重集中正则化:提高在高稀疏度下的剪枝鲁棒性

Vincent-Daniel Yun, Junhyuk Jo, Sunwoo Lee

机构 * University of Southern California(美国南加州大学) Inha University(inha大学)

专题命中 效率与部署 :LLM(summary_cn,abstract);分类 cs.AI、cs.LG

AI总结 本文提出权重集中正则化(WCR),通过放大少量参数的幅度并驱动其余参数趋近于零,提高模型在高稀疏度下的剪枝鲁棒性,通过在LLM微调、图像分类和医学分割中的实验验证了其有效性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.16141 2026-05-18 eess.SP 82%

SiFo: Wireless Foundation Model for Low-Overhead Site-Specific CSI Feedback

SiFo:面向低开销的特定站点信道状态信息反馈无线基础模型

Cheng-Jie Zhao, Zhaolin Wang, Zongyao Zhao, Yuanwei Liu

专题命中 效率与部署 :foundation model(title,abstract);pretraining(abstract)

AI总结 SiFo提出一种基于无线基础模型的框架,通过预训练和轻量级校准实现高效特定站点CSI反馈,提升频谱效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.09034 2026-05-18 cs.LG 81%

Accelerating Zeroth-Order Spectral Optimization with Partial Orthogonalization from Power Iteration

通过幂迭代部分正交化加速零阶谱优化

Jiahe Chen, Ziye Ma

机构 * Department of Computer Science(计算机科学系)

专题命中 效率与部署 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文提出通过幂迭代部分正交化加速零阶优化,改进了Muon中的牛顿-舒尔兹过程,提升了收敛速度和泛化能力,在超大规模语言模型微调中表现出色。

Comments added more related works discussion

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.14205 2026-05-18 cs.AI 81%

SimPersona: Learning Discrete Buyer Personas from Raw Clickstreams for Grounded E-Commerce Agents

SimPersona: 从原始点击流中学习离散买家人设以构建 grounded 的电子商务代理

Zahra Zanjani Foumani, Alberto Castelo, Shuang Xie, Ted Chaiwachirasak, Han Li, Lingyun Wang

机构 * Shopify

专题命中 效率与部署 :LLM(summary_cn,abstract);分类 cs.AI

AI总结 SimPersona 通过学习离散买家类型并将其映射为 LLM 代理的紧凑人设标记,提升电子商务代理的个性化能力,实现 78% 的转化率对齐,并在目标购物任务中优于基线模型。

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.18134 2026-05-18 cs.AI cs.CL cs.CV 81%

VideoGameBench: Can Vision-Language Models complete popular video games?

VideoGameBench: 能否让视觉-语言模型完成流行视频游戏?

Alex L. Zhang, Thomas L. Griffiths, Karthik R. Narasimhan, Ofir Press

机构 * Princeton University(普林斯顿大学)

专题命中 效率与部署 :language model(title,abstract);分类 cs.CL、cs.AI

AI总结 VideoGameBench通过10款经典游戏测试视觉-语言模型在无辅助信息下的实时游戏完成能力,发现前沿模型受推理延迟限制,仅能完成极少量游戏内容。

Comments 10 pages, 38 pages including supplementary

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.15220 2026-05-18 cs.CL cs.AI cs.LG 80%

Always Learning, Always Mixing: Efficient and Simple Data Mixing All The Time

始终学习,始终混合:始终高效且简单的数据混合

Michael Y. Hu, Apurva Gandhi, Kyunghyun Cho, Tal Linzen, Pratyusha Sharma

机构 * New York University(纽约大学) Carnegie Mellon University(卡内基梅隆大学) Microsoft(微软公司)

专题命中 效率与部署 :language model(abstract);instruction tuning(abstract);pretraining(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出OP-Mix算法,通过低秩适配器插值实现数据混合,提升预训练和持续学习性能,减少计算资源消耗。

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.12266 2026-05-18 q-bio.GN cs.LG 79%

Genome-Factory: A Library for Tuning, Deploying, and Interpreting Genomic Foundation Models

Genome-Factory:用于调优、部署和解释基因组基础模型的库

Weimin Wu, Xuefeng Song, Yibo Wen, Qinjie Lin, Zhihan Zhou, Jerry Yao-Chieh Hu, Zhong Wang, Han Liu

机构 * Center for Foundation Models Generative AI \& Department of Computer Science, Northwestern University, USA School of Natural Sciences, University of California at Merced, USA Department of Energy Joint Genome Institute, Lawrence Berkeley National Laboratory, USA Systems Biology Division, Lawrence Berkeley National Laboratory, USA Department of Statistics Data Science, Northwestern University, USA

专题命中 效率与部署 :foundation model(title,abstract);分类 cs.LG

AI总结 Genome-Factory 提供了一种统一的流程简化方法,涵盖基因组模型开发的全流程,包括数据收集、模型调优、推理、基准测试和可解释性,适用于多种模型和调优方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.18556 2026-05-18 cs.CL cs.LG 79%

GSQ: Highly-Accurate Low-Precision Scalar Quantization for LLMs via Gumbel-Softmax Sampling

GSQ: 通过Gumbel-Softmax采样实现高精度低精度标量量化以用于LLMs

Alireza Dadgarnia, Soroush Tabesh, Mahdi Nikdan, Michael Helcig, Eldar Kurtic, Maximilian Kleinegger, Dan Alistarh

机构 * ISTA ETH Zürich(苏黎世联邦理工学院) Red Hat AI(红帽AI) TU Wien(维也纳技术大学)

专题命中 效率与部署 :LLM(abstract,abstract_cn);post-training(abstract);分类 cs.CL、cs.LG

AI总结 本文提出GSQ,一种基于Gumbel-Softmax松弛的标量量化方法,在低比特数下实现高精度,适用于LLMs的部署。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.16090 2026-05-18 cs.CR cs.CV 78%

A Cross-Modal Prompt Injection Attack against Large Vision-Language Models with Image-Only Perturbation

针对大视觉-语言模型的跨模态提示注入攻击:仅图像扰动

Hao Yang, Zhuo Ma, Yang Liu, Yilong Yang, Guancheng Wang, JianFeng Ma

机构 * Xidian University(西安电子科技大学)

专题命中 效率与部署 :language model(title,abstract)

AI总结 本文提出CrossMPI攻击,通过仅图像扰动实现跨模态提示注入,改进模型隐藏状态空间优化并采用层选择策略与距离递减扰动策略,有效提升攻击性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.15584 2026-05-18 cs.CV 78%

AGC: Adaptive Geodesic Correction for Adversarial Robustness on Vision-Language Models

AGC:面向视觉-语言模型对抗鲁棒性的自适应测地修正

Zhiwei Li, Jiacheng Xue, Weining Wang, Ajian Liu, Xingyu Gao, Zhenan Sun, Qi Li

机构 * NLPR & MAIS, Institute of Automation, Chinese Academy of Sciences(自动化研究所国家工程研究中心与人工智能院,中国科学院) School of Computer Science and Engineering, Central South University(中南大学计算机科学与工程学院) University of Chinese Academy of Sciences(中国科学院大学)

专题命中 效率与部署 :language model(title,abstract)

AI总结 本文提出AGC,一种无需训练的防御机制,通过自适应步长修正输入特征,提升视觉-语言模型的对抗鲁棒性,实测在八个细粒度数据集上提升44.4%的鲁棒准确率,同时降低10倍推理延迟。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.28680 2026-05-18 cs.NI 75%

A Techno-Economic Framework for Cost Modeling and Revenue Opportunities in Open and Programmable AI-RAN

面向开放和可编程AI-RAN的成本建模与收益机会的技术经济框架

Gabriele Gemmi, Michele Polese, Tommaso Melodia

专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract)

AI总结 本文提出一种技术经济分析框架,结合5G层1处理基准和真实流量模型,评估AI-RAN部署的计算能力与收益,证明GPU密集型部署的回报率可达8倍。

Comments Accepted for publication on the 35th International Conference on Computer Communications and Networks (ICCCN 2026)

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.03812 2026-05-18 cs.LG cs.AI cs.CL 75%

Antidistillation Fingerprinting

对抗蒸馏指纹

Yixuan Even Xu, John Kirchenbauer, Yash Savani, Asher Trockman, Alexander Robey, Tom Goldstein, Fei Fang, J. Zico Kolter

机构 * Carnegie Mellon University, Pittsburgh, PA, USA(卡内基梅隆大学) University of Maryland, College Park, MD, USA(马里兰大学学院市分校)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出对抗蒸馏指纹方法,通过代理模型识别并采样最大化指纹检测性的token,提升检测效果同时减少对模型性能的影响。

Comments 28 pages, 13 figures, ICML 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.17355 2026-05-18 cs.NE 75%

CMOS Implementation of Field Programmable Spiking Neural Network for Hardware Reservoir Computing

CMOS实现的场可编程脉冲神经网络用于硬件共振计算

Ckristian Duran, Nanako Kimura, Zolboo Byambadorj, Tetsuya Iizuka

专题命中 效率与部署 :LLM(abstract_cn);large language model(abstract);language model(abstract)

AI总结 本文提出一种基于CMOS的场可编程脉冲神经网络架构,用于硬件共振计算,通过集成电压控制振荡器和可编程权重互连,实现任意共振配置,并在仿真和芯片测量中展示了FORCE算法、线性与非线性记忆容量和NARMA10任务的高效实现。

Journal ref 2026 Neuromorph. Comput. Eng. 6 024011

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.15413 2026-05-18 cs.LG 74%

Transformer Scalability Crisis: The First Comprehensive Empirical Analysis of Performance Walls in Modern Language Models

Transformer可扩展性危机:现代语言模型中性能瓶颈的首次全面实证分析

Mahdi Naser Moghadasi, Faezeh Ghaderi

机构 * Research Division, BrightMind AI(BrightMind AI研究部) Texas Tech University(德克萨斯科技大学) University of Texas at Arlington(德克萨斯大学阿灵顿分校)

专题命中 效率与部署 :language model(title);分类 cs.LG

AI总结 本文通过评估118种transformer模型,揭示了模型在序列长度扩展时的性能瓶颈,发现随着序列长度增加,模型处理能力显著下降,挑战了传统扩展假设。

Comments 8 pages, accepted at IEEE BigData 2025

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.15726 2026-05-18 cs.AI cs.CL 73%

Nudging Beyond the Comfort Zone: Efficient Strategy-Guided Exploration for RLVR

走出舒适区:为RLVR的高效策略引导探索

Chanuk Lee, Sangwoo Park, Minki Kang, Sung Ju Hwang

机构 * KAIST(韩国科学技术院)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 本文提出NudgeRL框架,通过策略引导实现结构化和多样性探索,提升RLVR在数学基准上的表现,相比标准GRPO和oracle引导方法更高效。

Comments 28 pages, 7 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.15461 2026-05-18 cs.LG cs.AI 73%

DrugSAGE:Self-evolving Agent Experience for Efficient State-of-the-Art Drug Discovery

DrugSAGE: 自演化代理经验用于高效前沿药物发现

Yikun Zhang, Xiwei Cheng, Tianyu Liu, Yuanqi Du, Wengong Jin

机构 * Northeastern University(东北大学) Broad Institute of MIT and Harvard(MIT和哈佛大学Broad研究所) Yale University(耶鲁大学) Microsoft Research New England(微软研究院新英格兰分部)

专题命中 效率与部署 :LLM(abstract,abstract_cn);分类 cs.AI、cs.LG

AI总结 DrugSAGE通过自演化代理经验框架,高效构建前沿药物发现模型,跨任务记忆提升模型性能,实现零次搜索下的显著优势。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.15315 2026-05-18 cs.AI cs.CL 73%

Context Pruning for Coding Agents via Multi-Rubric Latent Reasoning

通过多标准潜在推理进行编码代理的上下文剪枝

Jingjing Wang, Xiwen Chen, Wenhui Zhu, Huayu Li, Zhengxiao He, Feiyang Cai, Ana S. Carreon-Rascon, Xuanzhao Dong, Feng Luo

机构 * Clemson University(克莱姆森大学) Morgan Stanley(摩根大通) Arizona State University(亚利桑那州立大学) University of Arizona(亚利桑那大学)

专题命中 效率与部署 :LLM(abstract,abstract_cn);分类 cs.CL、cs.AI

AI总结 本文提出LaMR框架,通过分解代码相关性为语义证据和依赖支持两个维度,利用多任务CRF模型提升编码代理的上下文剪枝效果,实验表明其在多个基准测试中表现优异。

详情

展开后加载摘要…

URL PDF HTML 收藏
2502.12187 2026-05-18 cs.CL cs.FL cs.LG math.ST stat.ML stat.TH 73%

Hallucinations are inevitable but can be made statistically negligible

幻觉是不可避免的,但可以被统计上忽略

Atsushi Suzuki, Yulan He, Feng Tian, Zhongyuan Wang

机构 * Department of Mathematics(数学系) The University of Hong Kong(香港大学) Department of Informatics(信息学院) King’s College London(伦敦国王学院) Division of Natural and Applied Sciences(自然科学与应用科学系) Duke Kunshan University(杜克大学昆山分校) School of Computer Science(计算机科学学院)

专题命中 效率与部署 :LLM(abstract_cn);language model(abstract);分类 cs.CL、cs.LG

AI总结 本文探讨了语言模型幻觉的不可避免性与可忽略性,通过概率视角证明充分高质量训练数据可使幻觉概率降低,同时结合信息论指出概率理论结果更符合实际应用需求。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.16081 2026-05-18 cs.LG cs.CV 70%

MIND: Decoupling Model-Induced Label Noise via Latent Manifold Disentanglement

MIND: 通过潜在流形解耦模型诱导标签噪声

Dayong Ren

机构 * State Key Laboratory of Novel Software Technology, Nanjing University, Nanjing 210023, China(新型软件技术国家重点实验室,南京大学,南京210023,中国)

专题命中 效率与部署 :language model(abstract);foundation model(abstract);分类 cs.LG

AI总结 MIND通过潜在流形解耦技术解决模型诱导标签噪声问题,通过动态投影样本到潜在结构聚类,提升噪声识别能力,验证了其在复杂基准测试中的优越性。

Comments Accepted, to appear in ICML2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.09631 2026-05-18 cs.DC cs.AI 70%

Hardware Utilization and Inference Performance of Edge Object Detection Under Fault Injection

边缘目标检测在故障注入下的硬件利用与推断性能

Faezeh Pasandideh, Mehdi Azarafza, Achim Rettberg

机构 * Hamm-Lippstadt University of Applied Sciences (HSHL)(哈姆-利普施塔特应用科学大学(HSHL))

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.AI

AI总结 研究通过故障注入测试评估了TensorRT优化的YOLO模型在边缘平台上的硬件行为,发现其在资源降级下保持稳定性能,为边缘推断可靠性提供硬件层面的视角。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.15609 2026-05-18 cs.CL 70%

PSD: Pushing the Pareto Frontier of Diffusion LLMs via Parallel Speculative Decoding

PSD: 推动扩散大语言模型的帕累托前沿:通过并行推测解码

Shengyin Sun, Yiming Li, Renxi Liu, Xinqi Li, Hui-Ling Zhen, Weizhe Lin, Chen Chen, Xianzhi Yu, Mingxuan Yuan, Chen Ma

机构 * Huawei Technologies(华为技术)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文提出PSD框架,通过并行推测解码提升推理效率与生成质量,在推理效率和生成质量之间取得良好平衡,达到每前向传递5.5倍的token处理速度。

Comments 16 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.15542 2026-05-18 cs.AI 70%

DRS-GUI: Dynamic Region Search for Training-Free GUI Grounding

DRS-GUI: 动态区域搜索用于无训练的GUI定位

Yichao Liu, Huawen Shen, Liu Yu, Shiyu Liu, Zeyu Chen, Yu Zhou

机构 * Nankai University(南开大学) Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.AI

AI总结 DRS-GUI通过动态区域搜索框架提升GUI定位性能,利用轻量级UI感知器和MCTS动作规划器,实现高效区域探索与筛选,提升多模态大语言模型的定位能力。

Comments 11 pages, 8 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.15425 2026-05-18 cs.SE cs.AI 70%

Runtime-Structured Task Decomposition for Agentic Coding Systems

运行时结构化任务分解用于代理编码系统

Shubhi Asthana, Bing Zhang, Chad DeLuca, Hima Patel, Ruchi Mahindru

机构 * IBM Research(IBM研究院)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文提出运行时结构化任务分解方法,通过可执行控制逻辑管理任务分解与执行流程,降低重试成本,提升代理编码系统的效率和可靠性。

Comments Paper presented at ACM Conference on AI and Agentic Systems 2026 at the Agentic Software Engineering workshop

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.15365 2026-05-18 cs.CL 70%

Greedy or not, here I come: Language production under vocabulary constraints in humans and resource-rational models

贪心还是不贪心,这里我来:在词汇限制下的人类语言生成与资源理性模型

Thomas Hikaru Clark, Sihan Chen, Laura Nicolae

机构 * Department of Brain and Cognitive Sciences, MIT(麻省理工学院脑科学与认知科学系) Department of Economics, Harvard University(哈佛大学经济系)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.CL

AI总结 研究人类在词汇限制下如何生成语言,发现人类更倾向于贪心采样,但更熟练者会回溯修正,非贪心行为。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.15238 2026-05-18 cs.SE cs.AI cs.PL 70%

Hydra: Efficient, Correct Code Generation via Checkpoint-and-Rollback Support

Hydra:通过检查点和回滚支持实现高效的正确代码生成

Alexander Du, Jianjun Ou, Danyang Zhuo, Matthew Lentz

机构 * Duke University(杜克大学)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.AI

AI总结 Hydra通过异步检查和检查点回滚机制,在代码生成中高效修复静态错误,减少延迟和token消耗。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.14978 2026-05-18 cs.CL 70%

Performance-Driven Policy Optimization for Speculative Decoding with Adaptive Windowing

为投机解码驱动的策略优化设计适应性窗口

Jie Jiang, Xing Sun, Ruotian Chen, Jianan Su, Kaixin Shen

专题命中 效率与部署 :LLM(abstract,abstract_cn);分类 cs.CL

AI总结 本文提出PPOW框架,通过窗口级优化提升投机解码效率,采用成本感知加速奖励和分布基 proximity 奖励,实现平均接受长度和加速效果提升。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02268 2026-05-18 cs.LG 70%

SKILL0: In-Context Agentic Reinforcement Learning for Skill Internalization

SKILL0:基于上下文的代理强化学习用于技能内化

Zhengxi Lu, Zhiyuan Yao, Jinyang Wu, Chengcheng Han, Qi Gu, Xunliang Cai, Weiming Lu, Jun Xiao, Yueting Zhuang, Yongliang Shen

机构 * Zhejiang University(浙江大学) Meituan(美团) Tsinghua University(清华大学)

专题命中 效率与部署 :LLM(abstract,abstract_cn);分类 cs.LG

AI总结 SKILL0通过在训练时逐步减少技能上下文,使模型在无任务检索情况下实现自主行为,实验显示在多个任务中性能提升显著。

详情

展开后加载摘要…

URL PDF HTML 收藏