arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-05-14 至 2026-05-14 共收录 354 信号源:cs.CL, cs.AI, cs.LG

1. 评测与基准 65 篇

2508.07642 2026-05-14 cs.AI cs.CL cs.CV 62%

Breaking Down and Building Up: Mixture of Skill-Based Vision-and-Language Navigation Agents

拆解与构建:基于技能的视觉-语言导航代理混合

Tianyi Ma, Yue Zhang, Zehao Wang, Parisa Kordjamshidi

机构 * Michigan State University(密歇根州立大学) ESAT-PSI, KU Leuven(KU莱顿大学ESAT-PSI实验室)

专题命中 评测与基准 :language model(abstract);分类 cs.CL、cs.AI

AI总结 本文提出SkillNav框架,通过模块化技能推理提升视觉-语言导航性能,通过合成数据训练无监督的路由模型,实现对复杂场景的泛化能力。

Comments Accepted by ACL 2026 Main Conference

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.12933 2026-05-14 cs.CL 57%

ATD-Trans: A Geographically Grounded Japanese-English Travelogue Translation Dataset

ATD-Trans: 一种地理导向的日英旅行日志翻译数据集

Shohei Higashiyama, Hiroki Ouchi, Atsushi Fujita, Masao Utiyama

机构 * National Institute of Information and Communications Technology(信息与通信技术国家研究所) Nara Institute of Science and Technology(奈良科学技术研究所)

专题命中 评测与基准 :language model(abstract);分类 cs.CL

AI总结 本文提出ATD-Trans数据集,用于评估机器翻译在地理实体层面的性能,探讨模型语言倾向和地理区域对翻译质量的影响。

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.00839 2026-05-14 cs.SE cs.AI 57%

CodeClash: Benchmarking Goal-Oriented Software Engineering

CodeClash:面向目标导向软件工程的基准测试

John Yang, Kilian Lieret, Joyce Yang, Carlos E. Jimenez, Muhtasham Oblokulov, Aryan Siddiqui, Ofir Press, Ludwig Schmidt, Diyi Yang

机构 * Stanford University(斯坦福大学) Princeton University(普林斯顿大学) Cornell University(康奈尔大学) Technical University of Munich(慕尼黑技术大学)

专题命中 评测与基准 :language model(abstract);分类 cs.AI

AI总结 CodeClash通过多轮竞赛评估语言模型在无明确指导下迭代开发代码以实现开放性目标的能力,揭示了模型在战略推理和长期代码维护方面的局限性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2507.18809 2026-05-14 cs.LG 57%

Test-time Offline Reinforcement Learning on Goal-related Experience

测试时的离线强化学习在目标相关经验上的应用

Marco Bagatella, Mert Albaba, Jonas Hübotter, Georg Martius, Andreas Krause

机构 * ETH Zurich, Zurich, Switzerland(苏黎世联邦理工学院,苏黎世,瑞士) Max Planck Institute for Intelligent Systems, Tubingen, Germany(智能系统马克斯·普朗克研究所,图宾根,德国) University of Tubingen, Tubingen, Germany(图宾根大学,图宾根,德国)

专题命中 评测与基准 :foundation model(abstract);分类 cs.LG

AI总结 本文提出了一种基于目标的测试时训练方法,通过选择与当前状态和评估目标相关的经验来提升策略性能,适用于高维定位导航和操作任务。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.13139 2026-05-14 cs.SE 50%

SWE-Cycle: Benchmarking Code Agents across the Complete Issue Resolution Cycle

SWE-Cycle:在完整问题解决周期中对齐代码代理的基准测试

Hao Guan, Lingyue Fu, Shao Zhang, Yaoming Zhu, Kangning Zhang, Lin Qiu, Xunliang Cai, Xuezhi Cao, Weiwen Liu, Weinan Zhang, Yong Yu

专题命中 评测与基准 :LLM(abstract_cn)

AI总结 本文提出SWE-Cycle基准测试,评估代码代理在环境重建、代码实现和测试生成等任务中的能力,揭示了在端到端任务中处理跨阶段依赖和保持代码质量的关键瓶颈。

详情

展开后加载摘要…

URL PDF HTML 收藏

2. 效率与部署 61 篇

2605.13496 2026-05-14 cs.DC cs.LG 92%

MARLIN: Multi-Agent Game-Theoretic Reinforcement Learning for Sustainable LLM Inference in Cloud Datacenters

MARLIN:多智能体博弈强化学习用于云数据中心可持续LLM推理

H. Moore, S. Qi, D. Milojicic, C. Bash, S. Pasricha

机构 * Colorado State University(科罗拉多州立大学) Hewlett Packard Labs(惠普实验室)

专题命中 效率与部署 :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文提出MARLIN框架,通过博弈强化学习优化LLM推理的TTFT、碳排放、用水量和能耗,实现至少18%的TTFT、33%的碳排放、43%的用水量和11%的能耗降低。

详情

展开后加载摘要…

URL PDF HTML 收藏
2409.01143 2026-05-14 cs.DC 91%

HexiScale: Facilitating Large Language Model Training over Heterogeneous Hardware

HexiScale:在异构硬件上促进大语言模型训练

Ran Yan, Youhe Jiang, Xiaonan Nie, Fangcheng Fu, Bin Cui, Binhang Yuan

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);LLM(summary_cn,abstract_cn)

AI总结 本文提出HexiScale系统,通过异构GPU实现训练计算的灵活分配,提升资源利用效率,实验显示其在不同规模LLM训练中性能优于传统同构和异构系统。

Comments MLSys 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.13624 2026-05-14 cs.CL 90%

Edit-level Majority Voting Mitigates Over-Correction in LLM-based Grammatical Error Correction

基于编辑层面多数投票的过纠正缓解方法:用于基于大语言模型的语法错误修正

Takumi Goto, Yusuke Sakai, Taro Watanabe

机构 * Nara Institute of Science and Technology(奈良科学技术研究所)

专题命中 效率与部署 :LLM(title,summary_cn);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文提出一种无需训练的推理方法,通过多候选生成模型进行编辑层面多数投票,缓解LLM在语法纠错中的过纠正问题,在多个语言基准测试中优于贪婪和MBR解码。

Comments BEA Workshop 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.07770 2026-05-14 cs.DC cs.CL 90%

ArcLight: A Lightweight LLM Inference Architecture for Many-Core CPUs

ArcLight:一种为多核CPU设计的轻量级大语言模型推理架构

Yuzhuang Xu, Xu Han, Yuxuan Li, Wanxiang Che

机构 * Harbin Institute of Technology(哈尔滨工业大学) Tsinghua University(清华大学)

专题命中 效率与部署 :LLM(title,summary_cn);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文提出ArcLight,一种为多核CPU优化的LLM推理架构,通过高效内存管理和线程调度及精细控制的张量并行性,解决多核CPU上的跨节点内存访问瓶颈,实现更高的推理吞吐量。

Comments Accepted by ACL 2026 Demo

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.13491 2026-05-14 cs.SE 89%

SieveFL: Hierarchical Runtime-Aware Pruning for Scalable LLM-Based Fault Localization

SieveFL:面向可扩展LLM故障定位的分层运行时感知剪枝

Mahdi Farzandway, Fatemeh Ghassemi

专题命中 效率与部署 :LLM(title,title_cn)

AI总结 SieveFL通过分层过滤机制提升LLM故障定位效率,通过预处理过滤减少候选方法数量,提升准确率和排名质量,无需使用前沿模型。

详情

展开后加载摘要…

URL PDF HTML 收藏
2508.14302 2026-05-14 cs.LG cs.AI cs.CL 89%

GLASS: Global-Local Aggregation for Inference-time Sparsification of LLMs

GLASS:用于LLM推理时稀疏化的全局-局部聚合

Amirmohsen Sattarifard, Sepehr Lavasani, Kunlin Zhang, Amirhossein Rajabpour, Hanlin Xu, Fengyu Sun, Negar Hassanpour, Chao Gao

机构 * Huawei Technologies Canada Co., Ltd.(华为技术加拿大公司) Huawei Technologies Ltd.(华为技术有限公司)

专题命中 效率与部署 :LLM(title_cn,summary_cn);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 GLASS通过融合全局和局部信号提升LLM推理时的稀疏化效果,尤其在短提示和长生成场景中表现优异,显著降低困惑度和KL散度,同时加快设备解码速度。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.12940 2026-05-14 cs.LG cs.AI 88%

The Expressivity Boundary of Probabilistic Circuits: A Comparison with Large Language Models

概率电路的表达性边界:与大语言模型的比较

Zhiyu Zhao, Xuejie Liu, Muhan Zhang, Anji Liu

机构 * School of Computing, National University of Singapore(新加坡国立大学计算机学院) Institute for Artificial Intelligence, Peking University(北京大学人工智能研究院) School of Intelligence Science and Technology, Peking University(北京大学智能科学与技术学院)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);分类 cs.AI、cs.LG

AI总结 本文比较概率电路与大语言模型在自回归框架下的表现,发现概率电路通过logit空间参数化和结构分解可缩小表达性差距,但其在异质依赖拓扑下仍存在表达限制。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.04804 2026-05-14 cs.CL 88%

OmniSIFT: Modality-Asymmetric Token Compression for Efficient Omni-modal Large Language Models

OmniSIFT: 多模态非对称令牌压缩用于高效的多模态大语言模型

Yue Ding, Yiyan Ji, Jungang Li, Xuyang Liu, Xinlong Chen, Junfei Wu, Bozhou Li, Bohan Zeng, Yang Shi, Yushuo Guan, Yuanxing Zhang, Jiaheng Liu, Qiang Liu, Pengfei Wan, Liang Wang

机构 * New Laboratory of Pattern Recognition (NLPR), Institute of Automation, Chinese Academy of Sciences (CASIA)(模式识别新实验室(NLPR)、自动化研究所、中国科学院(CASIA)) Nanjing University(南京大学) The Hong Kong University of Science(香港科学大学) Sichuan University(四川大学) Peking University(北京大学)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);分类 cs.CL

AI总结 OmniSIFT通过非对称令牌压缩框架提升多模态大语言模型效率,采用时空视频修剪和视觉引导音频选择模块,实现低参数高鲁棒性。

Comments [ICML 2026] Code Link: https://github.com/dingyue772/OmniSIFT

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.12898 2026-05-14 cs.SI cs.CL cs.CY 88%

When Do LLMs Generate Realistic Social Networks? A Multi-Dimensional Study of Culture, Language, Scale, and Method

当大型语言模型生成真实的社会网络时?文化、语言、规模和方法的多维研究

Sai Hemanth Kilaru, Sriram Theerdh Manikyala, Raghav Upadhyay, Sri Sai Kumar Ramavath, Srivika Nunavathu, Dalal Alharthi

机构 * University of Arizona(亚利桑那大学)

专题命中 效率与部署 :LLM(summary_cn,abstract);large language model(abstract);language model(abstract);prompting(abstract)

AI总结 本文通过多维度研究探讨LLM生成社会网络的可靠性,发现文化框架、提示语言和模型规模等因素显著影响网络结构,揭示提示设计对社会学假设的影响。

详情

展开后加载摘要…

URL PDF HTML 收藏
2408.12935 2026-05-14 cs.AI 88%

AI Safety Landscape for Large Language Models: Taxonomy, State-of-the-art, and Future Directions

大语言模型的安全性景观:分类、现状与未来方向

Chen Chen, Xueluan Gong, Ziyao Liu, Weifeng Jiang, Si Qi Goh, Kwok-Yan Lam

机构 * College of Computing and Data Science(计算与数据科学学院)

专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);分类 cs.AI

AI总结 本文提出新型框架,从可信AI、负责任AI和安全AI三个视角审视AI安全,综述当前研究进展,通过大语言模型等实例展示创新方法,旨在推动AI安全研究并提升数字转型信任度。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.10556 2026-05-14 cs.CV cs.LG 87%

EnergyLens: Interpretable Closed-Form Energy Models for Multimodal LLM Inference Serving

EnergyLens: 多模态大语言模型推理服务中的可解释闭式能量模型

Vittorio Palladino, Gianluca Palermo, Michael E. Papka, Zhiling Lan

机构 * University of Illinois Chicago(伊利诺伊大学香槟分校)

专题命中 效率与部署 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 针对多模态大语言模型推理服务中的能量优化问题,提出EnergyLens模型,通过符号回归发现结构,构建基于系统属性的闭式能量模型,实现可解释且高效的配置选择。

Comments 10 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.09861 2026-05-14 cs.DC cs.AR 86%

Lit Silicon: A Case Where Thermal Imbalance Couples Concurrent Execution in Multiple GPUs

Lit Silicon: 一个多GPU系统中热不平衡耦合并发执行的案例

Marco Kurzynski, Shaizeen Aga, Di Wu

专题命中 效率与部署 :LLM(summary_cn,abstract);large language model(abstract);language model(abstract)

AI总结 本文研究了多GPU系统中热不平衡与并发执行的关系,提出Lit Silicon效应,并设计了检测和缓解技术,通过实验验证了在LLM训练中可提升性能和节省电力成本。

Comments Accepted to the 53rd International Symposium on Computer Architecture (ISCA 2026)

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.04759 2026-05-14 cs.CL cs.AI cs.ET cs.LG 85%

Gyan: An Explainable Neuro-Symbolic Language Model

Gyan:一种可解释的神经符号语言模型

Venkat Srinivasan, Vishaal Jatav, Anushka Chandrababu, Geetika Sharma

机构 * Innospark Ventures & Gyan AI(Innospark Ventures及Gyan AI) Gyan AI Inc.(Gyan AI公司)

专题命中 效率与部署 :language model(title,abstract);large language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 Gyan基于非Transformer架构构建,克服了传统大语言模型的局限性,在多个数据集上取得SOTA表现,展示了可信任且可靠的使命关键任务模型潜力。

Comments also submitted to NeurIPS 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.07112 2026-05-14 cs.LG cs.AI 84%

FOAM: Blocked State Folding for Memory-Efficient LLM Training

FOAM:用于内存高效大语言模型训练的阻塞状态折叠

Ziqing Wen, Jiahuan Wang, Ping Luo, Dongsheng Li, Tao Sun

机构 * National Key Laboratory of Parallel and Distributed Computing(并行与分布式计算国家重点实验室) College of Computer Science and Technology(计算机科学与技术学院) National University of Defense Technology(国防科技大学)

专题命中 效率与部署 :LLM(title);large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 FOAM通过计算块级梯度均值压缩优化器状态,并引入残差校正以恢复丢失信息,从而减少内存开销并加速收敛。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.12517 2026-05-14 cs.CL cs.AI cs.CV 84%

Bridging the Missing-Modality Gap: Improving Text-Only Calibration of Vision Language Models

弥合缺失模态的差距:改进纯文本校准的视觉语言模型

Mingyeong Kim, Jungwon Choi, Chaeyun Jang, Juho Lee

机构 * Graduate School of AI, KAIST(人工智能研究生院,韩国科学技术院)

专题命中 效率与部署 :language model(title,abstract);prompting(abstract);分类 cs.CL、cs.AI

AI总结 本文提出Latent Imagination Module,通过预测文本输入的潜在嵌入来提升纯文本环境下视觉语言模型的准确性和校准性能。

Comments 9 pages, 16 figures. Accepted at the ICLR 2026 Workshop on Principled Design for Trustworthy AI: Interpretability, Robustness, and Safety across Modalities

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.13734 2026-05-14 cs.DC cs.AI cs.NI 83%

KVServe: Service-Aware KV Cache Compression for Communication-Efficient Disaggregated LLM Serving

KVServe: 服务感知的KV缓存压缩用于通信高效的解耦大语言模型服务

Zedong Liu, Xinyang Ma, Dejun Luo, Hairui Zhao, Bing Lu, Wenjing Huang, Yida Gu, Xingchen Liu, Zheng Wei, Jinyang Liu, Dingwen Tao, Guangming Tan

机构 * University of Chinese Academy of Sciences(中国科学院大学) Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所) Shanghai Jiao Tong University(上海交通大学)

专题命中 效率与部署 :LLM(title,abstract);分类 cs.AI

AI总结 KVServe通过服务感知和自适应的KV通信压缩框架,提升解耦大语言模型服务的效率,减少延迟和加速时间。

Comments Accepted by SIGCOMM 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.12904 2026-05-14 cs.LG 83%

VIP-COP: Context Optimization for Tabular Foundation Models

VIP-COP:表格基础模型的上下文优化

Yilong Chen, Xueying Ding, Leman Akoglu

机构 * Carnegie Mellon University(卡内基梅隆大学)

专题命中 效率与部署 :foundation model(title,abstract);pretraining(abstract);分类 cs.LG

AI总结 VIP-COP通过显式选择机制优化上下文,提升表格基础模型性能,具备快速、预算感知、黑盒兼容和可解释性等优势。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.13384 2026-05-14 cs.LG 81%

Teaching and Learning under Deductive Errors

在演绎错误下教学与学习

Jan Arne Telle, Brigt Håvardstun, Jose Hernandez-Orallo

机构 * Department of Informatics University of Bergen(卑尔根大学信息学院) University of Bergen(卑尔根大学) VRAIN - Universitat Politecnica de Valencia(瓦伦西亚理工大学VRAIN实验室) Universitat Politecnica de Valencia(瓦伦西亚理工大学) Leverhulme Centre for the Future of Intelligence - University of Cambridge(剑桥大学未来智能中心)

专题命中 效率与部署 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文研究了在存在演绎错误的教学与学习框架,分析了机器教学中如何通过PAC设定生成近似正确的假设,并探讨了计算复杂性及实验验证。

Comments 15 pages, preprint neurips

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.12814 2026-05-14 cs.SI cs.CL 81%

Linking Extreme Discourse to Structural Polarization in Signed Interaction Networks

将极端言论与结构极化联系起来:在带符号交互网络中

Zhijin Guo, Li Zhang, Tyler Bonnet, Janet B. Pierrehumbert, Xiaowen Dong

机构 * University of Oxford(牛津大学) University College London(伦敦大学学院) Imperial College London(伦敦帝国学院)

专题命中 效率与部署 :LLM(summary_cn,abstract);分类 cs.CL

AI总结 本文提出一种基于语言的带符号网络框架,通过LLM立场评分生成连续符号边权重,并利用两种互补指标量化结构极化,分析Reddit Brexit讨论中话语信号与结构极化的时间变化关系。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.12682 2026-05-14 cs.AI 81%

Learning Transferable Latent User Preferences for Human-Aligned Decision Making

学习可迁移的潜在用户偏好以实现人类对齐的决策制定

Alina Hyk, Sandhya Saisubramanian

机构 * Oregon State University(俄勒冈州立大学)

专题命中 效率与部署 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文提出CLIPR框架,通过少量对话输入学习可迁移的自然语言规则,以提升决策与人类偏好的对齐度并降低推理成本。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.12671 2026-05-14 cs.CL 81%

All Circuits Lead to Rome: Rethinking Functional Anisotropy in Circuit and Sheaf Discovery for LLMs

所有电路都通向罗马:重新思考用于大语言模型的电路和sheaf发现中的功能性各向异性

Xi Chen, Mingyu Jin, Jingcheng Niu, Yutong Yin, Jinman Zhao, Bangwei Guo, Dimitris N. Metaxas, Zhaoran Wang, Yutao Yue, Gerald Penn

机构 * Rutgers University(罗格斯大学) Northwestern University(西北大学) The Hong Kong University of Science and Technology (Guangzhou)(香港科学与技术大学(广州)) University of Toronto(多伦多大学)

专题命中 效率与部署 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文挑战了电路和sheaf发现中关于函数局部化的假设,展示单个任务可由多个结构不同的电路或sheaf支持,并提出Overlap-Aware Sheaf Repulsion方法以发现高表现低重叠的机制。

Comments ICML 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.13858 2026-05-14 cs.CV 80%

EDITS: Enhancing Dataset Distillation with Implicit Textual Semantics

EDITS: 通过隐式文本语义增强数据集蒸馏

Qianxin Xia, Jiawei Du, Guoming Lu, Zhiyong Shu, Jielei Wang

机构 * University of Electronic Science and Technology of China(电子科技大学) Centre for Frontier AI Research, Agency for Science, Technology and Research(前沿人工智能研究中心,科技研究局)

专题命中 效率与部署 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract)

AI总结 本文提出EDITS框架,利用图像数据中的隐式文本语义提升数据集蒸馏效果,通过全局语义查询模块融合外部文本与图像特征,结合局部语义意识选择代表性样本构建图像和文本原型,最终通过双原型引导策略生成合成数据集。

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.12942 2026-05-14 cs.CL cs.AI cs.LG 80%

A3 : an Analytical Low-Rank Approximation Framework for Attention

A3:一种用于注意力机制的分析低秩近似框架

Jeffrey T. H. Wong, Cheng Zhang, Xinye Cao, Pedro Gimenes, Christos-Savvas Bouganis, George A. Constantinides, Wayne Luk, Yiren Zhao

机构 * Department of Electrical and Electronic Engineering, Imperial College London(帝国理工学院伦敦校区电子与电气工程系)

专题命中 效率与部署 :large language model(abstract);language model(abstract);post-training(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出A3框架,通过将Transformer层分为QK、OV和MLP三个组件,提供分析解以减少隐藏维度并最小化功能损失,从而在不引入运行时开销的情况下降低模型大小、KV缓存大小和FLOPs,实验显示其性能优于现有方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.13647 2026-05-14 cs.CL 79%

FlowCompile: An Optimizing Compiler for Structured LLM Workflows

FlowCompile: 一种用于结构化大语言模型工作流的优化编译器

Junyan Li, Zhang-Wei Hong, Maohao Shen, Yang Zhang, Chuang Gan

机构 * UMass Amherst(马萨诸塞大学阿姆赫斯特分校) MIT-IBM Watson AI Lab(麻省理工-IBM沃森人工智能实验室)

专题命中 效率与部署 :LLM(title,abstract);分类 cs.CL

AI总结 本文提出FlowCompile,一种优化结构化大语言模型工作流的编译器,通过编译时设计空间探索生成高质量可重用配置集,实现准确率与延迟的平衡,实验表明其在多种工作流和基准测试中表现优异,速度提升达6.4倍。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.13375 2026-05-14 cs.CV cs.AI 79%

GRIP-VLM: Group-Relative Importance Pruning for Efficient Vision-Language Models

GRIP-VLM:基于组相对重要性的高效视觉-语言模型压缩

Mingzhe Huang, Weijun Wang, Xin Ding, Liang Mi, Hao Wen, Yuanchun Li, Lichen Pang, Shansong Yang, Yunxin Liu, Ting Cao

机构 * Institute for AI Industry Research (AIR), Tsinghua University(人工智能产业研究院(AIR),清华大学) Juhaokan Technology Co.,Ltd(极皓科技有限公司) Nanjing University(南京大学) University of Science and Technology of China(中国科学技术大学)

专题命中 效率与部署 :language model(title,abstract);分类 cs.AI

AI总结 GRIP-VLM通过强化学习框架解决视觉语言模型中大规模视觉token处理的计算瓶颈,通过组相对重要性策略优化实现高效压缩,达到15%的推理加速。

Comments 10 pages, 11 figures

详情

展开后加载摘要…

URL PDF HTML 收藏