arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-05-14 至 2026-05-14 共收录 14 信号源:cs.CL, cs.AI, cs.LG

1. 长上下文与记忆 14 篇

2512.16056 2026-05-14 cs.DC cs.NI cs.PF 89%

MultiPath Memory Access: Breaking Host-GPU Bandwidth Bottlenecks in LLM Services

多路径内存访问:突破LLM服务中的主机-GPU带宽瓶颈

Lingfeng Tang, Daoping Zhang, Junjie Chen, Peihao Huang, Feng Jin, Chengguang Xu, Yuxin Chen, Feiqiang Sun, Guo Chen

专题命中 长上下文与记忆 :LLM(title,title_cn)

AI总结 本文提出MMA系统,通过多路径内存访问技术提升主机与GPU间的数据传输效率,减少LLM服务中的延迟瓶颈。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.13542 2026-05-14 cs.AI cs.CL cs.LG cs.MA 88%

RealICU: Do LLM Agents Understand Long-Context ICU Data? A Benchmark Beyond Behavior Imitation

RealICU: 大语言模型能否理解长期上下文ICU数据?一个超越行为模仿的基准测试

Chengzhi Shen, Weixiang Shen, Tobias Susetzky, Chen, Chen, Jun Li, Yuyuan Liu, Xuepeng Zhang, Zhenyu Gong, Daniel Rueckert, Jiazhen Pan

机构 * Technical University of Munich(慕尼黑技术大学) TUM University Hospital(TUM大学医院) LMU Munich(慕尼黑大学) University of Sheffield(谢菲尔德大学) University of Oxford(牛津大学) Zhongshan Hospital Fudan University(复旦大学中山医院) Sun Yat-sen University Cancer Center(中山大学肿瘤中心) Imperial College London(伦敦帝国学院) Munich Center for Machine Learning(慕尼黑机器学习中心) relAI – Konrad Zuse School of Excellence in Reliable AI(relAI – 卡诺夫茨卓越可靠人工智能学校)

专题命中 长上下文与记忆 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 RealICU通过真实ICU场景评估大语言模型的长期上下文理解能力,提出四个医生驱动任务,揭示现有模型在临床推荐中的召回与安全性的权衡问题。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.12978 2026-05-14 cs.AI 81%

Useful Memories Become Faulty When Continuously Updated by LLMs

有用的记忆在由LLMs持续更新时会变得错误

Dylan Zhang, Yanshan Lin, Zhengkun Wu, Yihang Sun, Bingxuan Li, Dianqi Li, Hao Peng

机构 * University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校) IIIS, Tsinghua University(清华大学人工智能研究院)

专题命中 长上下文与记忆 :LLM(summary_cn,abstract);分类 cs.AI

AI总结 研究发现,即使基于有用经验,LLM生成的记忆在持续更新后可能失效,建议将原始事件作为首要证据并明确控制记忆巩固过程。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.13762 2026-05-14 cs.MA 80%

EconAI: Dynamic Persona Evolution and Memory-Aware Agents in Evolving Economic Environments

EconAI:动态身份演变与记忆感知代理在演变经济环境中的应用

Annie Liu, Zane Cao, Lang Chen, Zongxin Xu, Zigan Wang

专题命中 长上下文与记忆 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract)

AI总结 本文提出EconAI框架,通过经济情绪指数、记忆加权和动态决策机制,提升经济模拟的适应性和真实性,实现宏观与微观经济环境的统一模拟。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.09025 2026-05-14 cs.CV cs.AI 79%

Skill-Conditioned Visual Geolocation for Vision-Language Models

基于技能的视觉地理定位用于视觉-语言模型

Chenjie Yang, Yutian Jiang, Yutong Deng, Chenyu Wu

机构 * Southwest Jiaotong University(西南交通大学) The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州)) Zhejiang University(浙江大学)

专题命中 长上下文与记忆 :language model(title,abstract);分类 cs.AI

AI总结 本文提出GeoSkill框架,通过技能图进化提升视觉语言模型的地理定位能力与自我进化能力,实验显示其在GeoRC任务中表现优异,且在外部数据集上具有良好的泛化能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.13831 2026-05-14 cs.CV 78%

Training Long-Context Vision-Language Models Effectively with Generalization Beyond 128K Context

通过超越128K上下文的泛化有效训练长上下文视觉-语言模型

Zhaowei Wang, Lishu Luo, Haodong Duan, Weiwei Liu, Sijin Wu, Ji Luo, Shen Yan, Shuai Peng, Sihang Yuan, Chaoyi Huang, Yi Lin, Yangqiu Song

机构 * CSE Department, HKUST(香港科技大学计算机科学与工程系)

专题命中 长上下文与记忆 :language model(title,abstract)

AI总结 本文研究了长上下文视觉-语言模型的持续预训练,通过平衡数据和检索优化,提出MMProLong模型在长文档VQA等任务中表现优异,且能扩展至更长上下文和多任务场景。

Comments work in progress

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.13179 2026-05-14 cs.CV 75%

Does Engram Do Memory Retrieval in Autoregressive Image Generation?

Engram是否在自回归图像生成中执行记忆检索?

Jinghao Wang, Qiyuan He, Chunbin Gu, Pheng-Ann Heng

机构 * The Chinese University of Hong Kong(香港中文大学) National University of Singapore(新加坡国立大学)

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract);pretraining(abstract)

AI总结 研究探讨Engram模块在自回归图像生成中的作用,发现其虽节省计算量但未提升样本质量,且模块行为更像一个带门控的架构旁路而非内容寻址检索器。

Comments 9 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.12852 2026-05-14 cs.LG q-bio.QM 74%

Multitask Multimodal Fusion with Tabular Foundation Models for Peak and Durability Prediction of Pertussis Booster Response

多任务多模态融合:基于表格基础模型的百日咳加强针反应峰值和持续性预测

Divya Sitani

机构 * Berlin, Germany(柏林,德国)

专题命中 长上下文与记忆 :foundation model(title);分类 cs.LG

AI总结 本文提出多任务对比多模态融合架构,用于预测百日咳加强针反应的峰值和持续性,通过结合冻结的TabPFN-v2模态编码器、双标签监督对比损失、模态dropout和缺失性掩码注意力融合,实现了对两个任务的联合预测。

Comments 22 pages, 8 figures, 4 tables. Code available at https://github.com/Divya1205/cmi-pb-multitask

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.21496 2026-05-14 cs.AI cs.CL cs.CY 73%

How English Print Media Frames Human-Elephant Conflicts in India

印度人类-大象冲突在英语印刷媒体中的框架分析

Bonala Sai Punith, Salveru Jayati, Garima Shakya, Shubham Kumar Nigam

机构 * Chhattisgarh Forest Department(恰特里什加尔森林部门)

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 本文通过大规模计算分析研究印度人类-大象冲突在英语媒体中的报道框架,揭示了恐惧和攻击性语言的主导地位,并提出透明可扩展的方法以促进负责任的野生动物报道。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.13486 2026-05-14 cs.CL 70%

R^2-Mem: Reflective Experience for Memory Search

R^2-Mem: 用于记忆搜索的反思经验

Xinyuan Wang, Wenyu Mao, Junkang Wu, Xiang Wang, Xiangnan He

机构 * University of Science and Technology of China(中国科学技术大学)

专题命中 长上下文与记忆 :LLM(abstract,abstract_cn);分类 cs.CL

AI总结 R^2-Mem通过反思经验框架提升记忆搜索系统的有效性和效率,通过历史轨迹评分和自我反思学习,减少重复错误并提高搜索质量,实验表明其在F1分数提升和资源消耗降低方面表现优异。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.27910 2026-05-14 cs.AI cs.IR cs.MA 70%

GAAMA: Graph Augmented Associative Memory for Agents

GAAMA:用于智能体的图增强关联记忆

Swarna Kamal Paul, Shubhendu Sharma, Nitin Sareen

机构 * Nagarro(Nagarro公司)

专题命中 长上下文与记忆 :LLM(abstract,abstract_cn);分类 cs.AI

AI总结 GAAMA通过三步流程构建概念中介知识图,结合余弦相似度和个性化PageRank实现检索,通过GRaft修复知识图,提升多会话任务中的表现。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.13370 2026-05-14 cs.LG cs.CL 62%

Phasor Memory Networks: Stable Backpropagation Through Time for Scalable Explicit Memory

相位记忆网络:用于可扩展显式记忆的稳定反向传播通过时间

Sungwoo Goo, Hwi-yeol Yun, Sangkeun Jung

机构 * College of Pharmacy(药学院) Chungnam National University(Chungnam国立大学) Department of Computer Science & Engineering(计算机科学与工程系)

专题命中 长上下文与记忆 :language model(abstract);分类 cs.CL、cs.LG

AI总结 本文提出Phasor Memory Network,通过相位动力学和分层可学习锚点解决显式记忆的稳定性问题,实验证明其在Copy-Paste任务中达到高精确度,且在参数规模上超越了Mamba模型。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.13651 2026-05-14 cs.SD cs.AI 57%

NAACA: Training-Free NeuroAuditory Attentive Cognitive Architecture with Oscillatory Working Memory for Salience-Driven Attention Gating

NAACA:无训练神经听觉注意力认知架构:具有振荡工作记忆的显著性驱动注意力门控

Zhongju Yuan, Geraint Wiggins, Dick Botteldooren

机构 * WAVES Research Group, Ghent University, Gent, Belgium(根特大学WAVES研究组,比利时根特) AI Lab, Vrije Universiteit Brussel, Brussel, Belgium(布鲁塞尔自由大学AI实验室,比利时布鲁塞尔) EECS, Queen Mary University of London, London, UK(伦敦大学学院女王学院电子工程与计算机科学系,英国伦敦)

专题命中 长上下文与记忆 :language model(abstract);分类 cs.AI

AI总结 NAACA通过振荡工作记忆实现听觉显著性过滤,提升音频理解精度并减少冗余处理,实验显示在XD-Violence数据集上AP提升17.1%。

Comments Accepted as a regular paper by ICML 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.13357 2026-05-14 cs.SE cs.AI 57%

AI Harness Engineering: A Runtime Substrate for Foundation-Model Software Agents

AIHarness工程:一种用于基础模型软件代理的运行时基质

Hailin Zhong, Shengxin Zhu

机构 * Hong Kong Baptist University(香港 Baptist大学) Beijin Normal University(北京师范大学)

专题命中 长上下文与记忆 :foundation model(abstract);分类 cs.AI

AI总结 本文提出AIHarness工程,通过运行时基质提升软件代理的工程能力,定义了十一项核心职责,并提出四层 ladder 框架和基于追踪的评估协议,以验证模型-基质-环境系统生成可验证、可归因和可维护的变更。

Comments 16 pages

详情

展开后加载摘要…

URL PDF HTML 收藏