MultiPath Memory Access: Breaking Host-GPU Bandwidth Bottlenecks in LLM Services
多路径内存访问:突破LLM服务中的主机-GPU带宽瓶颈
专题命中 长上下文与记忆 :LLM(title,title_cn)
AI总结 本文提出MMA系统,通过多路径内存访问技术提升主机与GPU间的数据传输效率,减少LLM服务中的延迟瓶颈。
AI 大模型
大语言模型、预训练、指令微调、后训练和语言模型应用。
多路径内存访问:突破LLM服务中的主机-GPU带宽瓶颈
专题命中 长上下文与记忆 :LLM(title,title_cn)
AI总结 本文提出MMA系统,通过多路径内存访问技术提升主机与GPU间的数据传输效率,减少LLM服务中的延迟瓶颈。
RealICU: 大语言模型能否理解长期上下文ICU数据?一个超越行为模仿的基准测试
机构 * Technical University of Munich(慕尼黑技术大学) ; TUM University Hospital(TUM大学医院) ; LMU Munich(慕尼黑大学) ; University of Sheffield(谢菲尔德大学) ; University of Oxford(牛津大学) ; Zhongshan Hospital Fudan University(复旦大学中山医院) ; Sun Yat-sen University Cancer Center(中山大学肿瘤中心) ; Imperial College London(伦敦帝国学院) ; Munich Center for Machine Learning(慕尼黑机器学习中心) ; relAI – Konrad Zuse School of Excellence in Reliable AI(relAI – 卡诺夫茨卓越可靠人工智能学校)
专题命中 长上下文与记忆 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 RealICU通过真实ICU场景评估大语言模型的长期上下文理解能力,提出四个医生驱动任务,揭示现有模型在临床推荐中的召回与安全性的权衡问题。
有用的记忆在由LLMs持续更新时会变得错误
机构 * University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校) ; IIIS, Tsinghua University(清华大学人工智能研究院)
专题命中 长上下文与记忆 :LLM(summary_cn,abstract);分类 cs.AI
AI总结 研究发现,即使基于有用经验,LLM生成的记忆在持续更新后可能失效,建议将原始事件作为首要证据并明确控制记忆巩固过程。
EconAI:动态身份演变与记忆感知代理在演变经济环境中的应用
专题命中 长上下文与记忆 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract)
AI总结 本文提出EconAI框架,通过经济情绪指数、记忆加权和动态决策机制,提升经济模拟的适应性和真实性,实现宏观与微观经济环境的统一模拟。
基于技能的视觉地理定位用于视觉-语言模型
机构 * Southwest Jiaotong University(西南交通大学) ; The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州)) ; Zhejiang University(浙江大学)
专题命中 长上下文与记忆 :language model(title,abstract);分类 cs.AI
AI总结 本文提出GeoSkill框架,通过技能图进化提升视觉语言模型的地理定位能力与自我进化能力,实验显示其在GeoRC任务中表现优异,且在外部数据集上具有良好的泛化能力。
通过超越128K上下文的泛化有效训练长上下文视觉-语言模型
机构 * CSE Department, HKUST(香港科技大学计算机科学与工程系)
专题命中 长上下文与记忆 :language model(title,abstract)
AI总结 本文研究了长上下文视觉-语言模型的持续预训练,通过平衡数据和检索优化,提出MMProLong模型在长文档VQA等任务中表现优异,且能扩展至更长上下文和多任务场景。
Comments work in progress
Engram是否在自回归图像生成中执行记忆检索?
机构 * The Chinese University of Hong Kong(香港中文大学) ; National University of Singapore(新加坡国立大学)
专题命中 长上下文与记忆 :large language model(abstract);language model(abstract);pretraining(abstract)
AI总结 研究探讨Engram模块在自回归图像生成中的作用,发现其虽节省计算量但未提升样本质量,且模块行为更像一个带门控的架构旁路而非内容寻址检索器。
Comments 9 pages
多任务多模态融合:基于表格基础模型的百日咳加强针反应峰值和持续性预测
机构 * Berlin, Germany(柏林,德国)
专题命中 长上下文与记忆 :foundation model(title);分类 cs.LG
AI总结 本文提出多任务对比多模态融合架构,用于预测百日咳加强针反应的峰值和持续性,通过结合冻结的TabPFN-v2模态编码器、双标签监督对比损失、模态dropout和缺失性掩码注意力融合,实现了对两个任务的联合预测。
Comments 22 pages, 8 figures, 4 tables. Code available at https://github.com/Divya1205/cmi-pb-multitask
印度人类-大象冲突在英语印刷媒体中的框架分析
机构 * Chhattisgarh Forest Department(恰特里什加尔森林部门)
专题命中 长上下文与记忆 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI
AI总结 本文通过大规模计算分析研究印度人类-大象冲突在英语媒体中的报道框架,揭示了恐惧和攻击性语言的主导地位,并提出透明可扩展的方法以促进负责任的野生动物报道。
R^2-Mem: 用于记忆搜索的反思经验
机构 * University of Science and Technology of China(中国科学技术大学)
专题命中 长上下文与记忆 :LLM(abstract,abstract_cn);分类 cs.CL
AI总结 R^2-Mem通过反思经验框架提升记忆搜索系统的有效性和效率,通过历史轨迹评分和自我反思学习,减少重复错误并提高搜索质量,实验表明其在F1分数提升和资源消耗降低方面表现优异。
GAAMA:用于智能体的图增强关联记忆
机构 * Nagarro(Nagarro公司)
专题命中 长上下文与记忆 :LLM(abstract,abstract_cn);分类 cs.AI
AI总结 GAAMA通过三步流程构建概念中介知识图,结合余弦相似度和个性化PageRank实现检索,通过GRaft修复知识图,提升多会话任务中的表现。
相位记忆网络:用于可扩展显式记忆的稳定反向传播通过时间
机构 * College of Pharmacy(药学院) ; Chungnam National University(Chungnam国立大学) ; Department of Computer Science & Engineering(计算机科学与工程系)
专题命中 长上下文与记忆 :language model(abstract);分类 cs.CL、cs.LG
AI总结 本文提出Phasor Memory Network,通过相位动力学和分层可学习锚点解决显式记忆的稳定性问题,实验证明其在Copy-Paste任务中达到高精确度,且在参数规模上超越了Mamba模型。
NAACA:无训练神经听觉注意力认知架构:具有振荡工作记忆的显著性驱动注意力门控
机构 * WAVES Research Group, Ghent University, Gent, Belgium(根特大学WAVES研究组,比利时根特) ; AI Lab, Vrije Universiteit Brussel, Brussel, Belgium(布鲁塞尔自由大学AI实验室,比利时布鲁塞尔) ; EECS, Queen Mary University of London, London, UK(伦敦大学学院女王学院电子工程与计算机科学系,英国伦敦)
专题命中 长上下文与记忆 :language model(abstract);分类 cs.AI
AI总结 NAACA通过振荡工作记忆实现听觉显著性过滤,提升音频理解精度并减少冗余处理,实验显示在XD-Violence数据集上AP提升17.1%。
Comments Accepted as a regular paper by ICML 2026
AIHarness工程:一种用于基础模型软件代理的运行时基质
机构 * Hong Kong Baptist University(香港 Baptist大学) ; Beijin Normal University(北京师范大学)
专题命中 长上下文与记忆 :foundation model(abstract);分类 cs.AI
AI总结 本文提出AIHarness工程,通过运行时基质提升软件代理的工程能力,定义了十一项核心职责,并提出四层 ladder 框架和基于追踪的评估协议,以验证模型-基质-环境系统生成可验证、可归因和可维护的变更。
Comments 16 pages