arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-06-25 至 2026-06-25 共收录 16 信号源:cs.CL, cs.AI, cs.LG

1. 长上下文与记忆 16 篇

2403.11425 2026-06-25 cs.LG cs.CL 版本更新 92%

Narrative Feature or Structured Feature? A Study of Large Language Models to Identify Cancer Patients at Risk of Heart Failure

叙事特征还是结构化特征?大型语言模型识别癌症患者心力衰竭风险的研究

Ziyi Chen, Mengyuan Zhang, Mustafa Mohammed Ahmed, Yi Guo, Thomas J. George, Jiang Bian, Yonghui Wu

机构 * Department of Health Outcomes and Biomedical Informatics, College of Medicine, University of Florida(健康结局与生物医学信息学系,佛罗里达大学医学院) Division of Cardiovascular Medicine, Department of Medicine, College of Medicine, University of Florida(心血管医学部,医学院,佛罗里达大学) Division of Hematology & Oncology, Department of Medicine, College of Medicine, University of Florida(血液学与肿瘤学部,医学院,佛罗里达大学)

专题命中 长上下文与记忆 :LLM(summary_cn,abstract);large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.LG

AI总结 本研究利用电子健康记录,比较传统机器学习、T-LSTM和大型语言模型(LLM)在识别癌症患者心力衰竭风险上的表现,LLM(GatorTron-3.9B)通过叙事特征取得最佳F1分数,优于其他模型。

Comments 10 pages, 4 figures, 5 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.25161 2026-06-25 cs.AI 新提交 90%

TRUSTMEM: Learning Trustworthy Memory Consolidation for LLM Agents with Long-Term Memory

TRUSTMEM:学习具有长期记忆的LLM智能体的可信记忆巩固

Tianyu Yang, Sudipta Paul, Vijay Srinivasan, Vivek Kulkarni, Srinivas Chappidi

机构 * AI Center-Mountain View, Samsung Electronics(三星电子山景城AI中心) University of Notre Dame(圣母大学)

专题命中 长上下文与记忆 :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 提出TrustMem框架,通过记忆转换验证器评估更新过程,并利用偏好强化学习优化记忆更新行为,显著提升记忆效用和可靠性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.03785 2026-06-25 cs.CL cs.AI 版本更新 88%

Membox: Weaving Topic Continuity into Long-Range Memory for LLM Agents

Membox: 将主题连续性编织到LLM智能体的长期记忆中

Dehao Tao, Guoliang Ma, Yongfeng Huang, Minghu Jiang

机构 * Tsinghua University(清华大学) Xinjiang University(新疆大学)

专题命中 长上下文与记忆 :LLM(title,title_cn);分类 cs.CL、cs.AI

AI总结 提出Membox层次记忆架构,通过主题织机按局部主题组织对话,并通过轨迹织机跨会话链接宏主题轨迹,在LoCoMo和DialSim上显著提升长程记忆检索性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.24187 2026-06-25 cs.CV 新提交 88%

Towards Fast and Effective Long Video Understanding of Multimodal Large Language Models via Adaptive Quasi-Gaussian Sampling

面向多模态大语言模型的长视频快速有效理解:自适应准高斯采样

Kun Zhang, Chenxin Fang, Tao Chen, Baiyang Song, Yunhang Shen, Yiyi Zhou, Rongrong Ji

机构 * Key Laboratory of Multimedia Trusted Perception and Efficient Computing, Ministry of Education of China, Xiamen University(厦门大学多媒体可信感知与高效计算教育部重点实验室)

专题命中 长上下文与记忆 :large language model(title,abstract);language model(title,abstract)

AI总结 提出自适应无训练帧采样方法AdaQ,基于高斯分布3-σ规则动态调整采样区间,在仅用64帧下使Qwen3-VL-8B平均超越GPT4o 15.8%,显著提升长视频理解的鲁棒性和效率。

Comments NeurIPS 2026 submission. 15 pages, 8 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.25870 2026-06-25 quant-ph 83%

Evolving Quantum Error-Correcting Encodings for Molecular Simulation

面向分子模拟的量子纠错编码演化

Kenny Heitritter, James Brown, Tarini Hardikar

专题命中 长上下文与记忆 :LLM(summary_cn,abstract);language model(abstract)

AI总结 利用LLM驱动的演化程序合成,发现分子模拟中距离5和6的广义超快编码,并进一步通过压缩导向搜索获得结构化循环构造器。

Comments 16 pages including appendices, 4 figures, 8 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.23195 2026-06-25 cs.LG cs.AI cs.CL 新提交 83%

Memory Contagion: Cross-Temporal Propagation of Evaluator Bias via Agent Memory

记忆传染:通过智能体记忆的评估者偏见的跨时间传播

Zewen Liu

机构 * Independent Researcher(独立研究员)

专题命中 长上下文与记忆 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 研究大型语言模型智能体记忆中评估者偏见通过记忆存储跨时间传播的现象,发现即使完美记忆整合也会导致偏见传播,且无安全阈值。

Comments 12 pages, 3 figures, 4 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.25115 2026-06-25 cs.LG cs.NI 新提交 83%

Forget to Improve: On-Device LLM-Agent Continual Learning via Budget-Curated Memory

遗忘以改进:通过预算策划内存的设备端LLM智能体持续学习

Beining Wu, Zihao Ding, Jun Huang, Yanxiao Zhao

机构 * Apple(苹果) Google(谷歌) Microsoft(微软) Meta Alibaba(阿里巴巴)

专题命中 长上下文与记忆 :LLM(title,title_cn);分类 cs.LG

AI总结 提出净价值每字节评分机制,在设备端智能体内存中权衡价值与危害,实现预算约束下的记忆保留、共享与信任决策,降低内存和上行带宽并防御注入攻击。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.00288 2026-06-25 cs.AI 版本更新 81%

Model-Native Computing Architecture: Envisioning Future System Architecture Through the Lens of Computer Architecture

模型原生计算架构:通过计算机架构的视角展望未来系统架构

Hai Lin, Hoilam Pao, Shaoxiong Zhan, Hai-Tao Zheng

机构 * Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院) Pengcheng Laboratory, Shenzhen, China(深圳鹏城实验室)

专题命中 长上下文与记忆 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文通过类比计算机架构,提出模型原生计算的概念,并设计了一个六层智能计算架构模型(ICAM),以统一解决大语言模型在系统层面面临的缓存、上下文、调度等问题。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.05097 2026-06-25 cs.LG cs.AI cs.CL 版本更新 78%

Continual Knowledge Updating in LLM Systems: Learning Through Multi-Timescale Memory Dynamics

连续知识更新在大语言模型系统中:通过多时间尺度记忆动态学习

Andreas Pattichis, Constantine Dovrolis

机构 * The Cyprus Institute, Nicosia, Cyprus(塞浦路斯研究所,尼科西亚,塞浦路斯)

专题命中 长上下文与记忆 :LLM(title);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出基于多时间尺度动态的记忆机制,通过耦合内部变量实现知识的持续更新与学习,重构外部记忆作为学习的基础 substrates。

Comments Accepted as a poster at the ICML 2026 Workshop "Continual Adaptation at Scale: Towards Sustainable AI" (CATS@ICML 2026). 9 pages, 2 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.02596 2026-06-25 cs.CL 版本更新 77%

An Empirical Study of Many-Shot In-Context Learning for Machine Translation of Low-Resource Languages

面向低资源语言机器翻译的多示例上下文学习的实证研究

Yinhan Lu, Gaganpreet Jhajj, Chen Zhang, Anietie Andy, David Ifeoluwa Adelani

机构 * Mila – Quebec AI Institute(魁北克人工智能研究所) McGill University(麦吉尔大学) Athabasca University(阿特拉斯大学) Peking University(北京大学) Howard University(霍华德大学)

专题命中 长上下文与记忆 :LLM(abstract_cn);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本研究实证分析多示例上下文学习在低资源语言机器翻译中的效果,发现BM25检索可大幅提升数据效率,且ICL能在微调基础上带来额外增益。

Comments 24 pages, 3 figures, 20 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.25632 2026-06-25 cs.CL cs.AI 新提交 73%

Staying In Character: Perspective-Bounded Memory For Book-Based Role-Playing Agents

保持角色:基于书籍的角色扮演智能体的视角受限记忆

Xushuo Tang, Junhe Zhang, Zihan Yang, Yifu Tang, Sichao Li, Longbin Lai, Zhengyi Yang

机构 * UNSW Sydney(新南威尔士大学悉尼分校) University of Sydney(悉尼大学) Chang’an University(长安大学) RAIDS Lab(RAIDS实验室) Tongyi Lab, Alibaba Group(阿里巴巴集团通义实验室)

专题命中 长上下文与记忆 :LLM(abstract,abstract_cn);分类 cs.CL、cs.AI

AI总结 提出REVERIEMEM三层记忆架构(情节层、语义层、个性层),解决长叙事角色扮演中的事实越界和风格单调问题,在KBF-QA基准上知识边界保真度提升34.6个百分点,在BOOKWORLD中胜率约79%。

详情

展开后加载摘要…

URL PDF HTML 收藏
2507.06457 2026-06-25 cs.CL 版本更新 70%

A Systematic Analysis of Hybrid Linear Attention

混合线性注意力机制的系统分析

Dustin Wang, Rui-Jie Zhu, Steven Abreu, Yong Shan, Taylor Kergan, Yuqi Pan, Yuhong Chou, Zheng Li, Jibin Wu, Ge Zhang, Wenhao Huang, Jason Eshraghian

机构 * UC Santa Cruz(加州大学圣克鲁兹分校) ByteDance Seed(字节跳动种子) University of Groningen(格罗宁根大学) CASIA(中国科学院自动化研究所) PolyU M-A-P

专题命中 长上下文与记忆 :language model(abstract);prompting(abstract);分类 cs.CL

AI总结 系统评估六种线性注意力变体在独立和混合架构下的性能,发现独立性能优越的模型在混合中不一定表现好,推荐HGRN-2或GatedDeltaNet以3:1至6:1的线性-全注意力比例达到Transformer级召回率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.25658 2026-06-25 cs.CV 新提交 67%

Towards a Dynamic and Fixed-budget Memory Bank for Efficient Streaming Video Understanding

面向高效流式视频理解的动态固定预算记忆库

Baiyang Song, Yuli Lin, Qiong Wu, Tao Chen, Jun Peng, Xiao Chen, Yiyi Zhou, Rongrong Ji

机构 * Xiamen University(厦门大学)

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 提出无训练方法CausalMem,通过在线语义基动态更新记忆库,在有限预算下最大化流式视频信息量,实现20倍视觉令牌压缩和82MB存储。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.24896 2026-06-25 cs.DL cs.CY 新提交 67%

Why Memory Components Fail: Eight Years of License and Sustainability Events in Open-Source Data Infrastructure

为什么内存组件会失败:开源数据基础设施中八年的许可和可持续性事件

Dmitrii Dmitrenko

专题命中 长上下文与记忆 :LLM(abstract,abstract_cn)

AI总结 本文通过分析105个开源数据基础设施项目,发现24%的项目遭遇许可或可持续性事件,其中单一供应商风投支持项目的发生率是基金会治理项目的19倍,并提出六字段决策工具。

Comments 14 pages, 6 tables. Supplementary dataset (105 projects, 39 events) on Zenodo: https://doi.org/10.5281/zenodo.20562988

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.25361 2026-06-25 cs.CL cs.AI cs.IR 新提交 62%

Memory Makes the Difference: Evaluating How Different Memory Roles Shape Conversational Agents

记忆决定差异:评估不同记忆角色如何塑造对话代理

Yuxin Wang, Paul Thomas, Zhiwei Yu, Yuan Gao, Saeed Hassanpour, Soroush Vosoughi, Robert Sim, Nick Craswell

机构 * Dartmouth College(达特茅斯学院) Microsoft(微软公司)

专题命中 长上下文与记忆 :LLM(abstract_cn);分类 cs.CL、cs.AI

AI总结 本研究提出对话记忆细粒度分类法,通过用户中心评估框架,揭示不同类型记忆(如澄清记忆、无关记忆)对RAG对话系统响应准确性、个性化及主题相关性的差异化影响。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.25136 2026-06-25 cs.RO 新提交 50%

Memory Retrieval in Visuomotor Policies for Long-Horizon Robot Control

视觉运动策略中的记忆检索用于长期机器人控制

Rutav Shah, Yisu Li, Femi Bello, Yuke Zhu, Roberto Martín-Martín

机构 * The University of Texas at Austin(德克萨斯大学奥斯汀分校)

专题命中 长上下文与记忆 :language model(abstract)

AI总结 提出HALO策略,通过注意力记忆检索机制和视觉语言模型先验蒸馏,解决长期控制中的虚假相关和记忆误差累积问题,实现从长达8分钟历史中检索任务相关信息。

Comments 16 pages, 5 tables, 8 figures

详情

展开后加载摘要…

URL PDF HTML 收藏