arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-03-24 至 2026-03-24 共收录 23 信号源:cs.CL, cs.AI, cs.LG

1. 长上下文与记忆 23 篇

2603.20578 2026-03-24 cs.AI 89%

Context Cartography: Toward Structured Governance of Contextual Space in Large Language Model Systems

上下文制图:迈向大型语言模型系统中上下文空间的结构化治理

Zihua Wu, Georg Gartner

机构 * NVIDIA(英伟达) Research Division Cartography, TU Wien(地图研究部,维也纳技术大学)

专题命中 长上下文与记忆 :large language model(title,abstract);language model(title,abstract);LLM(abstract);分类 cs.AI

AI总结 本文提出Context Cartography框架,通过定义三区模型和七种制图操作,系统治理上下文空间的结构与信息流动,验证其在实际系统中的有效性。

Comments 31 pages, 2 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.21278 2026-03-24 cs.CL cs.AI cs.HC 86%

Conversation Tree Architecture: A Structured Framework for Context-Aware Multi-Branch LLM Conversations

对话树架构:一种面向上下文感知多分支LLM对话的结构化框架

Pranav Hemanth, Sampriti Saha

机构 * Pandemonium Research(Pandemonium研究院)

专题命中 长上下文与记忆 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 本文提出对话树架构(CTA),通过层次化结构管理LLM对话,解决传统扁平结构导致的上下文污染问题,提供结构化对话上下文管理方法。

Comments 6 pages, 1 figure. Prototype available at https://the-conversation-tree.vercel.app/app

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.21321 2026-03-24 cs.AI cs.CL 79%

Improving Coherence and Persistence in Agentic AI for System Optimization

提升系统优化代理AI的连贯性与持续性

Pantea Karimi, Kimia Noorbakhsh, Mohammad Alizadeh, Hari Balakrishnan

机构 * MIT(麻省理工学院)

专题命中 长上下文与记忆 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 本文提出Engram架构,通过解耦长周期探索与单一上下文窗口约束,提升代理AI在多领域系统优化中的连贯性和持续性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.20215 2026-03-24 cs.CL cs.LG 79%

Multi-Agent Debate with Memory Masking

具有记忆掩码的多智能体辩论

Hongduan Tian, Xiao Feng, Ziyuan Zhao, Xiangyu Zhu, Rolan Yan, Bo Han

机构 * TMLR Group, Hong Kong Baptist University(香港 Baptist 大学 TMLR 团队) Search Algorithm Group, WeChat, Tencent(微信搜索算法团队,腾讯)

专题命中 长上下文与记忆 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.LG

AI总结 本文提出MAD-M$^2$框架,通过在每轮辩论前屏蔽错误记忆以提升多智能体辩论的鲁棒性,实验证明其在数学和逻辑推理任务中表现更优。

Comments ICLR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.21719 2026-03-24 cs.CL 77%

Probing How Scalable Table Data Enhances General Long-Context Reasoning

探究表格数据如何提升长上下文推理的可扩展性

Huaibing Xie, Guoliang Zhao, Yang Liu, Shihan Dou, Siming Huang, Yanling Xiao, Shaolei Wang, Yiting Liu, Cheng Zhang, Shaofan Liu, Pluto Zhou

机构 * Large Language Model Department, Tencent(腾讯大语言模型部门) Xi'an Jiaotong University, Xi'an, China(西安交通大学) Fudan University, Shanghai, China(复旦大学)

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract);post-training(abstract);分类 cs.CL

AI总结 本文研究表格数据对长上下文推理的增强作用,通过分析表格依赖结构揭示周期性非消失依赖,并提出TableLong框架提升推理能力,实验显示在多个基准上提升8.24%。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.21663 2026-03-24 cs.CL 77%

TAMTRL: Teacher-Aligned Reward Reshaping for Multi-Turn Reinforcement Learning in Long-Context Compression

TAMTRL:教师对齐的奖励重塑用于长上下文压缩中的多轮强化学习

Li Wang, Yandong Wang, Xin Yu, Kui Zhang, Tianhao Peng, Wenjun Wu

机构 * School of Artificial Intelligence, Beihang University(北京航空航天大学人工智能学院) Hangzhou International Innovation Institute, Beihang University(北京航空航天大学杭州国际创新研究院) Beijing Advanced Innovation Center for Future Blockchain and Privacy Computing, Beihang University(北京航空航天大学未来区块链与隐私计算先进创新中心)

专题命中 长上下文与记忆 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 针对多轮强化学习中长上下文压缩的信用分配问题,TAMTRL通过教师信号对齐和自监督奖励分配提升记忆更新质量,实验显示其在多个基准测试中优于基线方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.21520 2026-03-24 cs.CL 77%

Generalizable Self-Evolving Memory for Automatic Prompt Optimization

通用可推广的自我进化记忆用于自动提示优化

Guanbao Liang, Yuanchen Bei, Sheng Zhou, Yuheng Qin, Huan Zhou, Bingxin Jia, Bin Li, Jiajun Bu

机构 * Zhejiang University(浙江大学) University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校) Alibaba Group(阿里巴巴集团)

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract);prompting(abstract);分类 cs.CL

AI总结 本文提出MemAPO框架,通过双记忆机制积累可推广的提示经验,提升提示优化的泛化能力和持续改进能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.18173 2026-03-24 cs.CL 77%

Moneyball with LLMs: Analyzing Tabular Summarization in Sports Narratives

Moneyball with LLMs: 分析体育叙事中的表格摘要

Ritam Upadhyay, Naman Ahuja, Rishabh Baral, Aparna Garimella, Vivek Gupta

机构 * School of Computing and Augmented Intelligence, Arizona State University(计算与增强智能学院,亚利桑那州立大学) Adobe Research, India(印度Adobe研究)

专题命中 长上下文与记忆 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文通过SPORTABSET基准测试,分析长上下文表格摘要中多实体记忆的瓶颈,揭示分解策略在多实体干扰下的表现及模型鲁棒性问题。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.20441 2026-03-24 cs.CL 77%

A Training-Free Regeneration Paradigm: Contrastive Reflection Memory Guided Self-Verification and Self-Improvement

无训练再生范式:对比反思记忆引导的自验证与自改进

Yuran Li, Di Wu, Benoit Boulet

机构 * Department of Electrical and Computer Engineering, McGill University(麦吉尔大学电气与计算机工程系) Department of Mechanical, Industrial and Aerospace Engineering, Concordia University(Concordia大学机械、工业与航空航天工程系)

专题命中 长上下文与记忆 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文提出一种无需训练的再生范式,利用离线整理的对比反思记忆提供纠正指导,通过从头再生突破错误推理,提升大语言模型输出准确性。

Comments 18 pages, 5 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.20270 2026-03-24 cs.AI 77%

FactorSmith: Agentic Simulation Generation via Markov Decision Process Decomposition with Planner-Designer-Critic Refinement

FactorSmith: 通过马尔可夫决策过程分解实现代理模拟生成

Ali Shamsaddinlou, Morteza NourelahiAlamdari

机构 * Ali Shamsaddinlou(阿里·沙姆萨丁卢) Morteza NourelahiAlamdari(莫尔塔扎·努尔埃拉希阿尔马达里)

专题命中 长上下文与记忆 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文提出FactorSmith框架,通过分解POMDP实现从文本描述生成可执行模拟,结合分解策略与分层代理工作流提升生成质量。

详情

展开后加载摘要…

URL PDF HTML 收藏
2507.12442 2026-03-24 cs.AR cs.AI cs.LG cs.SY eess.SY 76%

Characterizing State Space Model and Hybrid Language Model Performance with Long Context

通过长上下文分析状态空间模型和混合语言模型的性能

Saptarshi Mitra, Rachid Karami, Haocheng Xu, Sitao Huang, Hyoukjun Kwon

专题命中 长上下文与记忆 :language model(title);分类 cs.AI、cs.LG

AI总结 本文研究了长上下文推理中Transformer、状态空间模型(SSM)及混合模型的性能差异,发现SSM在处理长上下文时效率显著高于Transformer,且内存占用更低。

Comments 13 pages, 7 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.20286 2026-03-24 cs.IR 75%

Rethinking Retrieval-Augmentation as Synthesis: A Query-Aware Context Merging Approach

重新思考检索增强作为合成:一种查询感知的上下文合并方法

Jiarui Guo, Yuemeng Xu, Zongwei Lv, Yangyujia Wang, Xiaolin Wang, Kan Liu, Tao Lan, Lin Qu, Tong Yang

专题命中 长上下文与记忆 :LLM(abstract);large language model(abstract);language model(abstract)

AI总结 本文提出MergeRAG框架,通过查询感知合成优化检索增强过程,提升信息密度和效率,实验表明在F1和精确匹配上优于现有方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.21564 2026-03-24 cs.IR cs.AI cs.IT cs.SI math.IT 74%

Toward a Theory of Hierarchical Memory for Language Agents

迈向语言智能体的分层记忆理论

Yashar Talebirad, Ali Parsaee, Csongor Y. Szepesvari, Amirhossein Nadiri, Osmar Zaiane

机构 * University of Alberta(阿尔伯塔大学) York University(约克大学)

专题命中 长上下文与记忆 :language agent(title);分类 cs.AI

AI总结 本文提出分层记忆理论,通过三个操作符统一描述语言智能体的上下文处理机制,分析代表函数的自足谱并展示其在不同系统中的应用。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.20432 2026-03-24 cs.CL cs.AI 73%

Coding Agents are Effective Long-Context Processors

编码代理是有效的长上下文处理器

Weili Cao, Xunjian Yin, Bhuwan Dhingra, Shuyan Zhou

机构 * Duke University(杜克大学)

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 本文研究通过允许编码代理在文件系统中组织文本并使用其原生工具处理长上下文,发现编码代理在长上下文推理、检索增强生成和开放领域问答中表现优异,比现有最佳方法平均提升17.3%。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.20218 2026-03-24 cs.CL cs.LG 73%

An experimental study of KV cache reuse strategies in chunk-level caching systems

基于块级缓存系统的KV缓存重用策略实验研究

Samuel Cestola, Tianxiang Xia, Zheng Weiyan, Zheng Pengfei, Diego Didona

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract);分类 cs.CL、cs.LG

AI总结 本文通过实验探讨块级缓存系统中KV缓存重用策略的局限性与优化方法,提出一种融合现有技术的改进设计以提升准确性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.20357 2026-03-24 cs.CR cs.AI 70%

Memory poisoning and secure multi-agent systems

记忆污染与安全多智能体系统

Vicenç Torra, Maria Bras-Amorós

机构 * Department of Computing Science, Ume University, Ume , Sweden(瑞典乌梅大学计算机科学系) Departament of Mathematics, Universitat Politècnica de Catalunya, Catalonia, Spain(西班牙加泰罗尼亚理工大学数学系)

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文探讨了多智能体系统中记忆污染攻击的风险,分析了不同记忆系统类型的安全性,并提出基于密码学的缓解策略,强调了智能体交互中的实际风险及安全设计的重要性。

Comments 15 pages, 2 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.20279 2026-03-24 cs.CV 67%

SelfMOTR: Revisiting MOTR with Self-Generating Detection Priors

SelfMOTR:重新审视MOTR并采用自生成检测先验

Fabian Gülhan, Emil Mededovic, Yuli Wu, Johannes Stegmaier

机构 * Chair of Imaging and Computer Vision, RWTH Aachen University, Germany(图像与计算机视觉教研室,亚琛工业大学,德国)

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 本文提出SelfMOTR,一种无需检测器的多目标跟踪方法,通过自生成内部检测先验解耦提案发现与关联,展示了端到端Transformer跟踪器在复杂动态环境中的高性能。

Comments 18 pages, 7 figures, 7 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.21096 2026-03-24 cs.LG cs.AI cs.CL 67%

Mixture of Chapters: Scaling Learnt Memory in Transformers

章节混合:在变换器中扩展学习记忆

Tasmay Pankaj Tibrewal, Pritish Saha, Ankit Meda, Kunal Singh, Pradeep Moturi

机构 * IIT Kharagpur(印度理工学院Kharagpur分校) Fractal AI

专题命中 长上下文与记忆 :pretraining(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出学习稀疏内存银行,通过交叉注意力机制使变换器层检索存储知识,通过章节路由扩展内存容量,实验证明模型在预训练和指令微调中优于基线,展示显式关联记忆的补充能力。

Comments 20 pages, 2 figures, 8 tables. Accepted at ICLR 2026 New Frontiers in Associative Memory Workshop. Code available at https://github.com/Tasmay-Tibrewal/Memory

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.22096 2026-03-24 cs.AI 57%

GSEM: Graph-based Self-Evolving Memory for Experience Augmented Clinical Reasoning

基于图的自演化记忆:用于经验增强的临床推理

Xiao Han, Yuzheng Fan, Sendong Zhao, Haochun Wang, Bing Qin

机构 * Research Center for Social Computing and Interactive Robotics, Harbin Institute of Technology, China(社会计算与交互机器人研究中心,哈尔滨工业大学,中国)

专题命中 长上下文与记忆 :LLM(abstract);分类 cs.AI

AI总结 本文提出GSEM,一种基于图的自演化记忆框架,通过双层记忆图组织临床经验,捕捉决策结构与经验间的关系依赖,实现应用感知检索和在线反馈校准,实验显示在两个基准上均取得最高准确率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.21562 2026-03-24 cs.CV 50%

Exploring Multimodal Prompts For Unsupervised Continuous Anomaly Detection

探索多模态提示用于无监督连续异常检测

Mingle Zhou, Jiahui Liu, Jin Wan, Gang Li, Min Li

机构 * Key Laboratory of Computing Power Network(计算能力网络重点实验室) Information Security, Ministry of Education, Shandong Computer Science Center (National Supercomputer Center in Jinan), Qilu University of Technology (Shandong Academy of Sciences)(信息安全,教育部,山东计算机科学中心(济南国家超算中心),齐鲁工业大学(山东科学院)) Shandong Provincial Key Laboratory of Computing Power Internet(山东省计算能力互联网重点实验室) Service Computing, Shandong Fundamental Research Center for Computer Science(服务计算,山东省计算机基础研究中心) Faculty of Data Science, City University of Macau(数据科学学院,澳门城市大学)

专题命中 长上下文与记忆 :prompting(abstract)

AI总结 本文提出基于多模态提示的无监督连续异常检测框架,通过持续多模态提示记忆库和缺陷语义引导自适应融合机制提升检测精度与鲁棒性,实验表明在MVTec AD和VisA数据集上取得最优性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21460 2026-03-24 cs.HC 50%

Tell Me What I Missed: Interacting with GPT during Recalling of One-Time Witnessed Events

告诉我我错过了什么:在回忆一次目睹事件时与GPT互动

Suifang Zhou, Qi Gong, Ximing Shen, Ray LC

专题命中 长上下文与记忆 :LLM(abstract)

AI总结 研究探讨了在回忆一次性目睹事件时,用户如何与GPT交互,发现默认模式下用户更信任GPT输出,而引导模式下用户回忆与主观清晰度更一致,且不同条件下对事件中人物的合法性评价也不同。

Comments 19 pages, 9 figures, CHI 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.08935 2026-03-24 cs.RO cs.CV 50%

Expand Your SCOPE: Semantic Cognition over Potential-Based Exploration for Embodied Visual Navigation

拓展你的SCOPE:基于潜在探索的语义认知用于具身视觉导航

Ningnan Wang, Weihuang Chen, Liming Chen, Haoxuan Ji, Zhongyu Guo, Xuchong Zhang, Hongbin Sun

专题命中 长上下文与记忆 :language model(abstract)

AI总结 本文提出SCOPE框架,通过利用前沿信息驱动潜在探索,提升具身视觉导航中的决策质量与目标相关性,实验表明其在准确性和泛化能力上优于现有方法。

Comments Accepted to AAAI 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.09525 2026-03-24 cs.DC cs.OS 50%

TrEnv-X: Transparently Share Serverless Execution Environments Across Different Functions and Nodes

TrEnv-X:跨不同函数和节点透明共享无服务器执行环境

Jialiang Huang, Teng Ma, Zheng Liu, Sixing Lin, Kang Chen, Jinlei Jiang, Xia Liao, Yingdi Shan, Yongwei Wu, Ning Zhang, Mengting Lu, Tao Ma, Haifeng Gong, Mingxing Zhang

专题命中 长上下文与记忆 :LLM(abstract)

AI总结 TrEnv-X通过整合无服务器平台与操作系统及CXL/RDMA远程内存池,实现跨函数的可重用沙箱和内存模板,降低创建开销并提升内存弹性,实验表明其在P99延迟和内存使用上均有显著提升。

Comments Accepted by ACM Transactions on Computer Systems (TOCS)

详情

展开后加载摘要…

URL PDF HTML 收藏