arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

共收录 4789 信号源:cs.CL, cs.AI, cs.LG

1. 长上下文与记忆 4789 篇

2604.11563 2026-04-14 cs.CL cs.AI cs.LG 67%

Synthius-Mem: Brain-Inspired Hallucination-Resistant Persona Memory Achieving 94.4% Memory Accuracy and 99.6% Adversarial Robustness on LoCoMo

Synthius-Mem: 基于大脑启发的hallucination抵抗性人格记忆实现94.4%的记忆准确率和99.6%的对抗鲁棒性于LoCoMo

Artem Gadzhiev, Andrew Kislov

专题命中 长上下文与记忆 :LLM(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 Synthius-Mem通过结构化人格记忆系统在LoCoMo基准上实现94.4%的记忆准确率和99.6%的对抗鲁棒性,优于现有系统并超越人类表现。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.09494 2026-04-13 cs.CL cs.AI cs.IR cs.LG 67%

RecaLLM: Addressing the Lost-in-Thought Phenomenon with Explicit In-Context Retrieval

RecaLLM:通过显式上下文检索解决‘思维迷失’现象

Kyle Whitecross, Negin Rahimi

机构 * University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)

专题命中 长上下文与记忆 :language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 RecaLLM通过交替推理与显式上下文检索解决推理过程中因长上下文导致的检索性能下降问题,显著提升了RULER和HELMET基准测试表现。

Comments Code, data, and models available at https://github.com/kswhitecross/RecaLLM

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.08290 2026-04-10 cs.SE 67%

Tokalator: A Context Engineering Toolkit for Artificial Intelligence Coding Assistants

Tokalator:一个用于人工智能代码助手的上下文工程工具包

Vahid Farajijobehdar, İlknur Köseoğlu Sarı, Nazım Kemal Üre, Engin Zeydan

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 Tokalator为AI辅助开发提供上下文管理工具,包含实时预算监控、11个命令、九个计算器及17种大语言模型支持,通过50名开发者的调研发现指令文件注入和低相关性标签是主要预算消耗来源。

Comments 37 pages, 2 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.07658 2026-04-10 cs.LG cs.AI cs.CL 67%

Optimal Decay Spectra for Linear Recurrences

线性递归模型的最优衰减谱

Yang Cao

专题命中 长上下文与记忆 :language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出PoST框架,通过谱重参数化和位置自适应缩放,实现线性递归模型的最优衰减谱,提升长上下文处理能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.29483 2026-04-01 cs.AR cs.ET 67%

CXLRAMSim v1.0: System-Level Exploration of CXL Memory Expander Cards

CXLRAMSim v1.0:CXL内存扩展卡的系统级探索

Karan Pathak, David Atienza, Marina Zapater

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 本文提出CXLRAMSim,首个集成gem5的全系统模拟器,准确建模CXL设备在I/O总线的位置,支持未修改的Linux内核和软件栈,实现真实延迟带宽行为和与系统DRAM的真实交错。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.26053 2026-03-30 cs.AR 67%

Data Gravity and the Energy Limits of Computation

数据引力与计算的能量极限

Wonsuk Lee, Jehoshua Bruck

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 研究探讨了大脑与冯·诺依曼架构在计算与内存整合上的差异,提出数据引力概念,通过操作-操作数分离常数G_d量化数据传输与计算能耗比,揭示数据位置对能效的影响,指出高G_d值会限制AI发展。

Comments 7 pages. 0 figures. We present a mathematical framework that models the physical constraints governing the construction and interaction of operations (compute) and operands (data)

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.20279 2026-03-24 cs.CV 67%

SelfMOTR: Revisiting MOTR with Self-Generating Detection Priors

SelfMOTR:重新审视MOTR并采用自生成检测先验

Fabian Gülhan, Emil Mededovic, Yuli Wu, Johannes Stegmaier

机构 * Chair of Imaging and Computer Vision, RWTH Aachen University, Germany(图像与计算机视觉教研室,亚琛工业大学,德国)

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 本文提出SelfMOTR,一种无需检测器的多目标跟踪方法,通过自生成内部检测先验解耦提案发现与关联,展示了端到端Transformer跟踪器在复杂动态环境中的高性能。

Comments 18 pages, 7 figures, 7 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.21096 2026-03-24 cs.LG cs.AI cs.CL 67%

Mixture of Chapters: Scaling Learnt Memory in Transformers

章节混合:在变换器中扩展学习记忆

Tasmay Pankaj Tibrewal, Pritish Saha, Ankit Meda, Kunal Singh, Pradeep Moturi

机构 * IIT Kharagpur(印度理工学院Kharagpur分校) Fractal AI

专题命中 长上下文与记忆 :pretraining(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出学习稀疏内存银行,通过交叉注意力机制使变换器层检索存储知识,通过章节路由扩展内存容量,实验证明模型在预训练和指令微调中优于基线,展示显式关联记忆的补充能力。

Comments 20 pages, 2 figures, 8 tables. Accepted at ICLR 2026 New Frontiers in Associative Memory Workshop. Code available at https://github.com/Tasmay-Tibrewal/Memory

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.19571 2026-03-23 cs.CV 67%

CurveStream: Boosting Streaming Video Understanding in MLLMs via Curvature-Aware Hierarchical Visual Memory Management

CurveStream: 通过曲率感知的层次视觉记忆管理提升MLLMs在流媒体视频理解中的性能

Chao Wang, Xudong Tan, Jianjian Cao, Kangcong Li, Tao Chen

机构 * College of Future Information Technology, Fudan University(未来信息科技学院,复旦大学) Shanghai Innovation Institute(上海创新研究院)

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 CurveStream通过曲率感知的层次视觉记忆管理框架,在流媒体视频理解中实现显著性能提升,实验表明其在多个基准测试中均优于现有方法,达到新状态-of-the-art结果。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.19481 2026-03-23 cs.CV 67%

Narrative Aligned Long Form Video Question Answering

叙事对齐的长视频问答

Rahul Jain, Keval Doshi, Burak Uzkent, Garin Kessler

机构 * Purdue University(普渡大学) Amazon(亚马逊)

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 本文提出NA-VQA基准,评估长视频中的深度时间与叙事推理能力,通过88部完整电影和4.4K开放性问题测试模型整合分散叙事信息的能力,提出Video-NaRA框架提升远距离推理性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.18743 2026-03-20 cs.AI cs.CL cs.LG 67%

Memento-Skills: Let Agents Design Agents

Memento-Skills:让代理设计代理

Huichi Zhou, Siyuan Guo, Anjie Liu, Zhongwei Yu, Ziqin Gong, Bowen Zhao, Zhixun Chen, Menglong Zhang, Yihang Chen, Jinsong Li, Runyu Yang, Qiangbin Liu, Xinlei Yu, Jianmin Zhou, Na Wang, Chunyang Sun, Jun Wang

机构 * Memento-Team(Memento团队)

专题命中 长上下文与记忆 :LLM(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 Memento-Skills是一种能够持续学习的通用大语言模型代理系统,通过经验自主构建、适应和改进任务特定代理,利用状态提示的强化学习框架和可重用的技能库实现持续学习。

Comments Memento-Skills Technical Report

详情

展开后加载摘要…

URL PDF HTML 收藏
2412.15411 2026-03-20 cs.DC 67%

Sparse Checkpointing for Fast and Reliable MoE Training

稀疏检查点机制用于快速可靠的MoE训练

Swapnil Gandhi, Christos Kozyrakis

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 本文提出MoEvement系统,通过稀疏检查点、稀疏到密集转换和激活日志记录,有效降低MoE模型训练中的检查点开销和恢复开销,提升训练效率。

Comments NSDI'26 | Camera-Ready

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.17712 2026-03-19 cs.RO cs.CV 67%

AERR-Nav: Adaptive Exploration-Recovery-Reminiscing Strategy for Zero-Shot Object Navigation

AERR-Nav:面向零样本物体导航的自适应探索-恢复-回忆策略

Jingzhi Huang, Junkai Huang, Haoyang Yang, Haoang Li, Yi Wang

机构 * Hong Kong Polytechnic University(香港理工大学) Institute of automation, Chinese Academy of Sciences(中国科学院自动化研究所) Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 本文提出AERR-Nav框架,通过自适应探索-恢复-回忆策略和自适应探索状态,解决零样本物体导航中探索与利用的平衡问题,在HM3D和MP3D基准测试中取得最佳性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.14050 2026-03-17 cs.NE 67%

A Theory of Appropriateness That Accounts for Norms of Rationality

一种考虑理性规范的适当性理论

Joel Z. Leibo, Alexander Sasha Vezhnevets, Manfred Diaz, John P. Agapiou, William A. Cunningham, Peter Sunehag, Logan Cross, Raphael Koster, Stanley M. Bileschi, Minsuk Chang, Iyad Rahwan, Simon Osindero, James A. Evans

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 本文提出一种以社会为基础的规范适当性理论,通过预训练的具有类大语言模型认知架构的个体生成行为,解释人类规范的上下文依赖性、任意性等特征,挑战传统理性选择理论。

Comments 39 pages, 2 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.13412 2026-03-17 cs.CV 67%

WAT: Online Video Understanding Needs Watching Before Thinking

WAT:在线视频理解需要先观看再思考

Zifan Han, Hongbo Sun, Jinglin Xu, Canhui Tang, Yulong Lei, Xuchong Zhang, Hongbin Sun, Zhongjiang He, Hao Sun

机构 * National Key Laboratory of Human-Machine Hybrid Augmented Intelligence, Institute of Artificial Intelligence and Robotics, Xi’an Jiaotong University(国家人类-机器混合增强智能重点实验室,人工智能与机器人研究院,西安交通大学) Institute of Artificial Intelligence (TeleAI), China Telecom(人工智能研究院(TeleAI),中国电信) University of Science and Technology Beijing(北京科技大学)

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 WAT提出双阶段框架,通过分阶段处理实现在线视频理解,结合查询与短期记忆进行跨时间推理,实验显示在多个基准上表现优异。

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.19113 2026-03-13 cs.NI 67%

Agent Discovery in Internet of Agents: Challenges and Solutions

在智能体互联网中的智能体发现:挑战与解决方案

Shaolong Guo, Yuntao Wang, Zhou Su, Yanghe Pan, Qinnan Hu, Tom H. Luan

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 本文提出了一种两阶段能力发现框架,通过自主能力声明和任务驱动的发现机制,提升智能体互联网中智能体能力发现的性能与可扩展性。

Comments This work has been submitted to the IEEE for possible publication

Journal ref IEEE Network, 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.05621 2026-03-12 cs.RO cs.AI cs.CL cs.LG cs.MA 67%

RACAS: Controlling Diverse Robots With a Single Agentic System

RACAS:通过单一代理系统控制多样化机器人

Dylan R. Ashley, Jan Przepióra, Yimeng Chen, Ali Abualsaud, Nurzhan Yesmagambet, Shinkyu Park, Eric Feron, Jürgen Schmidhuber

机构 * Center of Excellence in Generative AI, King Abdullah University of Science and Technology (KAUST), Saudi Arabia(沙特王国科学与技术大学生成人工智能卓越中心) Dalle Molle Institute for Artificial Intelligence Research (IDSIA), Switzerland(人工智能研究达勒莫利 institute) Università della Svizzera italiana (USI), Switzerland(瑞士意大利大学) Scuola universitaria professionale della Svizzera italiana (SUPSI), Switzerland(瑞士意大利专业大学) Robotics, Intelligent Systems, and Control Lab, King Abdullah University of Science and Technology (KAUST), Saudi Arabia(机器人、智能系统与控制实验室,沙特王国科学与技术大学(KAUST)) Department of Process Control, AGH University of Krakow, Poland(波兰克拉科夫AGH大学过程控制系)

专题命中 长上下文与记忆 :LLM(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 RACAS通过单一代理系统实现跨平台机器人控制,无需修改代码或模型,有效降低机器人原型开发难度。

Comments 7 pages in main text + 1 page of appendices + 1 page of references, 5 figures in main text + 1 figure in appendices, 2 tables in main text; source code available at https://github.com/janprz11/robot-agnostic-control

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.02219 2026-03-04 cs.IR 67%

Contrastive Retrieval Heads Improve Attention-Based Re-Ranking

对比检索头提升基于注意力的重排序

Linh Tran, Yulong Li, Radu Florian, Wei Sun

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 通过对比评分度量筛选出的CoRe头提升了基于注意力的重排序性能,显著提高准确性并减少计算资源消耗

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.01545 2026-03-03 cs.CV 67%

Training-Free Spatio-temporal Decoupled Reasoning Video Segmentation with Adaptive Object Memory

无需训练的时空解耦推理视频分割与自适应对象记忆

Zhengtong Zhu, Jiaqing Fan, Zhixuan Liu, Fanzhang Li

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 本文提出无需训练的时空解耦推理视频分割方法SDAM,通过自适应对象记忆模块和时空解耦技术实现稳定的时间传播,优于现有微调方法。

Comments Accept by AAAI2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.00503 2026-03-03 cs.CV 67%

M$^2$: Dual-Memory Augmentation for Long-Horizon Web Agents via Trajectory Summarization and Insight Retrieval

M$^2$: 通过轨迹摘要和洞察检索实现长 horizon 网络代理的双记忆增强

Dawei Yan, Haokui Zhang, Guangda Huzhang, Yang Li, Yibo Wang, Qing-Guo Chen, Zhao Xu, Weihua Luo, Ying Li, Wei Dong, Chunhua Shen

机构 * Northwestern Polytechnical University, Xi'an, China(西北工业大学) AI Business, Alibaba Group, Hangzhou, China(阿里云人工智能业务) Xi'an University of Architecture(西安建筑科技大学) Zhejiang University, Hangzhou, China(浙江大学)

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 M$^2$通过双记忆机制提升长 horizon 网络代理的上下文效率和决策鲁棒性,实现更高成功率和更低计算成本。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.23937 2026-03-02 cs.RO cs.CV 67%

Enhancing Vision-Language Navigation with Multimodal Event Knowledge from Real-World Indoor Tour Videos

通过真实世界室内游览视频的多模态事件知识增强视觉语言导航

Haoxuan Xu, Tianfu Li, Wenbo Chen, Yi Liu, Xingxing Zuo, Yaoxian Song, Haoang Li

机构 * The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州)) Tsinghua University(清华大学) Mohamed Bin Zayed University of Artificial Intelligence (MBZUAI)(马尔代夫 bin Zayed 大学人工智能学院) Hangzhou City University(杭州城市学院)

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 本文提出基于多模态事件知识的视觉语言导航增强方法,通过构建大规模时空知识图谱并结合层次检索机制,提升长视界推理和粗粒度指令处理能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.10585 2026-02-27 cs.GR 67%

D3MAS: Decompose, Deduce, and Distribute for Enhanced Knowledge Sharing in Multi-Agent Systems

D3MAS:分解、推断与分配以增强多智能体系统中的知识共享

Heng Zhang, Yuling Shi, Xiaodong Gu, Haochen You, Zijian Zhang, Lubin Gan, Yilei Yuan, Jin Huang

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 D3MAS通过分层协调框架减少多智能体系统中的知识冗余,提升推理准确性。

Comments This submission has been withdrawn by the authors due to a fundamental error in the methodology that affects the validity of the main results

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.21221 2026-02-26 cs.LG cs.AI cs.CL 67%

Latent Context Compilation: Distilling Long Context into Compact Portable Memory

潜在上下文编译:将长上下文编译为紧凑便携内存

Zeju Li, Yizhou Zhou, Qiang Xu

机构 * The Chinese University of Hong Kong(香港中文大学)

专题命中 长上下文与记忆 :LLM(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出潜在上下文编译方法,通过LoRA模块将长上下文压缩为紧凑内存,无需合成数据即可提升LLM部署效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.22548 2026-02-26 cs.CV cs.RO 67%

JanusVLN: Decoupling Semantics and Spatiality with Dual Implicit Memory for Vision-Language Navigation

JanusVLN: 通过双隐式记忆解耦语义与空间性用于视觉-语言导航

Shuang Zeng, Dekang Qi, Xinyuan Chang, Feng Xiong, Shichao Xie, Xiaolong Wu, Shiyi Liang, Mu Xu, Xing Wei, Ning Guo

机构 * Xi’an Jiaotong University(西安交通大学) Amap, Alibaba Group(阿里巴巴集团)

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 JanusVLN通过双隐式记忆解耦语义与空间性,提升视觉-语言导航的性能和效率。

Comments Accepted to ICLR 2026. Project page: https://miv-xjtu.github.io/JanusVLN.github.io/

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.20751 2026-02-25 cs.CL cs.AI cs.LG 67%

SibylSense: Adaptive Rubric Learning via Memory Tuning and Adversarial Probing

SibylSense:通过记忆调优和对抗探测实现自适应评分标准学习

Yifei Xu, Guilherme Potje, Shivam Shandilya, Tiancheng Yuan, Leonardo de Oliveira Nunes, Rakshanda Agarwal, Saeid Asgari, Adam Atkinson, Emre Kıcıman, Songwu Lu, Ranveer Chandra, Tusher Chakraborty

专题命中 长上下文与记忆 :post-training(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 SibylSense通过记忆调优和对抗探测实现自适应评分标准学习,提升开放性任务下的强化学习性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.19831 2026-02-24 cs.CR 67%

An Explainable Memory Forensics Approach for Malware Analysis

用于恶意软件分析的可解释性内存取证方法

Silvia Lucia Sanna, Davide Maiorca, Giorgio Giacinto

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 本文提出了一种基于AI的可解释内存取证方法,利用大语言模型解释内存分析结果并提取入侵指标,提升恶意软件分析的可解释性和实用性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.18534 2026-02-24 cs.SE cs.PL 67%

Validated Code Translation for Projects with External Libraries

带有外部库的项目验证代码翻译

Hanliang Zhang, Arindam Sharma, Cristina David, Meng Wang, Brandon Paulsen, Daniel Kroening, Wenjia Ye, Taro Sekiyama

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 本文提出一种框架,用于将依赖外部库的Go项目翻译为Rust,通过检索机制和跨语言验证流水线提高翻译和验证的准确性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.14434 2026-02-23 cs.SE 67%

CMind: An AI Agent for Localizing C Memory Bugs

CMind:一种用于定位C内存错误的人工智能代理

Chia-Yi Su, Collin McMillan

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 CMind通过模拟人类程序员行为,利用大语言模型和引导决策方法,定位C程序中的内存错误。

Comments 4 pages, 2 figures. To be published in 34th IEEE/ACM International Conference on Program Comprehension (ICPC 2026)

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.18007 2026-02-23 cs.DC 67%

Joint Training on AMD and NVIDIA GPUs

在AMD和NVIDIA GPU上联合训练

Jon Hu, Thomas Jia, Jing Zhu, Zhendong Yu

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 本文提出了一种在AMD和NVIDIA GPU上实现高效异构混合训练的技术方案,通过设备直接通信机制提升训练吞吐量至接近同构系统的98%。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.15329 2026-02-18 cs.CV 67%

EventMemAgent: Hierarchical Event-Centric Memory for Online Video Understanding with Adaptive Tool Use

EventMemAgent: 基于分层事件中心记忆的在线视频理解与自适应工具使用

Siwei Wen, Zhangcheng Wang, Xingjian Zhang, Lei Huang, Wenjun Wu

机构 * Beijing Advanced Innovation Center for Future Blockchain and Privacy Computing, School of Artificial Intelligence, Beihang University(北京未来区块链与隐私计算先进创新中心,人工智能学院,北京航空航天大学) Hangzhou International Innovation Institute, Beihang University(杭州国际创新研究院,北京航空航天大学) Paradigm Inc.(4Paradigm公司)

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 EventMemAgent通过分层事件中心记忆和自适应工具使用,解决在线视频理解中长程推理与细粒度细节的平衡问题。

详情

展开后加载摘要…

URL PDF HTML 收藏