arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

共收录 4738 信号源:cs.CL, cs.AI, cs.LG

1. 长上下文与记忆 4738 篇

2605.26159 2026-05-27 cs.NI cs.CR cs.LG 92%

Device Context Protocol: A Compact, Safety-First Architecture for LLM-Driven Control of Constrained Devices

设备上下文协议:一种紧凑、安全优先的架构,用于LLM驱动的受限设备控制

Dongxu Yang

机构 * DeepLethe

专题命中 长上下文与记忆 :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 针对LLM控制受限设备的安全问题,提出设备上下文协议(DCP),通过极小的帧开销、协议层安全原语和主机端桥接,在保持低资源占用的同时有效防御幻觉和提示注入攻击。

Comments 15 pages, 5 figures. Reference implementation, Python package (pip install pydcp), and reproduction scripts at https://github.com/device-context-protocol/dcp

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.15774 2026-05-22 cs.CL 92%

MemEvoBench: Benchmarking Safety Risks from Memory Misevolution in LLM Agents

MemEvoBench: 评估LLM代理中内存误进化带来的安全风险

Weiwei Xie, Shaoxiong Guo, Fan Zhang, Tian Xia, Xue Yang, Lizhuang Ma, Junchi Yan, Qibing Ren

机构 * Shanghai Jiao Tong University(上海交通大学) East China Normal University(华东师范大学) Shandong University(山东大学) Duke University(杜克大学)

专题命中 长上下文与记忆 :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文提出MemEvoBench,首个评估LLM代理长期内存安全性的基准,针对对抗性内存注入、噪声工具输出和偏见反馈,通过7个领域36种风险类型的问题任务和20个Agent-SafetyBench环境改编的工作流任务,验证了内存进化对安全性的重大影响,指出静态提示防御不足,亟需加强LLM代理内存进化的安全性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.17596 2026-05-22 cs.AI 92%

NeuSymMS: A Hybrid Neuro-Symbolic Memory System for Persistent, Self-Curating LLM Agents

NeuSymMS:一种混合神经符号记忆系统,用于持久、自管理的LLM代理

Mujahid Sultan, Sri Thuraisamy, Daya Rajaratnam

机构 * iVedha Corporation(iVedha公司) MLSoft Inc.(MLSoft公司)

专题命中 长上下文与记忆 :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 NeuSymMS通过混合神经符号架构,使LLM代理能够在多个会话中学习、记忆和推理用户信息,其核心方法是结合神经网络的事实提取和基于CLIPS的专家系统,主要贡献是提出了一个支持自管理记忆的双视野记忆模型。

Comments 7 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.11768 2026-05-20 cs.AI 92%

Governing Evolving Memory in LLM Agents: Risks, Mechanisms, and the Stability and Safety Governed Memory (SSGM) Framework

在LLM代理中治理演化的记忆:风险、机制以及稳定性与安全性的治理记忆(SSGM)框架

Chingkwun Lam, Jiaxin Li, Lingfei Zhang, Kuo Zhao

机构 * College of Intelligent Science and Engineering(智能科学与工程学院)

专题命中 长上下文与记忆 :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文研究了LLM代理中记忆治理的问题,提出了一种新的SSGM框架,通过一致性验证、时间衰减建模和动态访问控制来缓解记忆腐蚀风险,提高记忆系统的稳定性与安全性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.15338 2026-05-19 cs.CR cs.AI 92%

Hidden in Memory: Sleeper Memory Poisoning in LLM Agents

记忆中的隐患:LLM代理中的潜伏记忆污染

Sidharth Pulipaka, Stanislau Hlebik, Leonidas Raghav, Sahar Abdelnabi, Vyas Raina, Ivaxi Sheth, Mario Fritz

机构 * SPAR ELLIS Institute Tübingen(图宾根ELLIS研究所) MPI for Intelligent Systems(智能系统马克斯·普朗克研究所) Tübingen AI Center(图宾根人工智能中心) APTA CISPA Helmholtz Center for Information Security(信息安全海德堡中心)

专题命中 长上下文与记忆 :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 研究探讨了LLM代理中由于持久化内存带来的安全风险,提出并研究了潜伏记忆污染攻击,该攻击通过操控外部上下文使代理存储伪造的记忆,影响后续交互,实验显示攻击可跨多次对话持续生效。

Comments 86 pages, 60 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.14498 2026-05-19 cs.CL 92%

GroupMemBench: Benchmarking LLM Agent Memory in Multi-Party Conversations

GroupMemBench: 多方对话中LLM代理记忆的基准测试

Jingbo Yang, Kwei-Herng Lai, Xiaowen Wang, Shiyu Chang, Yaar Harari, Evgeniy Gabrilovich

机构 * UC Santa Barbara(加州大学圣芭芭拉分校) Microsoft(微软)

专题命中 长上下文与记忆 :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文提出GroupMemBench,用于评估多方对话中LLM代理的记忆能力,揭示现有记忆系统在群体动态、信念跟踪和语言适应方面的不足。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.15889 2026-05-18 cs.CR cs.LG 92%

A Multi-Layer Cloud-IDS Pipeline with LLM and Adaptive Q-Learning Calibration

多层云入侵检测系统与LLM和自适应Q学习校准

Syed Waqas Ali, Ibrar Ali Shah, Farzana Zahid, Daniyal Munir, Hans D. Schotten

机构 * Department of Computer Software Engineering, University of Engineering and Technology(计算机软件工程系,工程大学) Department of Computer Science, University of Waikato(计算机科学系,怀卡托大学) WICON, RPTU University, Kaiserslautern-Landau(WICON,鲁滕堡大学,凯泽斯劳滕-兰道) Department of Intelligent Networks, German Research Center for Artificial Intelligence (DFKI)(智能网络系,德国人工智能研究中心(DFKI))

专题命中 长上下文与记忆 :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文提出一种多层云入侵检测系统,结合强化学习和LLM,通过自适应阈值和Chroma数据库提升检测性能,实验显示系统在准确率、精确率和召回率等方面表现优异。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.23069 2026-04-28 cs.CL 92%

ContextWeaver: Selective and Dependency-Structured Memory Construction for LLM Agents

ContextWeaver:面向LLM代理的选型与依赖结构化记忆构建

Yating Wu, Yuhao Zhang, Sayan Ghosh, Sourya Basu, Anoop Deoras, Jun Huan, Gaurav Gupta

机构 * UT Austin(得克萨斯大学奥斯汀分校) AWS AI Labs(AWS人工智能实验室)

专题命中 长上下文与记忆 :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文提出ContextWeaver,通过构建推理步骤图谱,实现LLM代理的记忆选择与依赖结构化,提升长上下文交互性能,减少推理步骤与token消耗。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.07798 2026-04-23 cs.AI 92%

Lightweight LLM Agent Memory with Small Language Models

轻量级大语言模型代理记忆系统

Jiaquan Zhang, Chaoning Zhang, Shuxu Chen, Zhenzhen Huang, Pengcheng Zheng, Zhicheng Wang, Ping Guo, Fan Mo, Sung-Ho Bae, Jie Zou, Jiwei Wei, Yang Yang

机构 * University of Electronic Science and Technology of China(电子科学与技术大学) Kyung Hee University(庆熙大学) City University of Hong Kong(香港城市大学) University of Oxford(牛津大学)

专题命中 长上下文与记忆 :LLM(title,abstract);language model(title,abstract);small language model(title,abstract);分类 cs.AI

AI总结 本文提出LightMem,利用小语言模型实现轻量级代理记忆,通过模块化记忆检索、写入和长期整合,提升效率与准确性,实验显示在LoCoMo数据集上F1值提升2.5,并具有低延迟特点。

Comments Accepted by ACL 2026 (main)

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.15424 2026-04-08 cs.CL 92%

LLM-MemCluster: Empowering Large Language Models with Dynamic Memory for Text Clustering

LLM-MemCluster:通过动态内存增强大语言模型进行文本聚类

Yuanjie Zhu, Liangwei Yang, Ke Xu, Weizhi Zhang, Zihe Song, Jindong Wang, Philip S. Yu

机构 * University of Illinois Chicago(伊利诺伊大学芝加哥分校) William & Mary(威廉与玛丽学院)

专题命中 长上下文与记忆 :LLM(title,abstract);large language model(title,abstract);language model(title,abstract);分类 cs.CL

AI总结 LLM-MemCluster通过动态内存和双提示策略,实现端到端的文本聚类,优于现有基线方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2305.14322 2024-10-25 cs.CL 92%

RET-LLM: Towards a General Read-Write Memory for Large Language Models

Ali Modarressi, Ayyoob Imani, Mohsen Fayyaz, Hinrich Schütze

专题命中 长上下文与记忆 :LLM(title,abstract);large language model(title,abstract);language model(title,abstract);分类 cs.CL

Comments NOTE: This concept paper outlines an initial methodology, now evolved and thoroughly evaluated in the MemLLM paper

详情

展开后加载摘要…

URL PDF HTML 收藏
2410.09342 2024-10-15 cs.CL 92%

LLM$\times$MapReduce: Simplified Long-Sequence Processing using Large Language Models

Zihan Zhou, Chong Li, Xinyi Chen, Shuo Wang, Yu Chao, Zhili Li, Haoyu Wang, Rongqiao An, Qi Shi, Zhixing Tan, Xu Han, Xiaodong Shi, Zhiyuan Liu, Maosong Sun

专题命中 长上下文与记忆 :LLM(title,abstract);large language model(title,abstract);language model(title,abstract);分类 cs.CL

Comments Work in Progress. Code: https://github.com/thunlp/LLMxMapReduce

详情

展开后加载摘要…

URL PDF HTML 收藏
2305.14564 2023-05-25 cs.CL 92%

PEARL: Prompting Large Language Models to Plan and Execute Actions Over Long Documents

Simeng Sun, Yang Liu, Shuohang Wang, Chenguang Zhu, Mohit Iyyer

专题命中 长上下文与记忆 :large language model(title,abstract);language model(title,abstract);prompting(title,abstract);分类 cs.CL

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.10697 2026-08-04 cs.CL cs.LG 版本更新 91%

Attention Sinks as Internal Signals for Hallucination Detection in Large Language Models

注意力汇点作为大语言模型幻觉检测的内部信号

Jakub Binkowski, Kamil Adamczewski, Tomasz Kajdanowicz

机构 * Department of Artificial Intelligence, Wroclaw University of Science and Technology(弗罗茨瓦夫科技大学人工智能系)

专题命中 长上下文与记忆 :large language model(title,abstract);language model(title,abstract);LLM(summary_cn,abstract_cn);分类 cs.CL、cs.LG

AI总结 本文提出SinkProbe方法,通过分析注意力汇点揭示幻觉检测机制,基于理论提出新的检测方法,在多个数据集和LLM上取得最佳性能。

Comments Accepted at ICML 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.15421 2026-04-21 cs.CL cs.AI 91%

CLAG: Adaptive Memory Organization via Agent-Driven Clustering for Small Language Model Agents

CLAG:基于代理驱动聚类的自适应内存组织方法用于小型语言模型代理

Taeyun Roh, Wonjune Jang, Junha Jung, Jaewoo Kang

机构 * Korea University(韩国大学) Myongji University(明知大学) AIGEN Sciences(AIGEN公司)

专题命中 长上下文与记忆 :language model(title,abstract);small language model(title,abstract);SLM(abstract,abstract_cn);large language model(abstract)

AI总结 CLAG通过代理驱动聚类实现小型语言模型代理的自适应内存组织,通过语义聚类减少跨主题干扰并提升内存密度,实验表明其在问答任务中能提高回答质量和鲁棒性。

Comments Findings of the ACL 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2406.00605 2024-06-04 cs.CL cs.AI 91%

LongSkywork: A Training Recipe for Efficiently Extending Context Length in Large Language Models

Liang Zhao, Tianwen Wei, Liang Zeng, Cheng Cheng, Liu Yang, Peng Cheng, Lijie Wang, Chenxia Li, Xuejie Wu, Bo Zhu, Yimeng Gan, Rui Hu, Shuicheng Yan, Han Fang, Yahui Zhou

专题命中 长上下文与记忆 :large language model(title,abstract);language model(title,abstract);LLM(abstract);pretraining(abstract)

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.12311 2026-08-13 cs.SE 新提交 91%

The Role Specialization Model (RSM): Coordinating LLM-Based Tools in Agentic Software Development - An Exploratory Case Study

角色专业化模型(RSM):在智能体软件开发中协调基于大语言模型(LLM)的工具——一项探索性案例研究

Carlos Alberto Fernández-y-Fernández, Jorge R. Aguilar-Cisneros

专题命中 长上下文与记忆 :LLM(title,title_cn);large language model(abstract);language model(abstract)

AI总结 本研究通过探索性案例研究提出角色专业化模型(RSM),协调Antigravity、Gemini CLI等三种LLM工具开发Python气候可视化应用,发现明确角色协调可优化开发质量但需配套策略与人工验证。

Comments 28 pages, 4 figures, 5 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.04020 2026-08-06 cs.CY cs.GT 新提交 91%

Artificial Institutions: How Institutional Design Shapes LLM Simulations

人工制度:制度设计如何塑造大语言模型(LLM)模拟

Maxim Chupilkin

专题命中 长上下文与记忆 :LLM(title,title_cn);large language model(abstract);language model(abstract)

AI总结 本文研究LLM智能体构建的人工社会,通过控制变量实验发现,五种市场制度的规则差异会显著改变市场结果,证明制度架构对人工社会模拟的重要影响。

Comments 19 pages, 2 figures, 2 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.28824 2026-08-03 cs.AR cs.DC cs.PF 新提交 91%

Characterizing LLM Kernel Access and Memory Interaction in Multi-Partition NUMA GPUs

表征多分区NUMA GPU中的LLM内核访问与内存交互

Donghyeon Joo, Sooraj Puthoor, Nuwan Jayasena, Bahar Asgari

专题命中 长上下文与记忆 :LLM(title,title_cn);large language model(abstract);language model(abstract)

AI总结 本文针对多分区NUMA GPU中LLM内核访问与内存交互问题,通过分析三类LLM内核实现,提出内存追踪与周期级模拟方法,划分操作数共享模式并给出对应优化策略,强调需针对性内核编程与架构支持。

Comments 12 pages, 6 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2508.00031 2026-07-28 cs.SE 版本更新 91%

Git Context Controller: Manage the Context of LLM-based Agents like Git

Git Context Controller: 管理基于LLM的代理的上下文像Git一样

Junde Wu, Minhao Hu, Jiayuan Zhu, Jiazhen Pan, Yuyuan Liu, Min Xu, Yueming Jin

专题命中 长上下文与记忆 :LLM(title,title_cn);large language model(abstract);language model(abstract)

AI总结 Git-Context-Controller通过版本化文件系统管理LLM代理上下文,提升多轨迹问题解决能力,在SWE-Bench等基准测试中取得最佳性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.27205 2026-06-23 cs.SD 版本更新 91%

Beyond Acoustic Prefixes: Persistent Grounding in Serialized Acoustic Memory for LLM-Based Multi-Talker Speech Recognition

超越声学前缀:基于序列化声学记忆的持久接地用于基于LLM的多说话人语音识别

Hao Shi, Yuan Gao, Xugang Lu, Tatsuya Kawahara

机构 * Graduate School of Informatics, Kyoto University(京都大学信息学研究科)

专题命中 长上下文与记忆 :LLM(title,title_cn);large language model(abstract);language model(abstract)

AI总结 针对LLM在多说话人ASR中性能下降的问题,提出持久接地于序列化声学记忆的方法,通过解纠缠说话人表征和门控残差交叉注意力,显著提升三说话人混合场景的识别效果。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.08162 2026-06-09 cs.MA 新提交 91%

Silent Failure in LLM Agent Systems: The Entropy Principle and the Inevitable Disorder of Autonomous Agents

LLM Agent系统中的静默故障:熵原理与自主智能体的不可避免的无序性

Dexing Liu

专题命中 长上下文与记忆 :LLM(title,title_cn);large language model(abstract);language model(abstract)

AI总结 通过分析4万次受控试验和10万次生产交互,发现LLM agent系统存在无外部触发的静默故障,提出熵原理S(t)=S0*e^(αt)描述无序累积,并设计PIG引擎与ADE协议套件作为工程对策。

Comments 10 pages, 7 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.15125 2026-06-08 cs.CR 版本更新 91%

From Storage to Steering: Memory Control Flow Attacks on LLM Agents

从存储到操控:针对LLM代理的内存控制流攻击

Zhenlin Xu, Xiaogang Zhu, Yu Yao, Minhui Xue, Yiliao Song

专题命中 长上下文与记忆 :LLM(title,title_cn);large language model(abstract);language model(abstract)

AI总结 本文研究了内存控制流攻击对LLM代理的影响,提出MEMFLOW框架以系统识别和量化此类攻击,发现超过90%的测试在严格安全约束下仍易受攻击,揭示了严重的安全风险。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.09492 2026-05-29 cs.IR 91%

Dynamic Ranked List Truncation for Reranking Pipelines via LLM-generated Reference-Documents

基于LLM生成参考文档的重排序流水线动态排名列表截断

Nilanjan Sinhababu, Soumedhik Bharati, Debasis Ganguly, Pabitra Mitra

专题命中 长上下文与记忆 :LLM(title,title_cn);large language model(abstract);language model(abstract)

AI总结 提出利用LLM生成参考文档作为相关与不相关文档的枢纽,实现动态排名列表截断和高效列表式重排序,在TREC DL基准上性能提升且加速达66%。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.26851 2026-05-27 cs.SE 91%

LLM-based Mockless Unit Test Generation for Java

基于LLM的Java无模拟单元测试生成

Qinghua Xu, Guancheng Wang, Lionel Briand, Zhaoqiang Guo, Kui Liu

专题命中 长上下文与记忆 :LLM(title,title_cn);large language model(abstract);language model(abstract)

AI总结 提出MocklessTester方法,通过上下文增强生成和约束强制修复解决LLM生成无模拟单元测试时的幻觉问题,在Defects4J和Deps4J上显著提升覆盖率和变异得分。

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.10708 2026-04-24 cs.CR cs.SE 91%

SafeTrans: LLM-assisted Transpilation from C to Rust

SafeTrans: 借助LLM从C到Rust的转换

Muhammad Farrukh, Baris Coskun, Tapti Palit, Michalis Polychronakis

专题命中 长上下文与记忆 :LLM(title,title_cn);large language model(abstract);language model(abstract)

AI总结 本文提出SafeTrans框架,利用LLM自动将C代码转换为Rust代码并修复错误,通过引导修复技术提升转换成功率,并评估转换过程中的安全影响。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.22556 2026-07-28 cs.AI 新提交 91%

MIITA: Memory-Induced Inference-Time Adaptation for Continual Learning with Small Language Models

MIITA:用于小语言模型持续学习的内存诱导推理时间自适应

Dong Li, Yanchi Liu, Xujiang Zhao, Wei Cheng, Zhengzhang Chen, Xintao Wu, Zhong Chen, Chen Zhao, Haifeng Chen

机构 * Baylor University(贝勒大学) NEC Laboratories America(美国 NEC 实验室) University of Arkansas(阿肯色大学) Southern Illinois University(南伊利诺伊大学)

专题命中 长上下文与记忆 :language model(title,abstract);small language model(title,abstract);LLM(abstract_cn);large language model(abstract)

AI总结 针对小语言模型持续学习中参数更新致灾难性遗忘及内存不足问题,提出MIITA框架,它通过存储校正方向原型并在推理时检索应用,结合理论分析,在多种设置实验中提升性能并减轻遗忘。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.23459 2026-06-23 cs.CL 新提交 91%

TriggerBench: Investigating Prospective Memory for Large Language Models

TriggerBench: 探究大型语言模型的前瞻记忆

Tianhua Zhang, Xinjiang Wang, Qianxi Zhang, Qi Chen, Kun Li, Yaoqi Chen, Dingdong Wang, Helen Meng, Yan Lu

机构 * The Chinese University of Hong Kong(香港中文大学) Microsoft Research Asia(微软亚洲研究院)

专题命中 长上下文与记忆 :large language model(title,abstract);language model(title,abstract);LLM(summary_cn,abstract_cn);分类 cs.CL

AI总结 提出TriggerBench基准,系统评估LLM的前瞻记忆能力,发现其存在精度-召回权衡、注意力脆弱性,且比回溯记忆更难,可作为推理能力的指标。

详情

展开后加载摘要…

URL PDF HTML 收藏
2310.15127 2023-11-21 cs.AI cs.CL cs.LG cs.RO 91%

Open-Ended Instructable Embodied Agents with Memory-Augmented Large Language Models

Gabriel Sarch, Yue Wu, Michael J. Tarr, Katerina Fragkiadaki

专题命中 长上下文与记忆 :large language model(title,abstract);language model(title,abstract);LLM(abstract,comments);prompting(abstract)

Comments Project page with code & videos: https://helper-agent-llm.github.io

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.16986 2026-07-30 cs.CL cs.AI 版本更新 91%

Skills on the Fly: Test-Time Adaptive Skill Synthesis for LLM Agents

Skills on the Fly: Test-Time Adaptive Skill Synthesis for LLM Agents

Jingxing Wang, Chenyu Zhou, Zhihui Fu, Jun Wang, Weiwen Liu, Weinan Zhang, Jianghao Lin

机构 * Shanghai Jiao Tong University(上海交通大学) OPPO Research Institute(OPPO研究院)

专题命中 长上下文与记忆 :LLM(title,title_cn);prompting(abstract_cn);分类 cs.CL、cs.AI

AI总结 本文提出了一种在测试时自适应的技能合成方法SkillTTA,通过检索与当前任务相关的少量训练轨迹并将其合成成为任务特定的文本技能,以提高LLM代理在SpreadsheetBench、ALFWorld和BigCodeBench等任务上的性能。

Comments 15 pages, 6 figures

详情

展开后加载摘要…

URL PDF HTML 收藏