VERT: Verified Equivalent Rust Transpilation with Large Language Models as Few-Shot Learners
专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)
AI 大模型
语言大模型 / LLM
大语言模型、预训练、指令微调、后训练和语言模型应用。
1. 长上下文与记忆 4738 篇
Memoro: Using Large Language Models to Realize a Concise Interface for Real-Time Memory Augmentation
专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)
Comments 18 pages, 9 figures, project page at https://www.media.mit.edu/projects/memoro/overview
Journal ref Proceedings of the CHI Conference on Human Factors in Computing Systems (CHI '24), May 11--16, 2024, Honolulu, HI, USA
KwaiAgents: Generalized Information-seeking Agent System with Large Language Models
专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG
Small Models are Valuable Plug-ins for Large Language Models
专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG
Are they human? Detecting large language models by probing human memory constraints
他们真的是人类吗？通过探测人类记忆限制来检测大语言模型
机构 * Princeton University（普林斯顿大学）
专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI；LLM(comments)
AI总结 本文通过探测人类认知限制来区分大语言模型与人类，展示了在特定任务中人类工作记忆容量的限制可被利用以识别非人类参与者。
Comments Code available at https://github.com/smonsays/llm-humanness
Long Context RAG Performance of Large Language Models
专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.LG；foundation model(comments)
Comments 2024 NeurIPS workshop on Adaptive Foundation Models: Evolving AI for Personalized and Efficient Learning
Credo: Declarative Control of LLM Pipelines via Beliefs and Policies
Credo：通过信念和策略实现LLM流水线的声明式控制
机构 * Brown University（布朗大学） ； Northwestern University（西北大学）
专题命中 长上下文与记忆 ：LLM(title,title_cn)；分类 cs.AI
AI总结 本文提出Credo，通过声明式策略和信念管理LLM流水线的决策，实现可适应、可审计和可组合的执行。
Comments VLDB 2026 (Demo)
Towards Improving Sequential Decision-Making in LLM Agents via Experience Memory
基于经验记忆提升大语言模型智能体的序列决策能力
专题命中 长上下文与记忆 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI
AI总结 本研究针对LLM智能体序列决策性能不足的问题，提出带经验记忆的智能体框架，通过对局后反思与规则提取，在不修改模型权重的情况下提升了井字棋任务的表现。
Comments 8 pages, 6 figures, 14 tables, 5 appendices, accepted at Neuro-Symbolic Intelligence for LLMs and Autonomous Agents workshop at IJCAI 2026
LLM Agents Are Latent Context Managers: Eliciting Self-Managed Context via State Proprioception
LLM 智能体是潜在上下文管理者：通过本体感觉仪表盘引发自我管理上下文
机构 * Tencent（腾讯）
专题命中 长上下文与记忆 ：LLM(title,title_cn)；language model(abstract)；分类 cs.CL
AI总结 提出 VISTA 框架，通过为 LLM 智能体提供上下文状态仪表盘（令牌使用量、时效性、访问历史），无需训练即可实现自我上下文管理，在多个基准上显著提升性能。
Comments 27 pages, 12 figures
SafeHarbor: Defining Precise Decision Boundaries via Hierarchical Memory-Augmented Guardrail for LLM Agent Safety
SafeHarbor：用于LLM智能体安全的分层记忆增强防护栏
机构 * School of Cyber Science and Technology, Beihang University, Beijing, China（北京航空航天大学网络安全学院） ； Institute of Artificial Intelligence, Beihang University, Beijing, China（北京航空航天大学人工智能研究院） ； University of Chinese Academy of Sciences, Beijing, China（中国科学院大学） ； AI Security Lab, Beijing, China（360人工智能安全实验室）
专题命中 长上下文与记忆 ：LLM(title,title_cn)；foundation model(abstract)；分类 cs.AI
AI总结 提出SafeHarbor框架，通过分层记忆系统和信息熵自进化机制，在保持高安全拒绝率的同时提升对良性请求的响应能力。
Comments Accepted by ICML 2026
On the Limits of Prompt-Conditioned Language Models as General-Purpose Learners
关于提示条件语言模型作为通用学习器的局限性
机构 * Queen Mary University London（伦敦玛丽女王大学） ； University College London（伦敦大学学院）
专题命中 长上下文与记忆 ：language model(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)；prompting(abstract)
AI总结 本文通过廉价谈话博弈模型分析提示条件语言模型，证明语言作为容量受限通道导致任务不可区分性，并因对齐约束产生不可约误差，从而否定其通过提示实现通用问题求解的能力。
AtomMem: Building Simple and Effective Memory System for LLM Agents via Atomic Facts
AtomMem: 通过原子事实构建简单有效的LLM智能体记忆系统
机构 * State Key Laboratory of Cognitive Intelligence, University of Science and Technology of China（中国科学技术大学认知智能国家重点实验室） ； Anhui University（安徽大学）
专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL
AI总结 针对现有记忆系统存储粗粒度、更新不稳定的问题，提出AtomMem，通过事实执行器提取高价值原子事实作为高效记忆表示，并组织为层次化事件结构和时间档案，实现价值密集存储和稳定演化，在LoCoMo基准上取得最优性能。
Comments 19 pages, 10 figures, 5 tables
DELTAMEM: Incremental Experience Memory for LLM Agents via Residual Trees
DELTAMEM: 通过残差树为LLM智能体增量式经验记忆
机构 * Beijing Key Laboratory of Research on Large Models and Intelligent Governance（北京大模型与智能治理重点实验室） ； Engineering Research Center of Next-Generation Intelligent Search and Recommendation, MOE（下一代智能搜索与推荐工程技术研究中心，教育部） ； Gaoling School of Artificial, Renmin University of China（中国人民大学人工智能学院） ； Duke University School of Medicine（杜克大学医学学院）
专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI
AI总结 提出DeltaMem框架，通过构建两个独立的残差树（目标条件任务经验和场景级环境知识）组织经验记忆，利用增量节点减少冗余，并通过失败惩罚相似度扫描和自主合并机制实现高效检索与自组织，在多种交互环境中优于现有基线。
Can LLM Agents Sustain Long-Horizon Organizational Dynamics?
LLM智能体能否维持长期组织动态？
机构 * Beijing University of Posts and Telecommunications（北京邮电大学）
专题命中 长上下文与记忆 ：LLM(title,title_cn)；language agent(abstract)；分类 cs.AI
AI总结 提出TaskWeave分层智能体框架，通过记忆中心的协调机制（规划-分解-诊断-对齐循环和依赖感知追踪记忆）实现长期组织模拟，实验表明该框架能维持连贯的组织动态并产生可靠的人工制品。
SelfGrader: LLM Jailbreak Detection via Anchored Token-Level Logits
SelfGrader: 基于锚定令牌级对数概率的LLM越狱检测
机构 * Department of Computer Science and Engineering, University of Nevada, Reno（内华达大学里诺分校计算机科学与工程系） ； Oak Ridge National Laboratory（橡树岭国家实验室）
专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI
AI总结 提出SelfGrader方法，利用锚定令牌级对数概率将越狱检测转化为数值评分问题，实现低延迟、低误报率的鲁棒检测。
KVDrive: A Holistic Multi-Tier KV Cache Management System for Long-Context LLM Inference
KVDrive: 一个面向长上下文LLM推理的多层级KV缓存管理系统
机构 * Hong Kong University of Science and Technology China（香港科技大学中国） ； Xi’an Jiaotong University China（西安交通大学中国）
专题命中 长上下文与记忆 ：LLM(title,title_cn)；分类 cs.CL
AI总结 本文提出KVDrive，一个面向长上下文LLM推理的多层级KV缓存管理系统，通过联合缓存放置、流水线调度和跨层级协调，实现了高吞吐量的推理，在有限的GPU预算下保持高精度。
Don't Start What You Can't Finish: A Counterfactual Audit of Support-State Triage in LLM Agents
不要开始无法完成的任务：对LLM代理支持状态分拣的反事实审计
机构 * Globeholder Paris, France（巴黎 Globeholder 机构，法国）
专题命中 长上下文与记忆 ：LLM(title,title_cn)；prompting(abstract)；分类 cs.AI
AI总结 本文通过反事实审计框架评估LLM代理在任务分拣中的能力，发现默认执行过度承诺非完整任务，而通过特定提示条件可显著提升分拣准确性。
AgentForge: Execution-Grounded Multi-Agent LLM Framework for Autonomous Software Engineering
AgentForge: 基于执行的多智能体LLM框架用于自主软件工程
机构 * International Research Center for Complexity Sciences（复杂科学国际研究中心） ； Hangzhou International Innovation Institute（杭州国际创新研究院） ； Beihang University（北京航空航天大学） ； College of Science, Mathematics and Technology（科学、数学与技术学院） ； Wenzhou-Kean University（温州-凯恩大学） ； Fakulti Teknologi Maklumat dan Komunikasi（信息技术与通信学院） ； Universiti Teknikal Malaysia Melaka（马来西亚Melaka理工大学） ； Computer Systems Engineering Department（计算机系统工程系） ； Sukkur IBA University（苏库尔IBA大学） ； University of Electronic Science and Technology of China（电子科学与技术大学）
专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI
AI总结 AgentForge通过引入执行验证原则，提升代码正确性验证，实现40.0%的SWE-BENCH Lite解决率，优于单智能体基线。
EMBER: Autonomous Cognitive Behaviour from Learned Spiking Neural Network Dynamics in a Hybrid LLM Architecture
EMBER：在混合大语言模型架构中通过学习的脉冲神经网络动态实现自主认知行为
机构 * Independent Researcher（独立研究者）
专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)
AI总结 本文提出EMBER架构，通过学习的脉冲神经网络动态实现大语言模型与记忆之间的关系重组，利用STDP和奖励调节学习实现自主行为决策。
Comments Preprint. 9 pages, 2 figures, 3 tables. NeurIPS 2026 format
DRAGON: LLM-Driven Decomposition and Reconstruction Agents for Large-Scale Combinatorial Optimization
DRAGON：基于大语言模型的分解与重建代理用于大规模组合优化
机构 * Institute for Infocomm Research A STAR Singapore ； Singapore Management University Singapore ； Nanyang Technological University Singapore ； Eindhoven University of Technology Eindhoven Netherlands ； National University of Singapore \& Institute for Infocomm Research A STAR Singapore ； Singapore University of Technology ； Institute for Infocomm Research ； Singapore Management University ； Nanyang Technological University ； Eindhoven University of Technology ； National University of Singapore \& Institute for Infocomm Research
专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)
AI总结 DRAGON是一种结合元启发式设计和LLM推理的新型框架，通过分解与重建代理实现大规模组合优化问题的高效求解。
Comments This paper has been accepted for presentation and publication at the 25th International Conference on Autonomous Agents and Multiagent Systems (AAMAS 2026), source code: https://github.com/skychan/DARGON
From Observation to Intervention: Memory in Brains and Large Language Models
从观察到干预：大脑与大型语言模型中的记忆
专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI
AI总结 该研究对比大脑与LLMs的记忆系统，提出可利用LLMs在实验访问上的优势，将记忆相关功能问题转化为更精准的生物学假设，核心是转移实验逻辑而非解剖结构。
Comments Perspective article, 11 pages, 3 figures, 1 table, and 1 key terms box. Submitted for consideration to Nature Machine Intelligence
In-context superposition: human-like working memory interference in large language models
类人工作记忆干扰在大语言模型中
机构 * School of Psychological and Brain Sciences, Georgia Tech（佐治亚理工学院心理与脑科学学院） ； Department of Psychology, New York University（纽约大学心理学系） ； Department of Cognitive Science, Indiana University Bloomington（印第安纳大学布卢明顿分校认知科学系） ； Honda Research Institute（本田研究所） ； Center of Excellence for Computational Cognition, Georgia Tech（佐治亚理工学院计算认知卓越中心） ； Departments of Neuroscience and Psychology, The University of Texas at Austin（德克萨斯大学奥斯汀分校神经科学和心理学系）
专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG
AI总结 研究发现大语言模型在工作记忆任务中存在干扰限制，其表现与人类相似，且通过抑制无关信息实现有效记忆检索。
Comments Published as a conference paper at COLM 2026
CogniDual Framework: Self-Training Large Language Models within a Dual-System Theoretical Framework for Improving Cognitive Tasks
专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI
Journal ref IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP 2025), pp. 1-5
MM-ShiftKV: Decode-Aware Prefill-Stage KV Selection for Multimodal Large Language Models
MM-ShiftKV：用于多模态大语言模型的解码感知预填充阶段键值选择
机构 * Zhejiang University（浙江大学） ； Ant Group（蚂蚁集团） ； The State Key Laboratory of Blockchain and Data Security, Zhejiang University（浙江大学区块链与数据安全国家重点实验室） ； Hangzhou High-Tech Zone (Binjiang) Institute of Blockchain and Data Security（杭州高新技术产业开发区（滨江）区块链与数据安全研究院）
专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI
AI总结 研究多模态大语言模型中KV缓存问题，提出MM-ShiftKV方法，通过构建方差扩展查询代理近似解码时查询行为，基于聚合注意力质量估计KV重要性，在严格缓存预算下性能优于现有方法。
Comments 19 pages, 11 figures
Prompt Compression in Diffusion Large Language Models: Evaluating LLMLingua-2 on LLaDA
在扩散大型语言模型中进行提示压缩：在LLDA上评估LLMLingua-2
机构 * University of Toronto（多伦多大学） ； King Mongkut’s University of Technology Thonburi（泰国科技理工学院）
专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI
AI总结 本文研究了提示压缩在扩散大型语言模型中的有效性，通过在LLDA上评估LLMLingua-2，发现提示压缩在数学推理任务中效果不佳，而摘要任务相对稳健，表明为扩散模型设计的提示压缩方法并不适用于所有场景。
Comments Accepted to appear in The 14th International Conference on Advances in Information Technology (IAIT2026)
Learning When to Attend: Conditional Memory Access for Long-Context LLMs
学习何时关注：为长上下文LLM的条件记忆访问
机构 * Department of Electrical and Computer Engineering, Purdue University, USA（电子工程系，普渡大学，美国）
专题命中 长上下文与记忆 ：LLM(title_cn,summary_cn)；language model(abstract)；pretraining(abstract)；post-training(abstract)
AI总结 本文提出L2A方法，通过条件性长程记忆访问提升长上下文LLM性能，使Qwen 2.5和Qwen 3模型的有效上下文长度从32K扩展到128K，同时提升训练效率并减少内存消耗。
Comments 26 pages, 11 Tables, 18 Figures. Accepted at ICML 2026
VISTA Architect: A graph database-oriented health AI system demonstrated in multidisciplinary tumor boards
VISTA Architect：一种面向图数据库的健康AI系统，在多学科肿瘤委员会中展示
机构 * Department of Biomedical Data Science, Stanford University School of Medicine（斯坦福大学医学院生物医学数据科学系） ； Department of Medicine, Stanford University School of Medicine（斯坦福大学医学院医学系）
专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)
AI总结 提出VISTA Architect架构，通过图数据库和LLM将EHR转化为持久知识图谱，解决长上下文提示和RAG的时序缺失与高成本问题，在胸科肿瘤委员会中实现96.4%准确率。
Comments 22 pages, 4 figures, 6 tables; includes Supplementary Information. Code: https://github.com/VISTA-Stanford/vista-architect (tag v0.1.0-preprint, commit 8837d44)
The Ratchet Effect in Silico: How Interaction Drives Cumulative Intelligence in Large Language Models
通过交互驱动的累积智能在大语言模型中实现的“棘轮效应
机构 * School of Information Science and Technology, Hangzhou Normal University（杭州师范大学信息科学与技术学院）
专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG
AI总结 该研究提出POLIS框架，通过异质智能体之间的交互实现知识积累，展示出在数学推理任务中，群体模型的性能提升显著。
Comments 8 pages, 4 figures
Mitigating Context-Memory Conflicts in LLMs through Dynamic Cognitive Reconciliation Decoding
通过动态认知协调解码缓解LLM中的上下文内存冲突
机构 * Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） ； Beijing Academy of Artificial Intelligence（北京人工智能研究院） ； Nanyang Technological University（南洋理工大学）
专题命中 长上下文与记忆 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出动态认知协调解码方法，通过分析注意力图预测潜在冲突并选择解码路径，提升LLM在处理上下文内存冲突时的准确性和效率，同时构建ConflictKG基准测试集验证效果。
Comments Accepted by IEEE TASLP
Provable Benefits of In-Tool Learning for Large Language Models
大语言模型中工具学习的可证明优势
机构 * ETH Zürich（苏黎世联邦理工学院） ； Inria, Univ. Rennes 2（法国国家信息与自动化研究所，雷恩第二大学） ； FAIR at Meta（Meta FAIR实验室）
专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG
AI总结 本文探讨了工具学习在事实回忆中的优势，证明通过工具可实现无限制的事实回忆，优于单纯记忆。
Journal ref ICLR 2026 MemAgents Workshop
