语言大模型 / LLM

Unifying Sparse Attention with Hierarchical Memory for Scalable Long-Context LLM Serving

统一稀疏注意力与分层记忆以实现可扩展的长上下文LLM服务

Zihan Zhao, Baotong Lu, Shengjie Lin, Yizou Chen, Jing Liu, Yanqi Zhang, Ziming Miao, Ming-Chang Yang, Haiying Shen, Qi Chen, Fan Yang

机构 * University of Virginia（弗吉尼亚大学） ； Microsoft Research（微软研究院） ； Georgia Institute of Technology（佐治亚理工学院） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；分类 cs.LG

AI总结 本文提出SPIN框架，通过统一分区抽象、局部性感知的KV缓存管理器和两级元数据布局，提升稀疏注意力与分层KV存储的协同效率，实现更高的吞吐量和更低的响应时间。

Comments 15 pages

The Prompt Engineering Report Distilled: Quick Start Guide for Life Sciences

提示工程报告精简：生命科学领域的快速入门指南

Valentin Romanov, Steven A Niederer

机构 * National Heart & Lung Institute, Faculty of Medicine, Imperial College London（英国伦敦帝国学院医学院国家心脏和肺研究所） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文总结了生命科学领域中6种核心提示工程技巧，包括零样本、少样本、思考生成等，旨在提升LLM在文献总结、数据提取等任务中的效率与质量。

AdaFRUGAL: Adaptive Memory-Efficient Training with Dynamic Control

AdaFRUGAL: 适应性内存高效训练与动态控制

Quang-Hung Bui, Anh Son Ta

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 AdaFRUGAL通过动态控制子空间比和更新频率，减少内存和计算开销，实现大语言模型训练的高效与自主性。

Comments We have identified issues in the current version of the manuscript that may affect the validity of some results. We are withdrawing the paper to conduct further verification and improvements before resubmission

AdaMem: Adaptive User-Centric Memory for Long-Horizon Dialogue Agents

AdaMem：面向长时对话代理的自适应用户导向记忆

Shannan Yan, Jingchen Ni, Leqi Zheng, Jiajun Zhang, Peixi Wu, Dacheng Yin, Jing Lyu, Chun Yuan, Fengyun Rao

机构 * Tsinghua University（清华大学） ； WeChat Vision, Tencent Inc.（腾讯微信视觉实验室） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 AdaMem通过自适应用户导向记忆框架提升长时对话代理的长时推理与用户建模能力，采用统一框架整合工作记忆、事件记忆、人格记忆和图记忆，实现高效信息组织与推理。

A Dual-Task Paradigm to Investigate Sentence Comprehension Strategies in Language Models

一种双任务范式用于研究语言模型中的句子理解策略

Rei Emura, Saku Sugawara

机构 * Tohoku University（东大大学） ； National Institute of Informatics（国家信息研究所） ； The University of Tokyo（东京大学） 纠错

专题命中 长上下文与记忆 ：language model(title,abstract)；分类 cs.CL

AI总结 本文提出双任务范式，结合算术计算与句子理解任务，揭示语言模型在资源受限下更倾向于基于合理性推理，支持人类认知资源分配对句子理解的影响。

StratMem-Bench: Evaluating Strategic Memory Use in Virtual Character Conversation Beyond Factual Recall

StratMem-Bench：评估虚拟角色对话中的战略记忆使用超越事实回忆

Yerong Wu, Tianxing Wu, Minghao Zhu, Hangyu Sha, Haofen Wang

机构 * School of Computer Science and Engineering, Southeast University, China（东南大学计算机科学与工程学院，中国） ； Key Laboratory of New Generation Artificial Intelligence Technology and its Interdisciplinary Applications (Southeast University), Ministry of Education, China（新一代人工智能技术及其交叉应用国家重点实验室（东南大学），中华人民共和国教育部，中国） ； College of Design and Innovation, Tongji University, China（同济大学设计与创新学院，中国） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 StratMem-Bench旨在评估虚拟角色对话中战略记忆的使用，通过异构记忆池测试角色在不同记忆类型间的决策能力，提出多种评估指标以衡量记忆整合与利用效果。

Comments 20 pages, accepted by ACL 2026 (main)

OCR-Memory: Optical Context Retrieval for Long-Horizon Agent Memory

OCR-Memory：光学上下文检索用于长周期智能体记忆

Jinze Li, Yang Zhang, Xin Yang, Jiayi Qu, Jinfeng Xu, Shuo Yang, Junhua Ding, Edith Cheuk-Han Ngai

机构 * The University of Hong Kong（香港大学） ； University of North Texas（北得克萨斯大学） ； University of Tsukuba（筑波大学） ； Yonsei University（延世大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 OCR-Memory通过视觉模态高密度表示智能体经验，实现长周期记忆存储与检索，减少token消耗并提升证据恢复准确性。

Comments Accepted to ACL 2026 (Main Conference)

MemOVCD: Training-Free Open-Vocabulary Change Detection via Cross-Temporal Memory Reasoning and Global-Local Adaptive Rectification

MemOVCD：基于跨时间记忆推理和全局局部自适应校正的无训练开放词汇变化检测

Zuzheng Kuang, Honghao Chang, Boqiang Liang, Haoqian Wang, Lijun He, Fan Li, Haixia Bi

机构 * School of Information and Communications Engineering, Xi’an Jiaotong University（西安交通大学信息与通信工程学院） 纠错

专题命中 长上下文与记忆 ：foundation model(abstract)；分类 cs.AI

AI总结 MemOVCD通过跨时间记忆推理和全局局部自适应校正，解决开放词汇变化检测中时间耦合不足和局部碎片化问题，验证了其在多基准上的有效性。

OVGGT: O(1) Constant-Cost Streaming Visual Geometry Transformer

OVGGT：O(1)常数成本流式视觉几何变换器

Si-Yu Lu, Po-Ting Chen, Hui-Che Hsu, Sin-Ye Jhong, Wen-Huang Cheng, Yung-Yao Chen

机构 * National Taiwan University（国立台湾大学） ； National Taiwan University of Science and Technology（台湾科技大学） 纠错

专题命中 长上下文与记忆 ：foundation model(abstract)

AI总结 OVGGT通过自选择缓存和动态锚点保护，在固定内存预算下实现长视频流式处理，取得最佳3D几何精度。

Comments Project page: https://vaisr.github.io/OVGGT/ Code: https://github.com/VAISR/OVGGT