A Photonic-CXL Memory Appliance for Scalable KV Cache Management in LLM Inference
用于LLM推理中可扩展KV缓存管理的光子-CXL存储设备
专题命中 长上下文与记忆 :LLM(title,title_cn)
AI总结 该研究针对LLM推理的存储墙问题,提出Marvell光子-CXL混合存储设备,实现32 TB共享内存,延迟降超50%,多轮对话首token时间提升6.6倍,解决了电气CXL池的部署痛点。
AI 大模型
大语言模型、预训练、指令微调、后训练和语言模型应用。
用于LLM推理中可扩展KV缓存管理的光子-CXL存储设备
专题命中 长上下文与记忆 :LLM(title,title_cn)
AI总结 该研究针对LLM推理的存储墙问题,提出Marvell光子-CXL混合存储设备,实现32 TB共享内存,延迟降超50%,多轮对话首token时间提升6.6倍,解决了电气CXL池的部署痛点。
AgentTether:用于可靠大语言模型代理操作的图引导诊断与运行时干预
专题命中 长上下文与记忆 :LLM(title,summary_cn);large language model(abstract);language model(abstract)
AI总结 研究LLM代理生产可靠性有限问题,提出AgentTether运行时修复框架,通过抽象运行、构建关键转换图等定位故障子轨迹并转换为指导,经实验评估,该框架能提高修复效果,减少资源消耗,为代理部署提供实用可靠性层。
EconSimulacra:基于LLM代理的社会经济系统数字孪生平台
专题命中 长上下文与记忆 :LLM(title,title_cn);large language model(abstract);language model(abstract)
AI总结 提出EconSimulacra,一种通过共享内部状态机制耦合消费经济、移动性和社交网络的多智能体模拟器,使代理能产生跨领域一致行为,并复现线上关注与线下流行度的非线性关系。
ESAA-Conversational:一种用于异构LLM编码智能体之间连续性、交接和策管的事件溯源记忆层
专题命中 长上下文与记忆 :LLM(title,title_cn)
AI总结 提出ESAA-Conversational架构,通过事件溯源实现跨多个LLM编码智能体的共享会话记忆,解决会话状态漂移问题,支持连续性、交接和策管。
Comments 11 pages, 1 table
LLM:基于历史恶意扫描的LSTM前瞻移动目标防御
专题命中 长上下文与记忆 :LLM(title,title_cn)
AI总结 提出LLM方法,利用LSTM网络预测攻击者可能扫描的目标地址,结合集成学习和动态变异机制,提升IP shuffling的安全性和降低开销。
统一KV池化以加速长上下文LLM服务
专题命中 长上下文与记忆 :LLM(title,title_cn)
AI总结 针对长上下文LLM服务中KV缓存卸载到主机内存和SSD时的高延迟问题,提出统一KV池化方法,聚合多设备并绕过内核文件系统,实现TTFT降低约4.1倍。
Comments 7 pages, 12 figures, 1 table
AerialClaw:一个用于LLM驱动的自主空中智能体的开源框架
机构 * Xidian University(西安电子科技大学) ; Xi'an University of Architecture and Technology(西安建筑科技大学)
专题命中 长上下文与记忆 :LLM(title,title_cn)
AI总结 提出AerialClaw开源框架,采用模块化脑-技能-运行时架构,使基于LLM的智能体能够理解自然语言任务、调用空中技能、闭环决策,提升无人机系统的灵活性、可复现性和可扩展性。
CLPsych 2026 中的心理技术实验室:利用自然语言处理方法和大语言模型进行社交媒体文本分析
机构 * psytechlab(心理技术实验室)
专题命中 长上下文与记忆 :large language model(title,abstract);language model(title,abstract);LLM(abstract_cn);分类 cs.CL
AI总结 在 CLPsych 2026 共享任务中,利用自然语言处理方法和大语言模型对社交媒体文本进行自我状态和幸福感分析与总结,为改进心理健康支持系统做贡献。
Comments Accepted by CLPsych2026. CLPsych 2026 will be held at ACL in San Diego July 4th, 2026
边缘语言模型的结构化记忆:通过O(1) SSM状态注入实现持久上下文与语料库检索
机构 * BrainChip Inc.(BrainChip公司)
专题命中 长上下文与记忆 :LLM(summary_cn,abstract);language model(title,abstract);分类 cs.AI、cs.LG
AI总结 该研究针对边缘语言模型提出PRECOG与SMC机制,将SSM预填充成本压缩至O(1),在1.2B参数的TENNs-LLM上实现约4500倍预填充加速,达到与RAG相当的答案质量。
开放式多智能体协作在语言智能体中的基准测试
机构 * University of Edinburgh(爱丁堡大学) ; University of Oxford(牛津大学) ; University College London(伦敦大学学院)
专题命中 长上下文与记忆 :LLM(summary_cn,abstract);language agent(title);language model(abstract);分类 cs.AI、cs.LG
AI总结 提出基于JAX的开放式多智能体协作基准Alem,评估13种现代LLM在长时生存世界中的零样本协作能力,发现协调能力是前沿LLM智能体的独立瓶颈。
Comments 42 pages, preprint
一种用于模拟疫苗舆论动态的基于多轮通信的大语言模型驱动的基于代理的建模框架
专题命中 长上下文与记忆 :large language model(title,abstract);language model(title,abstract);LLM(abstract)
AI总结 该研究引入大语言模型(Qwen3-8B)集成到基于代理的建模框架,以疫苗接种舆论动态为例,通过启用不同认知模块模拟舆论动态,发现不同模块对突发舆论有相反影响,再现了社会影响的非线性行为模式,证明框架有效性和潜力。
Comments 11 pages, 5 figures
在基于代理的城市交通模拟中评估用于决策的大语言模型
专题命中 长上下文与记忆 :large language model(title,abstract);language model(title,abstract);LLM(abstract)
AI总结 研究在多智能体模拟中集成大语言模型作为决策组件,提出混合架构,通过API连接GAMA平台与外部基于大语言模型的模块,能指导智能体重规划行为,比较不同场景下效果,显示其可丰富行为表示。
基于经验记忆提升大语言模型智能体的序列决策能力
专题命中 长上下文与记忆 :LLM(title,summary_cn);large language model(abstract);language model(abstract);分类 cs.AI
AI总结 本研究针对LLM智能体序列决策性能不足的问题,提出带经验记忆的智能体框架,通过对局后反思与规则提取,在不修改模型权重的情况下提升了井字棋任务的表现。
Comments 8 pages, 6 figures, 14 tables, 5 appendices, accepted at Neuro-Symbolic Intelligence for LLMs and Autonomous Agents workshop at IJCAI 2026
关于提示条件语言模型作为通用学习器的局限性
机构 * Queen Mary University London(伦敦玛丽女王大学) ; University College London(伦敦大学学院)
专题命中 长上下文与记忆 :language model(title,abstract);LLM(abstract,abstract_cn);large language model(abstract);prompting(abstract)
AI总结 本文通过廉价谈话博弈模型分析提示条件语言模型,证明语言作为容量受限通道导致任务不可区分性,并因对齐约束产生不可约误差,从而否定其通过提示实现通用问题求解的能力。
AtomMem: 通过原子事实构建简单有效的LLM智能体记忆系统
机构 * State Key Laboratory of Cognitive Intelligence, University of Science and Technology of China(中国科学技术大学认知智能国家重点实验室) ; Anhui University(安徽大学)
专题命中 长上下文与记忆 :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.CL
AI总结 针对现有记忆系统存储粗粒度、更新不稳定的问题,提出AtomMem,通过事实执行器提取高价值原子事实作为高效记忆表示,并组织为层次化事件结构和时间档案,实现价值密集存储和稳定演化,在LoCoMo基准上取得最优性能。
Comments 19 pages, 10 figures, 5 tables
从观察到干预:大脑与大型语言模型中的记忆
专题命中 长上下文与记忆 :large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.AI
AI总结 该研究对比大脑与LLMs的记忆系统,提出可利用LLMs在实验访问上的优势,将记忆相关功能问题转化为更精准的生物学假设,核心是转移实验逻辑而非解剖结构。
Comments Perspective article, 11 pages, 3 figures, 1 table, and 1 key terms box. Submitted for consideration to Nature Machine Intelligence
MM-ShiftKV:用于多模态大语言模型的解码感知预填充阶段键值选择
机构 * Zhejiang University(浙江大学) ; Ant Group(蚂蚁集团) ; The State Key Laboratory of Blockchain and Data Security, Zhejiang University(浙江大学区块链与数据安全国家重点实验室) ; Hangzhou High-Tech Zone (Binjiang) Institute of Blockchain and Data Security(杭州高新技术产业开发区(滨江)区块链与数据安全研究院)
专题命中 长上下文与记忆 :large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.AI
AI总结 研究多模态大语言模型中KV缓存问题,提出MM-ShiftKV方法,通过构建方差扩展查询代理近似解码时查询行为,基于聚合注意力质量估计KV重要性,在严格缓存预算下性能优于现有方法。
Comments 19 pages, 11 figures
VISTA Architect:一种面向图数据库的健康AI系统,在多学科肿瘤委员会中展示
机构 * Department of Biomedical Data Science, Stanford University School of Medicine(斯坦福大学医学院生物医学数据科学系) ; Department of Medicine, Stanford University School of Medicine(斯坦福大学医学院医学系)
专题命中 长上下文与记忆 :LLM(summary_cn,abstract);large language model(abstract);language model(abstract);prompting(abstract)
AI总结 提出VISTA Architect架构,通过图数据库和LLM将EHR转化为持久知识图谱,解决长上下文提示和RAG的时序缺失与高成本问题,在胸科肿瘤委员会中实现96.4%准确率。
Comments 22 pages, 4 figures, 6 tables; includes Supplementary Information. Code: https://github.com/VISTA-Stanford/vista-architect (tag v0.1.0-preprint, commit 8837d44)
更少上下文,更高准确率:一种用于LLM Agent的双时间记忆引擎,其中精简检索上下文优于完整历史
机构 * Independent Researcher(独立研究者)
专题命中 长上下文与记忆 :LLM(title,title_cn);分类 cs.CL、cs.AI、cs.LG
AI总结 提出一种双时间记忆引擎Engram,通过混合读取路径从约9.6k token的检索片段中回答,在LongMemEval_S上达到83.6%准确率,比完整历史(79k token)高10.4个百分点,且无错误。
Comments 14 pages, 4 figures, 3 tables. Code, reproducible harness, and raw per-question logs: https://github.com/ly-wang19/engram
LazyTrain:面向大语言模型训练零浪费产出优化的有限资源分配方案
机构 * The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州)) ; IDEA Research(IDEA研究院) ; DataArcTech Ltd.(DataArcTech有限公司)
专题命中 长上下文与记忆 :large language model(title,abstract);language model(title,abstract);分类 cs.CL
AI总结 LazyTrain是面向大语言模型训练的优化层,将相关问题建模为混合整数调度问题,结合Hybrid 8位算子,在H800、RTX 3090实验中提升算力、批次大小与准确率。
Comments 18 pages, 8 figures
用于流式航空视频中小目标理解的内存增强多模态大语言模型
机构 * The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州)) ; University of Freiburg(弗莱堡大学) ; Hangzhou City University(杭州城市大学) ; XGRIDS(XGRIDS公司) ; Fudan University(复旦大学) ; Hong Kong Baptist University(香港浸会大学)
专题命中 长上下文与记忆 :large language model(title,abstract);language model(title,abstract);分类 cs.AI
AI总结 研究针对流式航空视频中小目标理解难题,提出像素级开放词汇数据集DroneEyes,以及含语义感知令牌路由器和分层内存库的多模态大语言模型SkyAnchor,从数据和方法角度应对挑战。
大语言模型智能体加速用于气体分离的金属有机框架的逆设计
专题命中 长上下文与记忆 :large language model(title,abstract);language model(title,abstract);分类 cs.AI
AI总结 研究旨在加速金属有机框架用于气体分离的逆设计。提出LEMO智能体框架,结合多种技术,经迭代循环指导搜索。在分离任务中评估,相比基线有优势,丰富候选、提性能、保多样,还经实验筛选实现合成与表征,证明大语言模型智能体可加速MOF发现。
Comments 19 pages,5 figures
当智能体记忆过多时:对大语言模型智能体的内存中毒攻击
机构 * George Torres3(乔治·托雷斯(第三作者)) ; Sharad Shrestha1(沙拉德·什雷斯塔(第一作者)) ; Satyajayant Misra4(萨蒂亚扬特·米什拉(第四作者))
专题命中 长上下文与记忆 :large language model(title,abstract);language model(title,abstract);分类 cs.AI
AI总结 研究大语言模型驱动的个人智能体因缺乏内存安全治理存在安全漏洞,提出攻击向量GhostWriter,实现近98%注入率和约60%激活率,还提出AM-Sentry缓解技术,显著降低GhostWriter成功率并保持智能体效用。
相同问题,不同历史:语言、国家认同与大型语言模型中的归因
机构 * Tsinghua University(清华大学) ; Federal University of Rio de Janeiro(里约热内卢联邦大学)
专题命中 长上下文与记忆 :large language model(title,abstract);language model(title,abstract);分类 cs.CL
AI总结 研究大型语言模型在21项有争议的发明/发现中,查询语言如何系统性地影响不同国家主张者的出现频率,揭示语言作为激活不同国家历史版本的开关,产生系统性不同的国家记忆。
Comments 27 pages (main text and Supplementary Information combined), 5 figures, 9 tables
REAL: 一种增强推理的图框架用于LLM的长期记忆管理
机构 * School of Computer Science, Peking University(北京大学计算机科学学院) ; Kuaishou Technology(快手科技) ; Center for Data Science, Academy for Advanced Interdisciplinary Studies, Peking University(北京大学前沿交叉学科研究院数据科学中心)
专题命中 长上下文与记忆 :LLM(title_cn,summary_cn);large language model(abstract);language model(abstract);分类 cs.CL
AI总结 提出REAL框架,通过构建时序和置信度感知的有向属性图,采用非破坏性更新和混合束搜索检索,解决LLM长期记忆中的关系缺失、事实覆盖和查询被动问题,平均性能提升22.72%。
多模态大语言模型中的隐私风险揭示:任务特定漏洞与缓解挑战
机构 * Arizona State University(亚利桑那州立大学) ; University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校) ; North Carolina State University(北卡罗来纳州立大学)
专题命中 长上下文与记忆 :large language model(title,abstract);language model(title,abstract);分类 cs.AI
AI总结 本研究揭示了多模态大语言模型在处理图像和文本时存在的隐私泄露风险,通过构建MM-Privacy数据集评估了不同任务下的披露风险与保留风险,并强调了任务不一致性对隐私风险的影响。
TrustMargin: 大语言模型中参数化记忆与检索证据之间的无训练仲裁
机构 * Peking University(北京大学)
专题命中 长上下文与记忆 :large language model(title,abstract);language model(title,abstract);分类 cs.CL
AI总结 针对大语言模型在知识问答中参数记忆与检索证据冲突的问题,提出无训练仲裁层TrustMargin,利用模型自身似然度评分选择更可信的答案,无需微调或外部评判。
Comments 13 pages, 6 figures, 9 tables. Code and data are available at https://github.com/mojixu/TrustMargin.git
QUMem:面向大语言模型智能体查询条件用户状态推理的个性化记忆
专题命中 长上下文与记忆 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI
AI总结 QUMem 是一种结构化记忆框架,通过分割交互历史、分解记忆类型、多查询检索等方法,在 PersonaMem 和 KnowU-Bench 上实现了查询条件用户状态推理的最优性能,提升了大语言模型智能体的长期个性化能力。
Comments 9pages,3figures
PsychoAgent:面向大语言模型智能体的、具备冲突感知记忆的情感敏感认知架构
机构 * School of Electrical and Computer Engineering, College of Engineering, University of Tehran(德黑兰大学工程学院电气与计算机工程学院) ; Sharif University of Technology(谢里夫理工大学) ; Missouri University of Science and Technology(密苏里科技大学) ; Tehran Institute for Advanced Studies, Khatam University(哈塔姆大学德黑兰高等研究院)
专题命中 长上下文与记忆 :LLM(title,summary_cn);分类 cs.CL、cs.AI
AI总结 该研究提出PsychoAgent架构,分离事实与情感记忆并通过冲突感知控制器整合,在三类冲突场景中其冲突关键记忆检索率优于相关基线,为LLM智能体建模类人冲突效应提供了可检查机制。
Comments 12 pages main paper + 10 pages supplementary material; supplementary material included
DP-MemView:面向长期大语言模型智能体的属性级对话记录隐私的内存接口
专题命中 长上下文与记忆 :LLM(title,summary_cn);分类 cs.CL、cs.LG
AI总结 针对长期LLM智能体的自适应对话记录隐私威胁,提出差分隐私内存接口DP-MemView,经实验验证可在保留个性化和响应质量的同时降低隐私泄露风险。
Comments 18 pages, 2 figures, 9 tables