arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-08-10 至 2026-08-10 共收录 12 信号源:cs.CL, cs.AI, cs.LG

1. 长上下文与记忆 12 篇

2608.07438 2026-08-10 cs.AI cs.CL cs.HC 新提交 88%

PsychoAgent: An Affect-Sensitive Cognitive Architecture for Conflict-Aware Memory in LLM Agents

PsychoAgent:面向大语言模型智能体的、具备冲突感知记忆的情感敏感认知架构

Mohammad Amanlou, Parham Abed Azad, Farbod Davoodi, Mostafa Masumi, Behnam Bahrak, Abdol-Hossein Vahabie

机构 * School of Electrical and Computer Engineering, College of Engineering, University of Tehran(德黑兰大学工程学院电气与计算机工程学院) Sharif University of Technology(谢里夫理工大学) Missouri University of Science and Technology(密苏里科技大学) Tehran Institute for Advanced Studies, Khatam University(哈塔姆大学德黑兰高等研究院)

专题命中 长上下文与记忆 :LLM(title,summary_cn);分类 cs.CL、cs.AI

AI总结 该研究提出PsychoAgent架构,分离事实与情感记忆并通过冲突感知控制器整合,在三类冲突场景中其冲突关键记忆检索率优于相关基线,为LLM智能体建模类人冲突效应提供了可检查机制。

Comments 12 pages main paper + 10 pages supplementary material; supplementary material included

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.07169 2026-08-10 cs.AI cs.LG 新提交 84%

Agent Memory Distillation: Empowering Small LLM Agents with Hierarchical Teacher Memory

智能体记忆蒸馏:用分层教师记忆赋能小型大语言模型智能体

Taeil Kim, Kangsan Kim, Sung Ju Hwang

机构 * KAIST(韩国科学技术院)

专题命中 长上下文与记忆 :LLM(title);language model(abstract);small language model(abstract);分类 cs.AI、cs.LG

AI总结 本研究提出无需训练的Agent Memory Distillation框架,通过从大型教师智能体构建三类分层记忆迁移知识,提升小型大语言模型智能体的工具使用性能,在三个基准上实现显著准确率提升且优于现有基线。

Comments Under review

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.06416 2026-08-10 cs.CR cs.AI 新提交 83%

WorldMark: A Plug-and-Play World Knowledge Interface for Cross-Host Language Model Watermarking

WorldMark:一种用于跨宿主语言模型水印的即插即用世界知识接口

Song Xiao, Yuqi Yuan, Yanshuo Zhang, Kejun Zhang

专题命中 长上下文与记忆 :language model(title,abstract);large language model(abstract);分类 cs.AI

AI总结 本研究提出即插即用的WorldMark接口,通过世界知识记忆与非对称知识调制优化跨宿主语言模型水印,提升检测性能且开销可忽略。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.07001 2026-08-10 cs.LG 新提交 81%

Every Cache Entry Earns Its Place: Global Allocation of Resolution and Coverage for KV Cache Compression

每个缓存条目都有其位置:KV缓存压缩的分辨率与覆盖范围的全局分配

Haolin Tian, Yuzhe Liu, Tonghan Wang

专题命中 长上下文与记忆 :LLM(summary_cn);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 针对LLM长上下文处理的KV缓存瓶颈,提出无需额外训练的GraceKV方法,通过全局资源分配平衡缓存的分辨率与覆盖范围,在32项实验设置中24项排名第一,128倍压缩仍稳健。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.25291 2026-08-10 cs.CL 版本更新 81%

CoSA: Accelerating Long-Context Inference via Proxy-Kernel Co-Designed Sparse Attention

CoSA:通过代理内核协同设计的稀疏注意力加速长上下文推理

Yufei Xue, Lin Niu, Hong Liu, Siran Liu, Hanyong Shao, Wei Liu, Guanghua Yu, Jianchen Zhu, Jun Zhang

机构 * Tencent(腾讯)

专题命中 长上下文与记忆 :LLM(summary_cn,abstract);分类 cs.CL

AI总结 研究针对自注意力长上下文推理成本高的问题,提出CoSA方法,通过结合内核感知代理与有序跳过内核,在两阶段实现高效稀疏注意力,在主流LLM和长上下文基准测试中,以低预算获高精度,加速注意力并减少端到端时间。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.07009 2026-08-10 cs.DC 新提交 80%

HiSparse: Scaling Sparse-Attention Decoding with Hierarchical KV Cache Management

HiSparse:通过分层KV缓存管理扩展稀疏注意力解码

Zhiqiang Xie, Zhangheng Huang, Tingwei Huang, Ziyi Xu, Ruiyang Ma, Christos Kozyrakis

专题命中 长上下文与记忆 :LLM(summary_cn,abstract)

AI总结 HiSparse是一种分层KV缓存,通过将KV历史存主机、GPU设固定缓存等方式,提升长上下文稀疏注意力LLM解码吞吐量达4.7倍,未增加每token成本,已集成到SGLang并在多平台验证。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.04009 2026-08-10 cs.CL 版本更新 77%

SocietyBench: Forecasting Counterfactual Social-World Evolution

SocietyBench:反事实社会世界演化预测

Zhenran Wang, Zhonghan Bian, Jinsong Li, Zhangyang Qi

专题命中 长上下文与记忆 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文推出SocietyBench基准,通过构建反事实社会世界,测试LLMs预测社会事件的概率校准与时间准确性,发现前沿LLMs表现远逊于基准,智能体框架未提升性能,强调多事件评估的必要性。

Comments Project page: https://co-minder.github.io/Societybench

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.07107 2026-08-10 cs.AI 新提交 70%

MemWM: Memory-Augmented Text-Based World Model

MemWM:记忆增强的基于文本的世界模型

Yujun Wang, Tao Zhang, Jinhe Bi, Aniri, Wenxuan Ye, Boliang Liu, Sikuan Yan, Shuning Wang, Xuebing Zhou, Sören Pirk, Hinrich Schütze, Yunpu Ma

机构 * LMU Munich(慕尼黑大学) Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心) Huawei Heisenberg Research Center(华为海森堡研究中心) Zhejiang University(浙江大学) Technical University of Munich (TUM)(慕尼黑工业大学) TU Berlin(柏林工业大学) Kiel University(基尔大学)

专题命中 长上下文与记忆 :SFT(abstract,abstract_cn);分类 cs.AI

AI总结 该研究提出记忆增强的基于文本的世界模型MemWM,通过引入世界记忆解决世界模型的系统性预测错误,在ALFWorld等基准上提升智能体规划成功率与效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.06838 2026-08-10 cs.DC 新提交 67%

StateFlow: Sequence Pipeline Parallelism for Long-Context Modeling with Linear Recurrence

StateFlow:用于长上下文建模的序列流水线并行方法,基于线性循环

Wenxuan Zhao, Yingfa Chen, Xu Han, Wenjing Han, Tianbo Huang, Zhiyu Li, Ao Sun, Jingheng Xu, Lin Gan, Guangwen Yang

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 针对长上下文训练并行化难题,提出StateFlow序列流水线并行系统,通过分块调度、非均匀分块等优化,在32B参数、256K上下文模型上实现吞吐量与内存性能提升。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.06705 2026-08-10 cs.SE 新提交 67%

Translation Tag Team: Formal Rules and LLMs Translate More Macros Together than Apart

翻译搭档团队:形式化规则与大语言模型协同翻译宏比单独翻译更有效

Brent Pappas, Joseph Zalusky, Zachary Burkett, Paul Gazzillo

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 该研究提出形式化翻译器MerC,结合MerC与大语言模型(LLMs)的搭档方法,在宏翻译任务中比单独使用任一技术更优,可降低失败率并提升翻译覆盖率。

Comments 13 pages, 7 figures, 2 tables, 8 listings, conference. To be published in ASE 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.18112 2026-08-10 cs.RO 版本更新 67%

EchoVLA: Robotic Vision-Language-Action Model with Synergistic Declarative Memory for Mobile Manipulation

EchoVLA:用于VLA驱动移动操作的协同声明记忆

Min Lin, Xiwen Liang, Bingqian Lin, Jingzhi Liu, Zijian Jiao, Kehan Li, Ziang Yan, Yu Sun, Weijia Liufu, Yuhan Ma, Jiarui Hu, Yuecheng Liu, Shen Zhao, Yuzheng Zhuang, Xiaodan Liang

机构 * Shenzhen Campus of Sun Yat-sen University, Shenzhen, China(中山大学深圳校区) Shanghai Jiao Tong University, Shanghai, China(上海交通大学) Huawei Noah's Ark Lab, China(华为诺亚方舟实验室)

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 EchoVLA通过协同声明记忆提升移动操作性能,结合场景与事件记忆,利用注意力融合指导基臂策略,实现高效导航与操作。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.15422 2026-08-10 cs.LG 版本更新 57%

DualKV: Shared-Prompt Flash Attention for Efficient RL Training with Large Rollouts and Long Contexts

DualKV: 面向高效RL训练的共享提示Flash注意力机制,支持大规模展开和长上下文

Jiading Gai, Shuai Zhang, Xiang Song, Bernie Wang, George Karypis

机构 * Amazon Web Services(亚马逊网络服务) Google(谷歌) University of Minnesota(明尼苏达大学)

专题命中 长上下文与记忆 :post-training(abstract);分类 cs.LG

AI总结 针对RL训练中共享提示重复计算问题,提出DualKV内核,通过融合CUDA前向/反向核和veRL数据流水线重排,消除提示复制,实现1.63-3.82倍策略更新加速。

详情

展开后加载摘要…

URL PDF HTML 收藏