语言大模型 / LLM

Constraint-Aware Corrective Memory for Language-Based Drug Discovery Agents

基于约束的纠正记忆：用于基于语言的药物发现代理

Maochen Sun, Youzhi Zhang, Gaofeng Meng

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； School of Advanced Interdisciplinary Sciences, University of Chinese Academy of Sciences（中国科学院大学先进交叉科学学院） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出CACM框架，通过精确的集合级诊断和简洁的记忆写回机制，提升语言基药物发现代理的可靠性，实验表明其在目标级成功率提升36.4%。

VSI: Visual Subtitle Integration for Keyframe Selection to enhance Long Video Understanding

VSI：视觉字幕整合用于关键帧选择以增强长视频理解

Jianxiang He, Meisheng Hong, Jungang Li, Weiyu Guo, Xuming Hu, Hui Xiong

机构 * AI Thrust, HKUST(GZ)（香港科技大学（广州）） ； Shandong University（山东大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 VSI通过融合视觉与文本信息提升长视频关键帧检索精度，实现在文本相关任务中的突破性表现。

Comments Accepted to CVPR 2026 Findings, 10 pages

EXAONE 4.5 Technical Report

EXAONE 4.5 技术报告

Eunbi Choi, Kibong Choi, Sehyun Chun, Seokhee Hong, Junwon Hwang, Hyojin Jeon, Ahra Jo, Hyunjik Jo, Yeonsik Jo, Joonkee Kim, Seonghwan Kim, Soyeon Kim, Sunkyoung Kim, Yireun Kim, Yongil Kim, Changhun Lee, Haeju Lee, Jinsik Lee, Kyungmin Lee, Sangha Park, Kwangrok Ryoo, Minju Seo, Sejong Yang, Heuiyeen Yeen, Hwan Chang, Stanley Jungkyu Choi, Yejin Choi, Kyubeen Han, Joonwon Jang, Kijeong Jeon, Geunyeong Jeong, Gerrard Jeongwon Jo, Jiyeon Jung, Daeseong Kim, Dohoon Kim, Dohyun Kim, Hyunseo Kim, Minu Kim, Myoungshin Kim, Youchul Kim, Byungoh Ko, Christopher Lee, Edward Hwayoung Lee, Honglak Lee, Jiyoung Lee, Sangeun Lee, Seungwon Lim, Woohyung Lim, Jueun Mun, Jaewoo Park, Jimin Park, Jinho Park, Yongmin Park, Wooseok Seo, Yongwoo Song, Sihyuk Yi, Kyungjae Yoo, Sangyeon Yoon

机构 * LG AI Research（LG AI 研究院） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；pretraining(abstract)；分类 cs.CL

AI总结 EXAONE 4.5通过集成专用视觉编码器扩展EXAONE 4.0框架，实现多模态预训练，提升文档理解和语言能力，支持256K tokens上下文长度，优于同类模型。

Beyond Pedestrians: Caption-Guided CLIP Framework for High-Difficulty Video-based Person Re-Identification

超越行人：基于描述的CLIP框架用于高难度视频基的人重识别

Shogo Hamano, Shunya Wakasugi, Tatsuhito Sato, Sayaka Nakamura

机构 * Sony Group Corporation（索尼集团公司） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出CG-CLIP框架，通过文本描述和可学习令牌提升视频中高难度行人重识别性能，实验表明其在多个数据集上优于现有方法。

SepSeq: A Training-Free Framework for Long Numerical Sequence Processing in LLMs

SepSeq：一种无需训练的长数值序列处理框架

Jie Sun, Yu Liu, Lu Han, Qiwen Deng, Xiang Shu, Yang Xiao, Xingyu Lu, Jun Zhou, Pengfei Liu, Lintao Ma, Jiancan Wu, Xiang Wang

机构 * University of Science and Technology of China（中国科学技术大学） ； Shanghai Innovation Institute（上海创新研究院） ； Nanjing University（南京大学） ； University of Edinburgh（爱丁堡大学） ； East China Normal University（华东师范大学） ； Hong Kong Polytechnic University（香港理工大学） ； Zhejiang University（浙江大学） ； Ocean University of China（中国海洋大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 针对LLM处理长数值序列性能下降问题，提出SepSeq框架通过插入分隔符令牌缓解注意力分散，提升准确率并减少推理令牌消耗。

Comments 16 pages, 4 figures, 5 tables

Video Parallel Scaling: Aggregating Diverse Frame Subsets for VideoLLMs

视频并行扩展：聚合多样化的帧子集用于VideoLLMs

Hyungjin Chung, Hyelin Nam, Jiyeon Kim, Hyojun Go, Byeongjun Park, Junho Kim, Joonseok Lee, Seongsu Ha, Byung-Hoon Kim

机构 * EverEx ； University of Michigan（密歇根大学） ； KAIST（韩国科学技术院） ； ETH Zürich（苏黎世联邦理工学院） ； UNC Chapel Hill（北卡罗来纳大学教堂山分校） ； Yonsei University（延世大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出Video Parallel Scaling方法，通过并行处理不同帧子集提升VideoLLMs的时序推理能力，实验表明其在不同模型架构和规模上均显著提升性能，且比其他并行方法更高效。

Comments CVPR Findings 2026; code: https://github.com/hyungjin-chung/VPS

StructKV: Preserving the Structural Skeleton for Scalable Long-Context Inference

StructKV: 保持结构骨架以实现可扩展的长上下文推理

Zhirui Chen, Peiyang Liu, Ling Shao

机构 * UCAS-Terminus AI Lab, University of Chinese Academy of Sciences, China（中国科学院大学UCAS-Terminus AI实验室） ； National Engineering Research Center for Software Engineering, Peking University（北京大学国家软件工程研究中心） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 StructKV通过全局入度中心性、动态枢轴检测和结构传播与解耦方法，有效保留长距离依赖性和检索鲁棒性，提升长上下文推理效率。

Comments Accepted to ACL 2026 Findings, 14 pages

Auxiliary-predicted Compress Memory Model(ApCM Model): A Neural Memory Storage Model Based on Invertible Compression and Learnable Prediction

辅助预测压缩记忆模型（ApCM模型）：一种基于可逆压缩和可学习预测的神经记忆存储模型

Weinuo Ou

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出ApCM模型，通过可逆压缩和可学习预测解决大语言模型运行时内存机制不足的问题，提升动态个性化交互能力。

Comments 9 pages, 7 figures

Revealing the Learning Dynamics of Long-Context Continual Pre-training

揭示长上下文持续预训练的学习动态

Yupu Liang, Shuang Chen, Guanwei Zhang, Shaolei Wang, Suncong Zheng

机构 * Tencent Hunyuan（腾讯混元） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；SFT(abstract)；分类 cs.CL

AI总结 本文通过Hunyuan-A13B模型系统研究长上下文持续预训练的学习动态，揭示大规模数据训练的必要性、欺骗性饱和与内在饱和的区别，以及通过检索头监测训练稳定性。

Ego-Grounding for Personalized Question-Answering in Egocentric Videos

面向第一视角视频的个性化问答中的自我定位

Junbin Xiao, Shenglang Zhang, Pengxiang Zhu, Angela Yao

机构 * University of Science and Technology of China（中国科学技术大学） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出MyEgo数据集，用于评估多模态大语言模型在需要自我定位的个性化问答中的能力，发现现有模型在自我记忆和推理方面存在显著不足。

Comments To appear at CVPR'26

AdaptToken: Entropy-based Adaptive Token Selection for MLLM Long Video Understanding

AdaptToken: 基于熵的自适应令牌选择用于多模态大语言模型长视频理解

Haozhe Qi, Kevin Qu, Mahdi Rad, Rui Wang, Alexander Mathis, Marc Pollefeys

机构 * Microsoft Spatial AI Lab（微软空间人工智能实验室） ； EPFL（瑞士联邦理工学院洛桑） ； ETH Zurich（苏黎世联邦理工学院） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 AdaptToken通过利用模型自不确定性实现全局控制信号，提升多模态大语言模型对长视频的理解能力，通过熵信号分配令牌预算并支持提前停止，提升准确率并减少推理时间。

Comments Project page: https://haozheqi.github.io/adapt-token

ElephantBroker: A Knowledge-Grounded Cognitive Runtime for Trustworthy AI Agents

ElephantBroker：一个基于知识的认知运行时用于可信AI代理

Cristian Lupascu, Alexandru Lupascu

机构 * Elephant Broker（大象经纪人） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出ElephantBroker，一个结合Neo4j知识图谱与Qdrant向量存储的认知运行时，通过Cognee SDK实现可信AI代理的记忆管理，包含认知循环、证据验证、安全防护等模块，支持多部署层级和安全审计。

Environment-Grounded Multi-Agent Workflow for Autonomous Penetration Testing

基于环境的多智能体工作流用于自主渗透测试

Michael Somma, Markus Großpointner, Paul Zabalegui, Eppu Heilimo, Branka Stojanović

机构 * JOANNEUM RESEARCH Forschungsgesellschaft mbH, DIGITAL – Institute for Digital Technologies（JOANNEUM RESEARCH 研究所，DIGITAL – 数字技术研究所） ； TU Graz, Institute for Technical Informatics（格拉茨技术大学，技术信息研究所） ； Jamk University of Applied Sciences, Institute of Information Technology（贾马克应用科学大学，信息技术研究所） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出一种基于环境的多智能体架构，用于机器人环境中的自动化渗透测试，通过动态构建共享图状记忆实现系统状态的结构化自动化，并在ROS/ROS2场景中验证了其高可靠性。

Memory poisoning and secure multi-agent systems

记忆污染与安全多智能体系统

Vicenç Torra, Maria Bras-Amorós

机构 * Department of Computing Science, Ume University, Ume , Sweden（瑞典乌梅大学计算机科学系） ； Departament of Mathematics, Universitat Politècnica de Catalunya, Catalonia, Spain（西班牙加泰罗尼亚理工大学数学系） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文探讨了多智能体系统中记忆污染攻击的风险，分析了不同记忆系统类型的安全性，并提出基于密码学的缓解策略，强调了智能体交互中的实际风险及安全设计的重要性。

Comments 15 pages, 2 figures

TheraMind: A Strategic and Adaptive Agent for Longitudinal Psychological Counseling

TheraMind：一种用于长期心理辅导的战略和自适应代理

He Hu, Chiyuan Ma, Qianning Wang, Lin Liu, Yucheng Zhou, Laizhong Cui, Fei Ma, Qi Tian

机构 * Shenzhen University（深圳大学） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Auckland University of Technology（奥克兰理工大学） ； University of Science and Technology of China（中国科学技术大学） ； SKL-IOTSC, CIS, University of Macau（澳门科技研究所、CIS、澳门大学） ； Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ)（广东人工智能与数字经济实验室（深圳）） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出TheraMind，一种用于可信在线长期心理辅导的战略和自适应代理，通过双循环架构提升对话管理和治疗规划能力，实验证明其在多会话指标上优于其他方法。

Context-Length Robustness in Question Answering Models: A Comparative Empirical Study

问答模型中的上下文长度鲁棒性：一项比较实证研究

Trishita Dhara, Siddhesh Sheth

机构 * Upper Hand ； Ace Rent a Car 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究通过SQuAD和HotpotQA基准评估问答模型在上下文长度变化下的鲁棒性，发现多跳推理任务比单跨度提取任务更易受上下文稀释影响。

Comments Accepted for Oral Presentation at Math AI 2026 conference

Advancing Multimodal Agent Reasoning with Long-Term Neuro-Symbolic Memory

通过长期神经符号记忆推进多模态代理推理

Rongjie Jiang, Jianwei Wang, Gengda Zhao, Chengyang Luo, Kai Wang, Wenjie Zhang

机构 * University of New South Wales（新南威尔士大学） ； Zhejiang University（浙江大学） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出NS-Mem框架，结合神经记忆与符号结构，提升多模态代理的推理能力，实验证明其在推理准确率上优于纯神经记忆系统。

Comments 11 pages, 6 figures

Memory as Asset: From Agent-centric to Human-centric Memory Management

记忆作为资产：从以代理为中心到以人类为中心的记忆管理

Yanqi Pan, Qinghao Huang, Weihao Yang

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出以人类为中心的记忆管理范式，通过个人记忆存储、智能进化层和去中心化记忆交换网络，构建持续增长的知识基础架构，推动可扩展的人类中心AGI系统发展。

Long-Context Encoder Models for Polish Language Understanding

长上下文编码器模型用于波兰语言理解

Sławomir Dadas, Rafał Poświata, Marek Kozłowski, Małgorzata Grębowiec, Michał Perełkiewicz, Paweł Klimiuk, Przemysław Boruta

机构 * National Information Processing Institute（国家信息处理研究所） ； PKO Bank Polski（波兰PKO银行） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出了一种能够处理长文档的波兰语言模型，通过两阶段训练和知识蒸馏压缩模型，在25个任务中展现优异的长上下文处理能力。

Where Matters More Than What: Decoding-aligned KV Cache Compression via Position-aware Pseudo Queries

关键-值（KV）缓存中更重要的是什么：通过位置感知的伪查询实现解码对齐的KV缓存压缩

Zhenxu Tian, Yi Su, Juntao Li, Min Zhang

机构 * School of Computer Science and Technology, Soochow University（苏州大学计算机科学与技术学院） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出DapQ，通过位置感知的伪查询实现解码对齐的KV缓存压缩，有效减少内存占用并提升生成性能。

Try, Check and Retry: A Divide-and-Conquer Framework for Boosting Long-context Tool-Calling Performance of LLMs

尝试、检查并重试：一种提升LLMs长上下文工具调用性能的分而治之框架

Kunfeng Chen, Qihuang Zhong, Juhua Liu, Bo Du, Dacheng Tao

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出Tool-DC框架，通过'尝试-检查-重试'范式提升LLMs在长上下文工具调用任务中的性能，实验表明其在多个基准测试中均优于基线方法。

Comments 17 pages, 8 figures

CARROT: A Learned Cost-Constrained Retrieval Optimization System for RAG

CARROT：一种用于RAG的学得式成本约束检索优化系统

Ziting Wang, Haitao Yuan, Wei Dong, Gao Cong, Feifei Li

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 CARROT通过MCTS和配置代理优化RAG检索，提升检索效率与准确性，实验显示性能提升达30%。

Comments Accepted to ICDE 2026. Updated title (previously "CORAG: A Cost-Constrained Retrieval Optimization System for Retrieval-Augmented Generation")

Omni-Masked Gradient Descent: Memory-Efficient Optimization via Mask Traversal with Improved Convergence

全方位遮蔽梯度下降：通过遮蔽遍历实现内存高效的优化

Hui Yang, Tao Ren, Jinyang Jiang, Wan Tian, Yijie Peng

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 Omni-Masked Gradient Descent通过遮蔽遍历实现内存高效的优化，提供非凸情况下改进的收敛分析和更优的迭代复杂度。

SwingArena: Competitive Programming Arena for Long-context GitHub Issue Solving

SwingArena: 用于长上下文GitHub问题解决的竞争性编程竞技场

Wendong Xu, Jing Xiong, Chenyang Zhao, Qiujiang Chen, Haoran Wang, Hui Shen, Zhongwei Wan, Jianbo Dai, Taiqiang Wu, He Xiao, Chaofan Tao, Z. Morley Mao, Ying Sheng, Zhijiang Guo, Hongxia Yang, Bei Yu, Lingpeng Kong, Quanquan Gu, Ngai Wong

机构 * The University of Hong Kong（香港大学） ； University of California Los Angeles（加州大学洛杉矶分校） ； Tsinghua University（清华大学） ； University of Michigan Ann Arbor（密歇根大学安娜堡分校） ； The Ohio State University（俄亥俄州立大学） ； University of Edinburgh（爱丁堡大学） ； The Chinese University of Hong Kong（香港中文大学） ； The Hong Kong Polytechnic University（香港理工大学） ； Hong Kong University of Science and Technology (Guangzhou)（香港科学与技术大学（广州）） ； LMSYS Org（LMSYS组织） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 SwingArena是一个用于评估LLM在真实CI驱动软件开发环境中性能的竞争性编程竞技场，通过模拟软件迭代过程，结合检索增强型代码生成模块，实现对长上下文问题的高效处理。

Comments The paper has been accepted as an oral presentation at ICLR 2026

Enhancing Web Agents with a Hierarchical Memory Tree

通过分层记忆树增强网络代理

Yunteng Tan, Zhi Gao, Xinxiao Wu

机构 * Beijing Institute of Technology（北京理工大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出分层记忆树HMT，通过结构化框架分离逻辑规划与操作执行，提升网络代理在跨网站和跨领域任务中的泛化能力。

The Limits of Long-Context Reasoning in Automated Bug Fixing

长上下文推理在自动化Bug修复中的局限性

Ravi Raju, Mengmeng Ji, Shubhangi Upasani, Bo Li, Urmish Thakker

机构 * SambaNova Systems（SambaNova系统） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本研究发现长上下文推理在自动化Bug修复中存在显著局限，现有模型在长上下文下的表现远低于预期。

Comments Accepted to ICLR 2026 ICBINB workshop

FlashAttention-4: Algorithm and Kernel Pipelining Co-Design for Asymmetric Hardware Scaling

FlashAttention-4：异构硬件扩展下的算法与内核流水线协同设计

Ted Zadouri, Markus Hoehnerbach, Jay Shah, Timmy Liu, Vijay Thakkar, Tri Dao

机构 * Princeton University（普林斯顿大学） ； Meta ； Colfax Research（Colfax研究公司） ； NVIDIA（NVIDIA公司） ； Georgia Tech（佐治亚理工学院） ； Together AI 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 FlashAttention-4通过异构硬件扩展下的算法与内核流水线协同设计，提升B200 GPU上的注意力计算效率。

SE-Search: Self-Evolving Search Agent via Memory and Dense Reward

SE-Search: 通过记忆和密集奖励实现的自进化搜索代理

Jian Li, Yizhang Jin, Dongqi Liu, Hang Ding, Jiafu Wu, Dongsheng Chen, Yunhang Shen, Yulei Qin, Ying Tai, Chengjie Wang, Xiaotong Yuan, Yabiao Wang

机构 * Nanjing University（南京大学） ； Tencent YoutuLab（腾讯优图实验室） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 SE-Search通过记忆净化、原子查询训练和密集奖励提升搜索效率，优于现有基线方法。

Multi-Head Low-Rank Attention

多头低秩注意力

Songtao Liu, Hongwu Peng, Zhiwei Zhang, Zhengyu Chen, Yue Guo

机构 * The Pennsylvania State University（宾夕法尼亚州立大学） ； University of Connecticut（康涅狄格大学） ； Carnegie Mellon University（卡内基梅隆大学） ； University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本研究提出多头低秩注意力机制，通过高效4路张量并行解码，显著提升大型语言模型的解码速度和性能。

Comments Accepted by ICLR 2026

LongRLVR: Long-Context Reinforcement Learning Requires Verifiable Context Rewards

长上下文强化学习需要可验证的上下文奖励

Guanzheng Chen, Michael Qizhe Shieh, Lidong Bing

机构 * National University of Singapore（国立新加坡大学） ； MiroMind AI ； absolute AI 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 LongRLVR通过引入可验证的上下文奖励，解决长上下文强化学习中因稀疏奖励导致的梯度消失问题，显著提升大语言模型的推理能力。

Comments ICLR 2026