语言大模型 / LLM

LLM as Attention-Informed NTM and Topic Modeling as long-input Generation: Interpretability and long-Context Capability

LLM作为具有注意力机制的NTM及话题建模作为长输入生成：可解释性与长上下文能力

Xuan Xu, Zhongliang Yang, Haolun Li, Beilin Chu, Rui Tian, Yu Li, Shaolin Tan, Linna Zhou

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； University of Science and Technology Beijing（北京科技大学） ； Beijing Value Simplex Technology Co. Ltd（北京价值简单科技有限公司） ； Zhongguancun Laboratory（中关村实验室） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；分类 cs.CL、cs.AI

AI总结 本文从白盒和黑盒视角研究基于LLM的话题建模，提出注意力引导框架恢复可解释结构，并通过长输入任务和信号补偿方法提升性能，验证LLM与NTM的联系及长上下文LLM在话题建模中的潜力。

Drawing on Memory: Dual-Trace Encoding Improves Cross-Session Recall in LLM Agents

基于记忆的绘制：双轨迹编码提升LLM代理跨会话回忆

Benjamin Stern, Peter Nadel

机构 * Tufts University（塔夫茨大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；分类 cs.AI

AI总结 本文提出双轨迹编码方法，通过将事实与具体场景描述结合，提升LLM代理在跨会话中的回忆能力，实验显示在时间推理、知识更新追踪和多会话聚合方面有显著提升。

Comments 16 pages, 2 tables, 2 figures

BEAM: Bi-level Memory-adaptive Algorithmic Evolution for LLM-Powered Heuristic Design

BEAM：基于LLM的双层记忆自适应算法进化用于启发式设计

Chuyang Xiang, Yichen Wei, Jiale Ma, Handing Wang, Junchi Yan

机构 * IEEE 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 BEAM通过双层优化方法，结合遗传算法和MCTS，改进LLM驱动的启发式设计，有效提升复杂代码生成效率，实验显示在CVRP混合算法设计中优化差距减少37.84%。

Comments 24 pages, 11 figures

The role of System 1 and System 2 semantic memory structure in human and LLM biases

系统1和系统2语义记忆结构在人类和LLM中的作用

Katherine Abramski, Giulio Rossetti, Massimo Stella

机构 * Department of Computer Science, University of Pisa, Italy（意大利比萨大学计算机科学系） ； Institute of Information Science and Technologies - National Research Council, Italy（意大利信息科学与技术研究所-国家研究理事会） ； CogNosco Lab, Department of Psychology and Cognitive Science, University of Trento, Italy（意大利特伦托大学心理学与认知科学系CogNosco实验室） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究通过对比人类和LLM的语义记忆结构，揭示隐性偏见的来源，发现人类语义结构能减少偏见，而LLM缺乏这种人类特有的概念知识。

Comments 31 pages, 5 figures, 9 appendix figures

GAM: Hierarchical Graph-based Agentic Memory for LLM Agents

GAM：基于图的代理记忆用于大语言模型代理

Zhaofen Wu, Hanrong Zhang, Fulin Lin, Wujiang Xu, Xinran Xu, Yankai Chen, Henry Peng Zou, Shaowen Chen, Weizhi Zhang, Xue Liu, Philip S. Yu, Hongwei Wang

机构 * Zhejiang University（浙江大学） ； University of Illinois Chicago（伊利诺伊大学芝加哥分校） ； Rutgers University（罗格斯大学） ； MBZUAI（麦吉尔大学人工智能研究所） ； McGill University（麦吉尔大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出GAM框架，通过解耦记忆编码与巩固，解决LLM代理在快速上下文感知与稳定知识保留间的矛盾，提升推理准确性和效率。

Comments 18 pages, 6 figures

EMBER: Autonomous Cognitive Behaviour from Learned Spiking Neural Network Dynamics in a Hybrid LLM Architecture

EMBER：在混合大语言模型架构中通过学习的脉冲神经网络动态实现自主认知行为

William Savage

机构 * Independent Researcher（独立研究者） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文提出EMBER架构，通过学习的脉冲神经网络动态实现大语言模型与记忆之间的关系重组，利用STDP和奖励调节学习实现自主行为决策。

Comments Preprint. 9 pages, 2 figures, 3 tables. NeurIPS 2026 format

Thought-Retriever: Don't Just Retrieve Raw Data, Retrieve Thoughts for Memory-Augmented Agentic Systems

Thought-Retriever: 不只是检索原始数据，为记忆增强型智能体检索思想

Tao Feng, Pengrui Han, Guanyu Lin, Ge Liu, Jiaxuan You

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出Thought-Retriever，一种无需受上下文长度限制的算法，使LLM能基于任意长外部数据生成输出。通过利用历史查询生成的中间响应，构建长期记忆，提升回答能力。

Journal ref Transactions on Machine Learning Research (TMLR), 04/2026

EvoSpark: Endogenous Interactive Agent Societies for Unified Long-Horizon Narrative Evolution

EvoSpark：内生交互代理社会的统一长周期叙述进化

Shiyu He, Minchi Kuang, Mengxian Wang, Bin Hu, Tingxiang Gu

机构 * School of Computer Science and Technology, Xinjiang University（新疆大学计算机科学与技术学院） ； Department of Precision Instrument, Tsinghua University（清华大学精密仪器系） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.CL

AI总结 EvoSpark通过内生交互代理社会框架，解决LLM多代理系统中长周期叙述演化的矛盾，通过分层叙述记忆和生成场景机制实现逻辑一致的持续叙事。

Comments Accepted to the Main Conference of ACL 2026

LoSA: Locality Aware Sparse Attention for Block-Wise Diffusion Language Models

LoSA：基于块状扩散语言模型的局部意识稀疏注意力

Haocheng Xi, Harman Singh, Yuezhou Hu, Coleman Hooper, Rishabh Tiwari, Aditya Tomar, Minjae Lee, Wonjun Kang, Michael Mahoney, Chenfeng Xu, Kurt Keutzer, Amir Gholami

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 长上下文与记忆 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 LoSA通过局部意识稀疏注意力机制，针对块状扩散语言模型中的KV膨胀问题，优化注意力计算，提升效率和精度，实现更高的准确率和速度。

Comments 16 pages, 11 figures, 6 tables

Advancing Multi-Agent RAG Systems with Minimalist Reinforcement Learning

通过最小化强化学习推进多智能体RAG系统

Yihong Wu, Liheng Ma, Muzhi Li, Jiaming Zhou, Lei Ding, Jianye Hao, Ho-fung Leung, Irwin King, Yingxue Zhang, Jian-Yun Nie

机构 * McGill University \& Mila Montréal QC Canada ； The Chinese University of Hong Kong Hong Kong China ； Huawei Noah’s Ark Lab Montréal QC Canada ； University of Manitoba Winnipeg MB Canada ； Tianjin University Tianjin China ； Independent Researcher Hong Kong China ； McGill University \& Mila ； The Chinese University of Hong Kong ； Huawei Noah’s Ark Lab ； University of Manitoba ； Tianjin University ； Independent Researcher 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；post-training(abstract)；分类 cs.CL

AI总结 本文提出Mujica-MyGo框架，通过多智能体RAG流程分解多轮交互，结合轻量强化学习算法MyGO，有效解决长上下文问题，提升复杂问答性能。

Comments AAMAS 2026

ZoomR: Memory Efficient Reasoning through Multi-Granularity Key Value Retrieval

ZoomR：通过多粒度键值检索实现内存高效的推理

David H. Yang, Yuxuan Zhu, Mohammad Mohammadi Amiri, Keerthiram Murugesan, Tejaswini Pedapati, Subhajit Chaudhury, Pin-Yu Chen

机构 * Rensselaer Polytechnic Institute（罗切斯特理工学院） ； IBM Research（IBM研究院） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 ZoomR通过多粒度键值检索实现内存高效的推理，减少内存使用，适用于长输出生成任务。

Memory as Metabolism: A Design for Companion Knowledge Systems

记忆作为代谢：一种陪伴知识系统的 设计

Stefan Miteski

机构 * CODE University Berlin（CODE大学柏林） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文提出一种针对单用户知识维基的治理框架，通过五项操作处理记忆中的矛盾证据，以避免固化问题。

Comments 41 pages, 1 table. Preprint v3.642. Concept DOI: 10.5281/zenodo.19501651

When to Forget: A Memory Governance Primitive

何时遗忘：一种记忆治理原语

Baris Simsek

机构 * Baris Simsek（巴里·西姆塞克） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文提出Memory Worth，一种通过跟踪记忆与成功/失败结果共现次数来评估记忆质量的机制，为动态管理提供理论基础，并在实验中验证其有效性。

Comments 12 pages, 5 figures

DRPG (Decompose, Retrieve, Plan, Generate): An Agentic Framework for Academic Rebuttal

DRPG（分解、检索、计划、生成）：一种用于学术反驳的代理框架

Peixuan Han, Yingjie Yu, Jingjun Xu, Jiaxuan You

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出DRPG框架，通过分解评审、检索证据、计划反驳策略和生成回应四个步骤，提升学术反驳的自动化水平，实验表明其性能超越现有方法并达到人类水平。

ORBIT: Guided Agentic Orchestration for Autonomous C-to-Rust Transpilation

ORBIT: 用于自主C到Rust转换的引导代理 orchestration

Muhammad Farrukh, Baris Coskun, Tapti Palit, Michalis Polychronakis

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)

AI总结 ORBIT 提出一种自主代理框架，通过动态上下文收集和依赖引导 orchestration 实现项目级 C到Rust转换，显著提升大规模代码转换的准确性和安全性。

Transferable Expertise for Autonomous Agents via Real-World Case-Based Learning

通过现实世界案例学习实现自主代理的可迁移专业技能

Zhenyu Ma, Yuyang Song, Chunyi Yang, Jingyi Zhu, Letian Yang, Xukai Jiang

机构 * National Glycoengineering Research Center, Shandong University（山东大学糖工程研究中心） ； State Key Laboratory of Microbial Technology, Shandong University（山东省微生物技术重点实验室） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；分类 cs.AI

AI总结 本文提出基于案例学习的框架，通过将过往任务经验转化为可重用的知识资产，使自主代理能迁移先前经验以执行更结构化的分析，在六个复杂任务类别基准测试中表现优异，尤其在复杂任务上优势显著。

ReflectCAP: Detailed Image Captioning with Reflective Memory

ReflectCAP: 基于反思记忆的详细图像描述

Kyungmin Min, Minbeom Kim, Kang-il Lee, Seunghyun Yoon, Kyomin Jung

机构 * IPAI, Seoul National University（首尔国立大学IPAI） ； Dept. of ECE, Seoul National University（首尔国立大学电子与计算机工程系） ； Adobe Research（Adobe研究） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.AI

AI总结 ReflectCAP通过反思笔记指导生成详细且准确的图像描述，平衡事实性和覆盖性，优于现有方法。

Ro-SLM: Onboard Small Language Models for Robot Task Planning and Operation Code Generation

Ro-SLM：机器人任务规划与操作代码生成的 onboard 小语言模型

Wenhao Wang, Yanyan Li, Long Jiao, Jiawei Yuan

机构 * Department of Computer & Information Science, University of Massachusetts Dartmouth（达特茅斯大学计算机与信息科学系） ； Department of Computer Science & Engineering, California State University San Marcos（加州州立大学桑马克斯分校计算机科学与工程系） 纠错

专题命中 推理与问题求解 ：SLM(title,title_cn)；language model(title,abstract)；small language model(title,abstract)；LLM(abstract,abstract_cn)

AI总结 本文提出Ro-SLM框架，通过蒸馏大语言模型知识提升机器人任务规划与代码生成能力，实验证明其性能接近大语言模型。

Comments 25 pages, 2 figures, ACL 2026

LLM-HYPER: Generative CTR Modeling for Cold-Start Ad Personalization via LLM-Based Hypernetworks

LLM-HYPER：基于大语言模型的超网络生成CTR模型用于冷启动广告个性化

Luyi Ma, Wanjia Sherry Zhang, Zezhong Fan, Shubham Thakur, Kai Zhao, Kehui Yao, Ayush Agarwal, Rahul Iyer, Jason Cho, Jianpeng Xu, Evren Korpeoglu, Sushant Kumar, Kannan Achan

机构 * Walmart Global Tech（沃尔玛全球技术） 纠错

专题命中 推理与问题求解 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文提出LLM-HYPER框架，利用大语言模型作为超网络生成CTR估计器参数，通过少样本链式思维提示实现冷启动广告个性化，实验表明其在NDCG@10上优于基线方法55.9%。

Beyond Output Correctness: Benchmarking and Evaluating Large Language Model Reasoning in Coding Tasks

超越输出正确性：评估大型语言模型在编码任务中的推理能力

Yuangang Li, Justin Tian Jin Chen, Ethan Yu, David Hong, Iftekhar Ahmed

机构 * University of California, Irvine（加州大学尔湾分校） 纠错

专题命中 推理与问题求解 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出CodeRQ-Bench，首个评估LLM在生成、摘要和分类等编码任务中推理质量的基准，通过分析现有评估器的1069个不匹配案例，提出VERA评估器，实验表明其在四个数据集上均优于基线，提升AUCROC和AUPRC最高达0.26和0.21。

A Two-Stage LLM Framework for Accessible and Verified XAI Explanations

一个两阶段LLM框架用于可访问且验证的XAI解释

Georgios Mermigkis, Dimitris Metaxakis, Marios Tyrovolas, Argiris Sofotasios, Nikolaos Avgeris, Panagiotis Hadjidoukas, Chrysostomos Stylios

机构 * Department of Computer Engineering and Informatics, University of Patras（帕特拉大学计算机工程与信息学系） ； Department of Informatics and Telecommunications, University of Ioannina（伊奥安尼纳大学信息与电信系） ； Industrial Systems Institute, Athena Research Center（雅典研究中心工业系统研究所） ； Archimedes Unit, Athena Research Center（雅典研究中心阿基米德单位） 纠错

专题命中 推理与问题求解 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出两阶段LLM框架，通过解释器和验证器LLM生成并验证XAI解释，提升解释的准确性与可访问性。

Comments 8 pages, 8 figures, Accepted for publication at the 2026 IEEE World Congress on Computational Intelligence (WCCI 2026)

HintMR: Eliciting Stronger Mathematical Reasoning in Small Language Models

HintMR：在小型语言模型中激发更强的数学推理

Jawad Hossain, Xiangyu Guo, Jiawei Zhou, Chong Liu

机构 * University at Albany（阿尔巴尼大学） ； University at Buffalo（布法罗大学） ； Stony Brook University（石溪大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；small language model(title,abstract)；large language model(abstract)；SLM(abstract)

AI总结 本文提出HintMR框架，通过提示辅助引导小型语言模型进行多步数学问题解决，通过协作的双模型系统提升推理准确性，实验表明在多种数学基准上显著提升性能。

Comments 15 pages, 5 figures, Preprint

AdversarialCoT: Single-Document Retrieval Poisoning for LLM Reasoning

AdversarialCoT：单文档检索污染用于LLM推理

Hongru Song, Yu-An Liu, Ruqing Zhang, Jiafeng Guo, Maarten de Rijke, Yixing Fan, Xueqi Cheng

专题命中 推理与问题求解 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 研究针对RAG系统中的知识库污染攻击，提出AdversarialCoT方法，通过单文档污染影响LLM推理，揭示其安全风险并提供改进方案。

Comments 6 pages,accepted by SIGIR 2026 short paper

CKG-LLM: LLM-Assisted Detection of Smart Contract Access Control Vulnerabilities Based on Knowledge Graphs

CKG-LLM：基于知识图谱的智能合约访问控制漏洞检测框架

Xiaoqi Li, Hailu Kuang, Wenkai Li, Zongwei Li, Shipeng Ye

专题命中 推理与问题求解 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出CKG-LLM框架，利用大语言模型能力将自然语言漏洞模式转化为知识图谱查询，提升智能合约访问控制漏洞检测性能。

Comments 6 pages, 5 figures

PolicyLLM: Towards Excellent Comprehension of Public Policy for Large Language Models

PolicyLLM：迈向大型语言模型在公共政策领域的卓越理解

Han Bao, Penghao Zhang, Yue Huang, Zhengqing Yuan, Yanchi Ru, Rui Su, Yujun Zhou, Xiangqi Wang, Kehan Guo, Nitesh V Chawla, Yanfang Ye, Xiangliang Zhang

机构 * University of Notre Dame（诺丁汉大学） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；LLM(summary_cn,abstract_cn)；分类 cs.CL

AI总结 本文提出PolicyBench基准和PolicyMoE模型，评估大型语言模型在公共政策理解中的能力，发现其在应用任务中表现更优，揭示了当前LLM在政策理解中的局限性。

Comments Accepted by ACL 2026 findings

Designing Reliable LLM-Assisted Rubric Scoring for Constructed Responses: Evidence from Physics Exams

设计可靠的LLM辅助评分系统用于构造响应：来自物理考试的证据

Xiuxiu Tang, G. Alex Ambrose, Ying Cheng

机构 * Department of Psychology, University of Notre Dame（诺特大学心理学系） ； Notre Dame Learning, University of Notre Dame（诺特大学学习中心） 纠错

专题命中 推理与问题求解 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文研究了GPT-4o在物理考试构造响应评分中的可靠性，发现细粒度检查清单式评分优于整体评分，提示清晰的评分标准对AI辅助评分至关重要。

Variation in Verification: Understanding Verification Dynamics in Large Language Models

验证的多样性：理解大型语言模型中的验证动态

Yefan Zhou, Austin Xu, Yilun Zhou, Janvijay Singh, Jiang Gui, Shafiq Joty

机构 * Salesforce AI Research（Salesforce AI研究院） ； Dartmouth College（达特茅斯学院） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究大型语言模型中验证动态，分析问题难度、生成器能力及验证器生成能力三个维度，发现验证有效性与问题难度相关，优化TTS应用中的基本验证策略。

Comments ICLR 2026

Narrative over Numbers: The Identifiable Victim Effect and its Amplification Under Alignment and Reasoning in Large Language Models

数字之外的叙事：可识别受害者效应及其在对齐和推理中的放大

Syed Rifat Raiyan

机构 * Systems and Software Lab (SSL), Department of Computer Science and Engineering（系统与软件实验室（SSL），计算机科学与工程系） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract_cn)；prompting(abstract)

AI总结 研究探讨了大语言模型中可识别受害者效应的普遍存在及其受对齐训练的影响，发现指令调优模型表现出极端效应，而推理专精模型则逆转了该效应，且标准CoT提示放大了该效应。

Comments Under review, 49 pages, 20 figures, 11 tables

InsightFlow: LLM-Driven Synthesis of Patient Narratives for Mental Health into Causal Models

InsightFlow: 基于LLM的患者心理健康叙事合成至因果模型

Shreya Gupta, Prottay Kumar Adhikary, Bhavyaa Dave, Salam Michael Singh, Aniket Deroy, Tanmoy Chakraborty

机构 * Department of Mathematics, IIT Delhi（印度德里理工学院数学系） ； Department of Electrical Engineering, IIT Delhi（印度德里理工学院电气工程系） ； Department of Computer Science and Engineering, IIIT Manipur（曼尼普尔理工学院计算机科学与工程系） 纠错

专题命中 推理与问题求解 ：LLM(title,title_cn)；分类 cs.CL

AI总结 InsightFlow利用LLM自动从患者-治疗师对话生成与5P框架对齐的因果图，通过结构、语义和专家评估验证，证明其在临床案例构建中的有效性。

LLM-Guided Task- and Affordance-Level Exploration in Reinforcement Learning

基于大型语言模型的任务与能力层面探索的强化学习

Jelle Luijkx, Runyu Ma, Zlatan Ajanović, Jens Kober

机构 * RWTH Aachen University（亚琛工业大学） 纠错

专题命中 推理与问题求解 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出LLM-TALE框架，利用大型语言模型的规划能力引导强化学习探索，提升学习效率和任务成功率，实验证明在抓取放置任务中表现出更高的样本效率和成功率。

Comments 8 pages, 7 figures, ICRA 2026