AI 大模型
大语言模型、预训练、指令微调、后训练和语言模型应用。
变压器动力学中的红外组织与临界认知场形成
机构 * Electronics and Telecommunications Research Institute（电子和电信研究所）
专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG
AI总结 研究大语言模型中Transformer动力学集体行为的物理机制，利用Pythia语言模型提取弛豫谱，定量测量相关指标，发现其动力学受红外集体组织支配，红外慢模式组织是普遍集体原则。
Comments 55 pages, 47 figures
爆炸半径
机构 * Algorithm Reconnaissance Division（算法侦察部） ； Mankind Research Labs（人类研究实验室） ； North-West University（西北大学） ； University of Pretoria（比勒陀利亚大学）
专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI
AI总结 针对智能体编码的令牌浪费问题，提出Blast Radius内存管理层，结合NECROPHORESIS与RDM实现可逆上下文驱逐，在7个OpenAI模型上降低令牌消耗17%-26%，提升编码可持续性。
具有记忆增强的强化学习代理的CAD生成
机构 * Zhejiang University（浙江大学）
专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI
AI总结 本文提出了一种记忆增强的强化学习框架，用于生成CAD模型，通过引入强化学习进行检索和策略优化，有效避免了检索陷阱，提高了复杂CAD模型生成的成功率和几何一致性。
Comments We are withdrawing this manuscript because we have identified issues in the current analysis that require substantial revision. Until these issues are resolved, we do not consider the present version suitable for citation
ConMem：面向长周期制造检查日志的贡献感知记忆
机构 * Shandong University（山东大学） ； Boston University（波士顿大学） ； North China Electric Power University（华北电力大学） ； National University of Singapore（新加坡国立大学） ； Joint SDU-NTU Centre for Artificial Intelligence Research (C-FAIR), Shandong University（山东大学-南洋理工大学人工智能联合研究中心（C-FAIR）） ； Rizhao Steel Holding Group Co., Ltd.（日照钢铁控股集团有限公司）
专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI
AI总结 该研究针对长周期制造检查日志的早期风险筛查需求，提出ConMem贡献感知记忆框架，通过Shapley风格评估保留高价值证据，在真实数据集上实现76.0% QA准确率，大幅减少输入token数与响应时间，可有效保留弱早期信号并提供预警。
ContextSniper: AntTrail的令牌高效代码记忆用于仓库级程序修复
机构 * Huawei（华为） ； HKUST(GZ)（香港科技大学（广州）） ； Nanyang Technological University（南洋理工大学）
专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI
AI总结 提出ContextSniper，一种令牌高效的代码记忆层，通过精准证据选择、混合检索排序和意图感知上下文门控，在SWE-bench Lite上减少51.5%令牌使用和36.4%成本，修复率仅轻微下降。
如何构建马库斯的代数心智：基于伽罗瓦域的代数确定性介质
机构 * Institute of Innovation Research, Hitotsubashi University（立命馆大学创新研究所） ； Meisei University（立命馆大学） ； Shuhari System（Shuhari系统）
专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI
AI总结 本文提出了一种基于伽罗瓦域的代数确定性介质，实现了马库斯提出的三种认知架构核心要素，并展示了该架构在逻辑推理和语义区分方面的应用。
Comments 26 pages
InfMem: 面向长上下文智能体的系统2记忆控制
机构 * McGill University（麦吉尔大学） ； Noah's Ark Lab（诺亚实验室）
专题命中 长上下文与记忆 ：SFT(abstract,abstract_cn)；分类 cs.CL
AI总结 InfMem通过预思考-检索-写作协议实现系统2风格的控制，有效提升超长文档推理的准确率并减少推理时间。
Comments Accepted to COLM 2026
仅追踪所需：面向长文档问答的结构感知按需超图记忆
机构 * University of New South Wales（新南威尔士大学） ； CSIRO（澳大利亚联邦科学与工业研究组织） ； University of Wollongong（伍伦贡大学）
专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL
AI总结 提出DocTrace，一种多智能体RAG框架，通过查询触发的知识组织、文档结构感知和经验引导推理，解决长文档问答中知识组织成本高、结构利用不足和推理经验无法复用的问题，在三个数据集上取得最佳性能。
当记忆成为权威：在记忆整合边界处对权威崩溃进行基准测试
机构 * Tsinghua University（清华大学） ； East China Normal University（华东师范大学）
专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI
AI总结 本研究推出AuthMem-Bench基准，发现智能体记忆整合存在权威崩溃问题，自动保留权威标签可大幅降低未授权动作率，证明记忆适配需同时保留权威信息。
Comments 38 pages, 2 figures
AIvilization v0：迈向大规模人工社会模拟的统一代理架构与自适应代理档案
机构 * The Hong Kong University of Science and Technology（香港科学与技术大学） ； Bauhinia AI
专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI
AI总结 AIvilization v0通过统一代理架构和自适应代理档案，实现大规模人工社会模拟，解决目标稳定性与反应正确性矛盾，支持长周期自主性和多目标环境下的稳健性。
Comments v2: major revision. Agent architecture and environment consolidated into self-contained sections; new problem-setting section formalizing the asynchronous event model; evaluation reorganized by experiment with results reported alongside each protocol; added action-simulator audit, and human-steering analyses; other sections rewritten
功能缓存嫁接：具身智能体的鲁棒且快速代码策略合成
机构 * University of California, Berkeley（加州大学伯克利分校）
专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI
AI总结 提出FCGraft框架，通过维护函数级验证代码骨架及其键值缓存，对新任务进行缓存嫁接（拼接和修补），减少预填充计算并复用验证结构，实现更鲁棒和快速的策略合成。
Comments Accepted at ICML 2026
LiteTopK：利用维度诅咒设计长上下文稀疏注意力中的融合索引器 - TopK 内核
机构 * Nanyang Technological University（南洋理工大学） ； ETH Zurich（苏黎世联邦理工学院） ； The Chinese University of Hong Kong（香港中文大学）
专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG
AI总结 研究针对现有 GPU 索引器 - TopK 内核效率低的问题，利用维度诅咒设计 LITETOPK 内核，通过采样估计得分范围划分候选结果桶，降低内存开销，在实际部署中加速 GLM 5.2 预填充阶段，提升了效率。
无迹可循：低秩训练中的不可识别性与优化器状态
机构 * Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG
AI总结 研究低秩训练中优化器子空间不可识别性问题，发现不同小批量计算的子空间估计差异大，平均无法恢复其余方向。提出将刷新视为坐标变化，如LDAdam表现良好，还明确了GaLore有效原因及相关检查要点在于可重现秩k*。
Comments 21 pages, 5 figures, under review at ICOMP2026
Psy-Chronicle: 一个用于合成长周期校园心理辅导对话的结构化流水线
机构 * University of Science and Technology Beijing（北京科技大学）
专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL
AI总结 本文提出Psy-Chronicle，一种结构化数据生成框架，用于合成长周期校园心理辅导对话，通过生成学期跨度的时间压力事件图和学生与辅导员代理的交互模拟，构建了包含100个学生档案和9万条对话的CPCD数据集，并通过CPCD-Bench评估模型的长周期校园辅导能力，实验结果表明CPCD有效提升了模型的会话级响应生成和长周期记忆召回能力。
VTC: 基于虚拟张量的DNN编译以消除数据移动
机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Georgia Institute of Technology（佐治亚理工学院） ； Microsoft（微软）
专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG
AI总结 VTC通过引入虚拟张量概念，首次实现消除所有不必要的数据移动，提升DNN编译效率，减少内存占用。
Comments Accepted to OSDI'26
AOI：通过动态调度和分层内存压缩实现的上下文感知多智能体操作
机构 * Columbia University（哥伦比亚大学） ； Hunan University（湖南大学） ； Central University of Finance and Economics（中央财经大学） ； Chongqing University（重庆大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； AI Agent Lab, Vokram Group（Vokram集团人工智能代理实验室） ； College of William and Mary（威廉与玛丽学院） ； University of Texas（得克萨斯大学） ； Zhengzhou University of Light Industry（郑州轻工业大学） ； Emory University（埃默里大学） ； Department of Nephrology, Affiliated Hospital of Guangdong Medical University（广东医科大学附属医院肾病科）
专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI
AI总结 本文提出AOI框架，通过动态任务调度和分层内存压缩，提升复杂IT基础设施的自主运维能力，实现72.4%的上下文压缩和94.2%的任务成功率。
Comments new revision
CompLLM：长上下文问答的压缩方法
机构 * Amazon（亚马逊） ； Center For Research in Computer Vision, University of Central Florida（计算机视觉研究中心，中央佛罗里达大学）
专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL
AI总结 研究针对大语言模型处理长上下文的计算挑战，提出CompLLM软压缩技术。核心方法是将上下文分段独立压缩，具有效率、可扩展性和可重用性。贡献是提升处理速度、减小缓存大小且性能可比甚至超越未压缩情况。
遗忘，然后回忆：通过概要稀疏注意力实现可学习的压缩与选择性展开
机构 * Stanford University（斯坦福大学）
专题命中 长上下文与记忆 ：language model(abstract)；pretraining(abstract)；分类 cs.LG
AI总结 本文提出一种通过概要稀疏注意力实现可学习的压缩与选择性展开机制，结合紧凑的全局表示与目标访问细粒度证据，提升长上下文大语言模型的效率与性能。
混合线性注意力机制的系统分析
机构 * UC Santa Cruz（加州大学圣克鲁兹分校） ； ByteDance Seed（字节跳动种子） ； University of Groningen（格罗宁根大学） ； CASIA（中国科学院自动化研究所） ； PolyU ； M-A-P
专题命中 长上下文与记忆 ：language model(abstract)；prompting(abstract)；分类 cs.CL
AI总结 系统评估六种线性注意力变体在独立和混合架构下的性能，发现独立性能优越的模型在混合中不一定表现好，推荐HGRN-2或GatedDeltaNet以3:1至6:1的线性-全注意力比例达到Transformer级召回率。
双锚定：解决视觉语言导航中的状态漂移问题
机构 * National Key Laboratory of Human-Machine Hybrid Augmented Intelligence（人机混合增强智能国家重点实验室） ； National Engineering Research Center for Visual Information and Applications（视觉信息与应用国家工程研究中心） ； Institute of Artificial Intelligence and Robotics（人工智能与机器人研究院） ； Xi’an Jiaotong University（西安交通大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； Johns Hopkins University（约翰霍普金斯大学） ； Joy Future Academy, JD（京东探索研究院）
专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI
AI总结 提出双锚定框架，通过指令进度锚定和记忆地标锚定分别解决进度漂移和记忆漂移，显著提升长场景导航成功率。
Comments Accepted by ECCV26
表示干预使大语言模型在终身学习中实现知识记忆控制
机构 * Dartmouth College（达特茅斯学院） ； NEC Laboratories America（NEC美国实验室） ； Carnegie Mellon University（卡内基梅隆大学）
专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI
AI总结 本文提出RILKE方法，通过在模型表示空间中进行干预，实现大语言模型的终身知识控制，有效更新知识并保持通用性。
Comments In Proceedings of the 64th Annual Meeting of the Association for Computational Linguistics: ACL 2026, Oral Presentation
FuseSampleAgg: 预算知识图谱刷新与验证的单遍邻域估计
机构 * University of Novi Sad（诺维萨德大学） ； Shanghai Key Lab of Intelligent Information Processing（上海智能信息处理重点实验室） ； College of Computer Science and Artificial Intelligence（计算机科学与人工智能学院） ； Fudan University（复旦大学） ； Institute of Automation（自动化研究所） ； Chinese Academy of Sciences（中国科学院）
专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.LG
AI总结 提出一种融合的PyTorch CUDA算子，通过单遍采样和聚合实现邻域均值估计，避免显式子图构建，在保持GraphSAGE-mean语义的同时，将端到端步延迟提升2.24-3.48倍，瞬态内存降低至1/160。
Comments 11 pages. Code and reproducibility scripts: https://github.com/SV25-22/FuseSampleAgg
自生成：一种自我进化代理协议
机构 * Nanyang Technological University（南洋理工大学） ； Stanford University（斯坦福大学） ； Princeton University（普林斯顿大学） ； City University of Hong Kong（香港城市大学） ； University of Science and Technology of China（中国科学技术大学）
专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI
AI总结 本文提出了一种自生成协议（AGP），该协议通过分离进化内容与进化过程，解决了现有代理协议在跨实体生命周期管理、版本追踪和安全更新接口方面的不足。基于AGP，作者展示了自生成系统（AGS），该系统能够动态实例化、检索和优化协议注册的资源，通过多个具有长视界规划和工具使用的挑战性基准测试，验证了代理资源管理和闭环自我进化的有效性。
StackPlanner: 一种具有任务经验记忆管理的集中式分层多智能体系统
机构 * School of Computer Science, Peking University（北京大学计算机学院） ； National Engineering Research Center for Software Engineering, Peking University（北京大学软件工程国家工程研究中心） ； School of Public Affaris, Zhejiang University（浙江大学公共管理学院） ； School of Software & Microelectronics, Peking University（北京大学软件与微电子学院） ； GRG Banking Equipment Co., Ltd.（GRG银行设备有限公司） ； Center on Frontiers of Computing Studies, Peking University（北京大学计算前沿中心） ； Peking University Information Technology Institute (Tianjin Binhai)（北京大学信息技术研究院（天津滨海））
专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI
AI总结 提出StackPlanner分层多智能体框架，通过显式记忆控制解耦高层协调与子任务执行，并利用结构化经验记忆和强化学习复用协调经验，解决长期协作中的记忆膨胀和错误累积问题。
FundaPod: 一个具有知识图谱记忆的多角色智能体平台，用于AI辅助的基础投资研究
机构 * Stevens Institute of Technology（史蒂文斯理工学院） ； UMass Boston（马萨诸塞大学波士顿分校）
专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI
AI总结 提出FundaPod平台，通过多角色独立研究、知识图谱记忆和事后裁决机制，支持人类投资经理进行透明、可验证的基础投资决策。
Comments 32 pages; 12 figures
All-Mem: 通过动态拓扑演化实现智能体终身记忆
机构 * Beijing Advanced Innovation Center for Future Blockchain and Privacy Computing（北京未来区块链与隐私计算先进创新中心） ； Beihang University（北航） ； Tsinghua University（清华大学） ； Chalmers University of Technology（查尔姆斯理工大学）
专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.CL
AI总结 提出All-Mem框架，通过在线/离线结合的非破坏性拓扑结构记忆库，解决终身交互代理中历史增长导致的检索冗余和噪声问题，在LoCoMo和LongMemEval-s上提升检索与问答性能。
DeltaBox: 通过毫秒级沙箱检查点/回滚扩展状态化AI代理
机构 * Institute of Parallel and Distributed Systems, Shanghai Jiao Tong University（并行与分布式系统研究所，上海交通大学） ； Engineering Research Center for Domain-specific Operating Systems, Ministry of Education, China（领域特定操作系统工程研究中心，中华人民共和国教育部，中国） ； Huawei Technologies Co., Ltd（华为技术有限公司）
专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI
AI总结 本文提出DeltaBox，一种通过DeltaFS和DeltaCR机制实现毫秒级检查点/回滚的新型AI代理沙箱，解决了传统方法在高频状态探索中的延迟问题。
注意力的标记采样复杂度
机构 * CNRS, ENS Paris, France（法国国家科学研究中心、巴黎高等师范学院）
专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG
AI总结 研究注意力在极端序列长度下的收敛行为，提出标记采样复杂度概念，分析注意力映射的均匀收敛和变换分布矩的收敛速率，实验验证预测结果。
TIEM：用于事件驱动金融预测的超图证据与技能记忆的时间整合框架
专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)
AI总结 该研究针对事件驱动金融预测中大型语言模型智能体存在的证据鸿沟问题，提出带时间戳门控的TIEM框架，引入FinPURE基准，经多组金融基准验证其性能优于现有基线。
如何构建马库斯的代数思维：从萨伽德的脑-心观点出发
专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)
AI总结 该研究从萨伽德的脑-心观点出发，探讨如何构建马库斯的代数思维。提出VaCoAl和PyVaCoAl架构，其绑定操作具有可逆等特性，能填补马库斯代数思维组件空缺，消除卷积退化，还通过相关主张阐述了能力、必要性及自身立场。
Comments 23 pages
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈