语言大模型 / LLM

LLM-Metrics: Measuring Research Impact Through Large Language Model Memory

LLM-Metrics: 通过大语言模型内存测量研究影响力

Si Shen, Wenhua Zhao, Danhao Zhu

机构 * School of Economics and Management（经济管理学院） ； College of Information Management（信息管理学院） ； Department of Computer Science and Engineering（计算机科学与工程系） ； Nanjing Agricultural University（南京农业大学） ； Nanjing University of Science and Technology（南京理工大学） ； Department of Criminal Science and Technology（犯罪科学与技术系） ； Jiangsu Police Institute（江苏警察学院） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文提出LLM-Metrics，一种基于大语言模型参数内存的研究影响力评估指标，通过设计多种选择题探针评估549篇2023-2024年计算机科学论文，发现高影响力论文在学术社区中获得更大曝光，从而在LLM训练数据中形成更强的参数记忆，与引用次数呈现显著相关性。

Comments 25pages, 5figures

Heterogeneous Parallelism for Multimodal Large Language Model Training

多模态大语言模型训练的异构并行

Yashaswi Karnati, Kamran Jafari, Akash Mehra, Li Ding, Pranav Prashant Thombre, Ali Roshan Ghias, Shifang Xu, Parth Mannan, Yu Yao, Hao Wu, Eric Harper, Ashwath Aithal, Nima Tajbakhsh

机构 * NVIDIA 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；foundation model(abstract)

AI总结 针对多模态大语言模型训练中单一LLM中心并行布局导致的吞吐量瓶颈，提出异构并行抽象，允许各模块独立布局和放置，并通过边界通信器实现张量语义保持，实验表明可提升TFLOPS/GPU最高49.3%。

The Self-Correction Illusion: Role Relabeling Gates Explicit Error Flagging in Large Language Models

自我修正错觉：LLM 纠正他人但不纠正自己

Kuan-Yen Chen, Fang-Yi Su, Shih-Yen Lin, Bao Li, Jung-Hsien Chiang

机构 * National Taiwan University（国立台湾大学） 纠错

专题命中 长上下文与记忆 ：LLM(title_cn,summary_cn)；large language model(title)；language model(title)；instruction tuning(abstract)

AI总结 本文通过保持错误声明字节一致仅改变角色标签，发现 LLM 无法自我修正并非能力缺陷，而是聊天模板角色标签的人为产物，并提出无需训练或模型修改的提示结构干预方法。

Comments 15 pages, 3 figures, 15 tables

Automatic Extraction of Structured Information from Brain MRI Reports Using an Open-Weight Large Language Model

使用开源大语言模型从脑MRI报告中自动提取结构化信息

Kaouther Mouheb, Amos Pomp, Antoine Manenti, Romy de Haan, Farog Faghir, Joy Martens, Harro Seelaar, Francesco Mattace-Raso, Meike W. Vernooij, Frank J. Wolters, Stefan Klein, Esther E. Bron

机构 * Department of Radiology & Nuclear Medicine, Erasmus MC（埃因霍温麦斯特大学放射科与核医学部） ； Department of Epidemiology, Erasmus MC（埃因霍温麦斯特大学流行病学部） ； Department of Electrical and Electronics Engineering, ENSEEIHT（ENSEEIHT电子与电气工程系） ； Alzheimer Centre Erasmus MC（埃因霍温麦斯特大学阿尔茨海默病中心） ； Department of Neurology, Erasmus MC（埃因霍温麦斯特大学神经医学部） ； Department of Internal Medicine, Erasmus MC（埃因霍温麦斯特大学内科部） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；prompting(abstract)

AI总结 本研究评估了开源LLM LLaMA 3.1从荷兰语脑MRI报告中自动提取结构化信息的能力，通过零样本和少样本提示策略，在视觉评分、病变检测等任务上取得高准确率，少样本提示进一步提升了数值变量的提取性能。

Comments Submitted to European Radiology

LongPO: Long Context Self-Evolution of Large Language Models through Short-to-Long Preference Optimization

Guanzheng Chen, Xin Li, Michael Qizhe Shieh, Lidong Bing

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；preference optimization(title)；pretraining(abstract)

Comments ICLR 2025

The Efficiency Frontier: A Unified Framework for Cost-Performance Optimization in LLM Context Management

效率前沿：LLM上下文管理中成本-性能优化的统一框架

Binqi Shen, Lier Jin, Hanyu Cai, Lan Hu, Yuting Xin

机构 * Northwestern University（西北大学） ； Duke University（杜克大学） ； Carnegie Mellon University（卡内基梅隆大学） ； University of Minnesota（明尼苏达大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 提出效率前沿框架，通过部署感知优化联合考虑任务性能、token成本和预处理重用，实现LLM上下文管理中的成本-性能权衡。

Comments Accepted to LMIAT 2026

Psychological Imagination Networks Show Cross-Population Centrality and Clustering Alignment in Humans That Large Language Models Fail to Replicate

心理想象网络显示人类跨群体中心性和聚类对齐，而大型语言模型无法复制

Saurabh Ranjan, Brian Odegaard

机构 * University of Florida（佛罗里达大学） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本研究通过心理网络分析发现，人类对心理意象的生动性评分在不同文化群体中形成稳定的网络结构，而大型语言模型（LLM）无法复制这种结构，表明人类想象网络根植于具身经验。

Narrative Feature or Structured Feature? A Study of Large Language Models to Identify Cancer Patients at Risk of Heart Failure

叙事特征还是结构化特征？大型语言模型识别癌症患者心力衰竭风险的研究

Ziyi Chen, Mengyuan Zhang, Mustafa Mohammed Ahmed, Yi Guo, Thomas J. George, Jiang Bian, Yonghui Wu

机构 * Department of Health Outcomes and Biomedical Informatics, College of Medicine, University of Florida（健康结局与生物医学信息学系，佛罗里达大学医学院） ； Division of Cardiovascular Medicine, Department of Medicine, College of Medicine, University of Florida（心血管医学部，医学院，佛罗里达大学） ； Division of Hematology & Oncology, Department of Medicine, College of Medicine, University of Florida（血液学与肿瘤学部，医学院，佛罗里达大学） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 本研究利用电子健康记录，比较传统机器学习、T-LSTM和大型语言模型（LLM）在识别癌症患者心力衰竭风险上的表现，LLM（GatorTron-3.9B）通过叙事特征取得最佳F1分数，优于其他模型。

Comments 10 pages, 4 figures, 5 tables

Large Language Models Do Not Always Need Readable Language

大型语言模型并不总是需要可读语言

Jiayi Zhu, Haoxuan Peng, Junxi Wang, Liang Ke, Chen Zhang, Linfeng Zhang

机构 * Shanghai Jiao Tong University（上海交通大学） ； The University of Sydney（悉尼大学） ； Hefei University of Technology（合肥工业大学） ； Xi’an Jiaotong University（西安交通大学） ； Nanjing University（南京大学） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究提出BabelTele表示法，将语义编码为紧凑、非标准文本，牺牲人类可读性但保持LLM可恢复性，实验表明可压缩至27.9%长度并保持99.5%语义保真度，降低上下文开销。

Comments 23 pages, 10 figures. Preprint

Poor Man's Agentic Modeling: Simulating Large LLM-Agent Societies on a Laptop

简易智能体建模：在笔记本电脑上模拟大型大语言模型（LLM）智能体群体

Igor Itkin

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 该研究提出用低成本拟合的低参数模型替代LLM智能体，可在笔记本电脑上模拟任意数量的LLM智能体群体，通过「交互顺序×记忆」分类法验证了该方法在多个LLM模拟上的有效性。

Comments 25 pages, 12 figures. Code and data at github.com/YehudaItkin/poor-mans-agentic-modeling; systematic review and pre-registration archived at Zenodo (doi:10.5281/zenodo.21198322, doi:10.5281/zenodo.21340310)

MemoryForge: Synthesize Lifelong Memory for Human-Like LLM Agents

MemoryForge：为类人LLM智能体合成终身记忆

Bohan Tang, Yiwen Guo

机构 * Tencent（腾讯） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 MemoryForge是从简短目标画像合成终身记忆的框架，通过记忆条件让冻结LLM动态检索相关记忆，在两类任务实验中使其表现更类人。

MemRefine: LLM-Guided Compression for Long-Term Agent Memory

MemRefine: 基于LLM引导的压缩用于长期智能体记忆

Minjae Kim, Jinheon Baek, Soyeong Jeong, Sung Ju Hwang

机构 * Korea University（韩国大学） ； KAIST（韩国科学技术院） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出MemRefine框架，利用LLM判断事实内容，通过删除、合并和保留操作将记忆库压缩到固定预算内，在多个基准上保持下游性能并优于基于规则的基线。

AMEL: Accumulated Message Effects on LLM Judgments

AMEL: 累积消息对LLM判断的影响

Sid-Ali Temkit

机构 * chut.app 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究LLM在对话中因历史消息极性而偏离基准判断的累积消息效应（AMEL），发现模型偏向历史主流极性，且负向历史偏见更强，但偏见不随上下文长度增长，简单修复是为每个项目使用新上下文。

Comments 24 pages, 14 figures, 8 tables. Single author. Code, data (84,088 deduplicated API responses), and analysis pipeline at https://github.com/chutapp/amel

LongRTL: Graph-Similarity-Guided LLM-driven Long Context RTL Optimization

LongRTL：基于图相似性的LLM驱动的长上下文RTL优化

Yuyang Ye, Che-Kuan Shen, Xiangfei Hu, Yuchen Liu, Shuo Yin, Xufeng Yao, Bei Yu, Tsung-Yi Ho

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 提出一种基于图相似性的LLM驱动RTL优化框架，通过分区、优化和重构三个智能体解决长上下文RTL代码的优化问题。

Comments 7 pages, 6 figures, 5 tables, conference

PersonaAgent: Bridging Memory and Action for Personalized LLM Agents

PersonaAgent：弥合个性化LLM智能体的记忆与行动

Weizhi Zhang, Xinyang Zhang, Chenwei Zhang, Liangwei Yang, Jingbo Shang, Zhepei Wei, Henry Peng Zou, Zijie Huang, Zhengyang Wang, Yifan Gao, Xiaoman Pan, Lian Xiong, Jingguo Liu, Philip S. Yu, Xian Li

机构 * Amazon Stores Foundational AI（亚马逊基础AI） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出PersonaAgent框架，通过整合个性化记忆模块（情景与语义记忆）和行动模块，并利用角色提示作为中介实现记忆与行动的协同，以解决LLM智能体的个性化任务。

Comments Accepted in ACL 2026

PEEK: Context Map as an Orientation Cache for Long-Context LLM Agents

PEEK：上下文地图作为长上下文LLM代理的导向缓存

Zhuohan Gu, Qizheng Zhang, Omar Khattab, Samuel Madden

机构 * MIT CSAIL（麻省理工学院计算机科学与人工智能实验室） ； Stanford University（斯坦福大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出PEEK系统，通过上下文地图缓存和维护导向知识，提升长上下文LLM代理在重复外部上下文中的交互准确性和效率，相比基线方法在推理和上下文学习任务中均取得显著提升。

EXPEREPAIR: Dual-Memory Enhanced LLM-based Repository-Level Program Repair

EXPEREPAIR: 基于双记忆增强的LLM级仓库级程序修复

Fangwen Mu, Junjie Wang, Lin Shi, Song Wang, Shoubin Li, Qing Wang

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 ExpeRepair通过双记忆系统提升LLM在仓库级程序修复中的表现，通过动态提示生成和历史修复经验复用，实现更高效的修复性能。

Comments Accepted by FSE 2026

Mobility-LLM: Learning Visiting Intentions and Travel Preferences from Human Mobility Data with Large Language Models

Letian Gong, Yan Lin, Xinyue Zhang, Yiwen Lu, Xuedi Han, Yichen Liu, Shengnan Guo, Youfang Lin, Huaiyu Wan

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Accepted by NeurIPS2024

TransMem: Transforming Hidden States into Memory for Large Language Models

TransMem：将隐藏状态转换为大语言模型的记忆

Haodong Lei, Junming Liu, Yirong Chen, Pinlong Cai, Botian Shi, Ding Wang, Hongsong Wang

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 针对长上下文LLM智能体的历史信息未充分利用问题，提出轻量级记忆模块TransMem，结合证据条件自蒸馏，在多基准测试中显著提升性能。

Comments 12 pages, 4 figures

Mixture-of-Translators: Translating KV Caches Across Heterogeneous Large Language Models

混合翻译器：跨异构大语言模型的KV缓存转换

Jin-woo Lee, Minkyung Song, Junghyun Oh, Seunghoon Han, Soyoung Park, Gwangseon Jang, Sungsu Lim

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 提出MoT框架解决异构LLM间KV缓存无法复用问题，通过多翻译器模块和上下文校正损失实现缓存转换，在多模型转换和实际场景中验证了性能与复用效果。

Revisiting Predictive Process Monitoring in the Age of Foundation Models: A Comparative Study of Sequence, Tabular, and LLM Approaches

基础模型时代的预测过程监控再审视：序列、表格与大语言模型方法的对比研究

Lennart Fertig, Lukas Kirchdorfer, Tobias Sesterhenn

机构 * University of Mannheim（曼海姆大学） ； SAP Signavio（思爱普 Signavio） ； Technical University of Clausthal（克劳斯塔尔工业大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,summary_cn)；foundation model(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 该研究对比序列、表格基础模型与LLM在PPM任务的表现，发现序列模型下一个活动预测最优，表格模型在时间任务具竞争力，LLM性能滞后且成本更高。

Comments Accepted at ECML PKDD 2026 Workshops

Memory for Large Language Models

大语言模型的记忆

Sining Zhoubian, Dan Zhang, Evgeny Kharlamov, Jie Tang

机构 * Tsinghua University（清华大学） ； National University of Singapore（新加坡国立大学） ； Bosch AI（博世人工智能） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 综述对大语言模型中记忆这一基础架构维度进行系统分类，沿表示、更新动态、持久性三个正交轴表征记忆，形式化相关机制，阐明不同内存概念界限，分析混合架构等，为以记忆为中心的LLM设计及未来创新提供基础。

Comments 20 pages, 4 figures

A Practice Auditing Framework for Large Language Model Use: Collective Empiricism, Pseudo-Rational Cognition, and Governance of AI-Generated Content

大型语言模型使用的实践审计框架：集体经验主义、伪理性认知与AI生成内容治理

Yang Zhao, Yingshuo Li, Zeyu Zhang

机构 * School of Information and Electronics, Beijing Institute of Technology（信息与电子学院，北京理工大学） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 提出实践审计框架，通过集体经验主义和伪理性认知概念分析LLM使用中的认知风险，并设计基于需求定义、证据审计等步骤的治理流程。

Comments English manuscript. 2 tables, 17 references

FragFuse: Bypassing Access Control of Large Language Model Agents via Memory-Based Query Fragmentation and Fusion

FragFuse：通过基于记忆的查询碎片化与融合绕过大型语言模型智能体的访问控制

Zixin Rao, Wentian Zhu, Chan Aristella Lu, Zhaorun Chen, Wei Niu, Le Guan, Bo Li, Zhen Xiang

机构 * University of Georgia（佐治亚大学） ； University of Chicago（芝加哥大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 提出FragFuse攻击，利用LLM智能体的长期记忆机制，将违禁内容碎片化存储后融合重构，绕过访问控制，平均绕过成功率达86.3%。

Comments 33 pages, 4 figures. Accepted by USENIX Security 2026

Training-Free Multimodal Large Language Model Orchestration

免训练的多模态大语言模型编排

Tianyu Xie, Yuexiao Ma, Yuhang Wu, Wang Chen, Jiayi Ji, Tat-Seng Chua, Xiawu Zheng, Rongrong Ji

机构 * Media Analytics and Computing Lab, Xiamen University, Xiamen, China（厦门大学媒体分析与计算实验室） ； Institute of Artificial Intelligence, Xiamen University, Xiamen, China（厦门大学人工智能研究院） ； School of Informatics, Xiamen University, Xiamen, China（厦门大学信息学院） ； Peng Cheng Laboratory, Shenzhen, China（鹏城实验室） ； Department of Computer Science, National University of Singapore, Singapore（新加坡国立大学计算机科学系） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 提出一种免训练编排框架LLM Orchestration，通过LLM控制器、文本中心跨模态记忆和统一交互层集成现成模态专家，实现低开销、可扩展的多模态输入输出系统。

Journal ref ICML 2026

Behavioral Consistency and Transparency Analysis on Large Language Model API Gateways

大型语言模型API网关的行为一致性与透明度分析

Guanjie Lin, Yinxin Wan, Shichao Pei, Ting Xu, Kuai Xu, Guoliang Xue

机构 * University of Massachusetts Boston（马萨诸塞大学波士顿分校） ； Arizona State University（亚利桑那州立大学） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文提出GateScope框架，用于评估LLM网关的行为一致性和操作透明度，发现多个网关存在模型降级、响应不一致、计费不准确等问题。

Comments 11 pages. Initially submitted to IMC 2026 Cycle 1 on November 20, 2025; accepted on March 13, 2026. To appear in Proceedings of the 2026 ACM Internet Measurement Conference (IMC '26)

FinPerMA: A Theory-Informed, Event-Grounded Personalized-Memory Benchmark for LLM Agents

FinPerMA：一种基于理论、事件驱动的LLM智能体个性化记忆基准

Ben Wang, Kang Zhou, Lifan Guo, Feng Chen, Chi Zhang

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对LLM智能体个性化记忆的现有基准不足，提出FinPerMA基准，在276个角色的2994个问题上测试7种LLM，发现其记忆配置远未饱和，简单检索优于专用记忆系统且冲击后差距扩大。

How memory can affect collective and cooperative behaviors in an LLM-Based Social Particle Swarm

记忆如何影响基于LLM的社会粒子群中的集体和合作行为

Taisei Hishiki, Takaya Arita, Reiji Suzuki

机构 * Graduate School of Informatics（信息学研究生院） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究探讨了大型语言模型代理的内部对齐特性如何影响记忆对其集体和合作动态的影响。通过将社会粒子群模型中的规则代理替换为具有大五人格特质和不同记忆长度的LLM代理，发现记忆长度是决定集体行为的关键参数，且不同模型对记忆的解读影响合作结果。

Comments 11 pages, 4 figures and 2 tables

AdaMem: Learning What to Remember for Personalized Long-Horizon LLM Agents

AdaMem: 学习为个性化长时程LLM代理记住什么

Xingyu Chen, Rui Wang, Zhaopeng Tu, Liefeng Bo

机构 * Shanghai Jiao Tong University（上海交通大学） ； Tencent（腾讯） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 针对长时程LLM代理中记忆膨胀导致QA准确率下降的问题，提出AdaMem方法，通过角色特定的记忆策略和基于反馈的轻量级自反思步骤，学习为每个用户记住重要信息，在减少9%记忆量的同时提升QA准确率最高9%。

MemFail: Stress-Testing Failure Modes of LLM Memory Systems

MemFail: LLM记忆系统的故障模式压力测试

Ishir Garg, Neel Kolhe, Dawn Song, Xuandong Zhao

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出MemFail基准测试，通过形式化记忆系统为摘要、存储和检索三个操作并构建对抗性数据集，系统性地评估和诊断LLM记忆系统的故障模式。