Modality Plug-and-Play: Elastic Modality Adaptation in Multimodal LLMs for Embodied AI
专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI
AI 大模型
语言大模型 / LLM
大语言模型、预训练、指令微调、后训练和语言模型应用。
1. 长上下文与记忆 4779 篇
StarCoder: may the source be with you!
专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI
BYOC: Personalized Few-Shot Classification with Co-Authored Class Descriptions
专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG
Comments Accepted at EMNLP 2023 (Findings)
MoT: Memory-of-Thought Enables ChatGPT to Self-Improve
专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI
Comments Accepted to appear at EMNLP 2023
DeepSpeed Ulysses: System Optimizations for Enabling Training of Extreme Long Sequence Transformer Models
专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG
The Multimodal And Modular Ai Chef: Complex Recipe Generation From Imagery
专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG
CraniMem: Cranial Inspired Gated and Bounded Memory for Agentic Systems
CraniMem：受大脑启发的门控和有界的记忆用于智能体系统
机构 * Dwarkadas Jivanlal Sanghvi College of Engineering（达沃拉萨·吉文拉尔·桑格维工程学院）
专题命中 长上下文与记忆 ：LLM(abstract,comments)；large language model(abstract)；language model(abstract)；分类 cs.AI
AI总结 CraniMem通过门控和有界多阶段记忆设计提升智能体在长期任务中的稳定性与鲁棒性，采用目标条件门控和效用标签结合短期缓冲和长期知识图谱，实现更持久的语义记忆与更小的干扰影响。
Comments International Conference on Learning Representations 2026 Workshop on Memory for LLM-Based Agentic Systems (MemAgents)
Positional Biases Shift as Inputs Approach Context Window Limits
机构 * Saarland Informatics Campus, Saarland University, Germany（萨尔兰大学信息学校区） ； Max Planck Institute for Informatics, Saarland Informatics Campus, Germany（马克斯·普朗克信息研究所） ； Max Planck Institute for Software Systems, Saarland Informatics Campus, Germany（马克斯·普朗克软件系统研究所）
专题命中 长上下文与记忆 ：language model(abstract,journal_ref)；LLM(abstract)；large language model(abstract)；分类 cs.CL
Journal ref Conference on Language Modeling (COLM) 2025
Exploring Augmentation and Cognitive Strategies for AI based Synthetic Personae
专题命中 长上下文与记忆 ：LLM(abstract,comments)；large language model(abstract)；language model(abstract)；分类 cs.AI
Comments This paper was accepted for publication: Proceedings of ACM Conf on Human Factors in Computing Systems (CHI 24), Rafael Arias Gonzalez, Steve DiPaola. Exploring Augmentation and Cognitive Strategies for Synthetic Personae. ACM SigCHI, in Challenges and Opportunities of LLM-Based Synthetic Personae and Data in HCI Workshop, 2024
$τ_0$-VLA: a Hierarchical Robot Foundation Model with World-Model-Guided Test-Time Computation
$τ_0$-VLA：一种具有世界模型引导测试时计算能力的分层机器人基础模型
机构 * Shanghai Innovation Institute（上海创新研究院） ； Agibot Finch（智元 Finch（智元鹦鹉）） ； The Chinese University of Hong Kong（香港中文大学）
专题命中 长上下文与记忆 ：foundation model(title,abstract)
AI总结 $τ_0$-VLA是一种分层机器人基础模型，通过世界模型引导的测试时计算分配额外资源优化子任务生成，经40115小时异构真实数据训练后，可提升长时程机器人操作的闭环成功率。
Comments 18 pages, 5 figures. Project page: https://tau0-vla.github.io/
Discovering KV Cache Eviction Policies via LLM-Guided Program Evolution
通过大语言模型引导的程序演化发现KV缓存驱逐策略
专题命中 长上下文与记忆 ：LLM(title,abstract)
AI总结 本文提出CacheCraft方法，通过大语言模型引导的程序演化自动发现KV缓存驱逐策略，得到FRC评分器，在多模型多压缩率下性能优于基线，还提供了可迁移的自动策略发现方案。
Adaptive Filtering of the KV Cache: Diagnosing and Correcting Structural-Role Bias in LLM Inference
KV缓存的自适应过滤：诊断和纠正大语言模型推理中的结构角色偏差
专题命中 长上下文与记忆 ：LLM(title)；分类 cs.CL、cs.AI、cs.LG
AI总结 研究大语言模型推理中KV缓存问题，通过反事实实验确定抑制KEY令牌是最佳过滤方法，采用无重新训练、基于角色的条件分配缩小与H2O方法差距，15MB线性角色探测器提供标签且推理成本可忽略。
Comments 6 pages, 2 figures, 5 tables
Adversarially Robust Few-Shot Anomaly Detection with Vision Foundation Models
基于视觉基础模型的对抗鲁棒小样本异常检测
机构 * Rochester Institute of Technology（罗切斯特理工学院）
专题命中 长上下文与记忆 ：foundation model(title,abstract)
AI总结 该研究针对视觉基础模型的小样本异常检测场景，提出无需训练骨干网络的对抗鲁棒方法，经实验在多数据集上提升了对抗检测性能，且保持较高干净准确率。
Comments Accepted to BMVC 2026
MemAgent: Reshaping Long-Context LLM with Multi-Conv RL-based Memory Agent
MemAgent：基于多轮对话强化学习的记忆智能体重构长上下文大语言模型
机构 * ByteDance Seed（字节跳动种子期） ； Institute for AI Industry Research (AIR)（人工智能产业研究院） ； Tsinghua University（清华大学）
专题命中 长上下文与记忆 ：LLM(title)；分类 cs.CL、cs.AI、cs.LG
AI总结 该研究提出MemAgent智能体工作流，结合扩展的DAPO算法优化长文本任务，实现从8K到3.5M上下文的高效外推，在RULER测试中表现优异。
Comments Accepted to ICLR 2026 as an Oral presentation. OpenReview: https://openreview.net/forum?id=k5nIOvYGCL Project page: https://memagent-sialab.github.io/
Journal ref International Conference on Learning Representations (ICLR), 2026
Libra: Taming Attention Workload Skew in Long-Context LLM Training with Bounded Sequence Pool
天秤座：使用有界序列池驯服长上下文语言模型训练中的注意力工作负载倾斜
专题命中 长上下文与记忆 ：LLM(title,abstract)
AI总结 研究长上下文语言模型训练的负载平衡问题，提出Libra方法，利用大数定律，通过有界序列池、方差减少序列放置和平铺注意力池化等技术，有效减少注意力工作负载倾斜，提高训练吞吐量。
Comments 15 pages, 15 figures
Human Thinking under Plural LLM Assistance: Mathematical Problem Solving and Open-Ended Writing
超越AI导师：基于LLM代理的社会学习
专题命中 长上下文与记忆 ：LLM(title,abstract)
AI总结 本文通过两个实验探讨多代理LLM配置是否能提升学习效果，发现与单代理相比，多代理能增强学习成果并避免单一模型的同质化问题。
Comments Working draft
Continual Knowledge Updating in LLM Systems: Learning Through Multi-Timescale Memory Dynamics
连续知识更新在大语言模型系统中：通过多时间尺度记忆动态学习
机构 * The Cyprus Institute, Nicosia, Cyprus（塞浦路斯研究所，尼科西亚，塞浦路斯）
专题命中 长上下文与记忆 ：LLM(title)；分类 cs.CL、cs.AI、cs.LG
AI总结 本文提出基于多时间尺度动态的记忆机制，通过耦合内部变量实现知识的持续更新与学习，重构外部记忆作为学习的基础 substrates。
Comments Accepted as a poster at the ICML 2026 Workshop "Continual Adaptation at Scale: Towards Sustainable AI" (CATS@ICML 2026). 9 pages, 2 figures
TGV-KV: Text-Grounded KV Eviction for Vision-Language Models
TGV-KV：面向视觉语言模型的文本引导KV驱逐方法
机构 * University of Science and Technology of China（中国科学技术大学）
专题命中 长上下文与记忆 ：language model(title,abstract)
AI总结 针对视觉语言模型中视觉信息冗余导致的KV缓存内存消耗问题，提出基于文本引导的KV驱逐方法TGV-KV，通过文本-视觉预算分配、文本加权排序和文本优先保留策略，在保持高精度的同时显著提升推理吞吐量。
Comments Accepted by ICML-2026
Ablate-to-Validate: Are Vision-Language Models Really Using Continuous Thought Tokens?
Ablate-to-Validate: 视觉语言模型真的在使用连续思维令牌吗？
机构 * University of Washington（华盛顿大学）
专题命中 长上下文与记忆 ：language model(title,abstract)
AI总结 本文提出了一种诊断原则Ablate-to-Validate，通过Token Replacement Test（TRT）测试视觉语言模型是否真正利用了连续令牌内容，发现模型性能提升可能并非源于令牌内容，而是令牌存在本身。
Forecasting megaelectron-volt electron flux in the Earth's outer radiation belt using supervised machine learning algorithms and a timeseries foundation model
利用监督机器学习算法和时间序列基础模型预测地球磁层外辐射带兆电子伏特电子通量
专题命中 长上下文与记忆 ：foundation model(title,abstract)
AI总结 本文提出利用TimesFM与岭回归结合的方法，通过2013-2023年的数据训练，实现了对1MeV电子通量的高精度预测，该方法在L壳层中表现优异，R²值达到0.9，优于其他模型。
Comments 19 pages, 6 figures, 1 table
MemLens: Benchmarking Multimodal Long-Term Memory in Large Vision-Language Models
MemLens：大型视觉-语言模型多模态长期记忆的基准测试
机构 * CSE Deparment, HKUST（香港科技大学计算机科学与工程系） ； CUHK（香港大学） ； OmniMemory (Shenzhen) Intelligent Technology Co., Ltd.（深圳奥米克记忆科技有限公司） ； NVIDIA AI Technology Center (NVAITC), NVIDIA, Santa Clara, USA（英伟达AI技术中心（NVAITC），英伟达，美国圣克拉拉）
专题命中 长上下文与记忆 ：language model(title,abstract)
AI总结 MemLens基准测试评估大型视觉-语言模型在多模态多会话对话中的长期记忆能力，通过789个问题测试五种记忆能力，揭示长上下文模型和记忆增强代理的优缺点，推动混合架构发展。
Comments Work in progress
Training Long-Context Vision-Language Models Effectively with Generalization Beyond 128K Context
通过超越128K上下文的泛化有效训练长上下文视觉-语言模型
机构 * CSE Department, HKUST（香港科技大学计算机科学与工程系）
专题命中 长上下文与记忆 ：language model(title,abstract)
AI总结 本文研究了长上下文视觉-语言模型的持续预训练，通过平衡数据和检索优化，提出MMProLong模型在长文档VQA等任务中表现优异，且能扩展至更长上下文和多任务场景。
Comments work in progress
Cognibit: From Digital Exhaustion to Real-World Connection Through Gamified Territory Control and LLM-Powered Twin Networking
Cognibit：通过游戏化领土控制和LLM赋能的双网络实现从数字疲劳到现实世界连接
专题命中 长上下文与记忆 ：LLM(title,abstract)
AI总结 本文提出一个基于LLM的社会发现平台，通过数字孪生自主评估人际相容性。平台整合了数字孪生、游戏化领土征服机制和AI伴侣三大支柱，基于CogniPair架构，在哥伦比亚速配数据集上验证，扩展了之前的模拟匹配至完整部署的社会发现环境。
Comments 9 pages main body, 155 pages total with appendices
TokenDance: Scaling Multi-Agent LLM Serving via Collective KV Cache Sharing
TokenDance: 通过集体KV缓存共享扩展多智能体LLM服务
专题命中 长上下文与记忆 ：LLM(title,abstract)
AI总结 TokenDance通过利用All-Gather模式实现集体KV缓存共享，提升多智能体LLM服务的并发数量，减少缓存存储并加快预填充速度。
Comments 14 pages, 14 figures, arXiv:submit/7438760 [cs.DC], preprint under review
Observable Channels, Not Just Storage: Evaluating Privacy Leakage in LLM Agent Pipelines
可观察通道而非仅存储：评估LLM代理流水线中的隐私泄露
专题命中 长上下文与记忆 ：LLM(title,abstract)
AI总结 本文提出CIPL框架，通过统一的通道导向接口评估LLM代理流水线中的隐私泄露，揭示内存、检索和工具中介目标的泄露特性，强调通道条件而非单一攻击方法的重要性。
GIT-BO: High-Dimensional Bayesian Optimization with Tabular Foundation Models
GIT-BO：基于表格基础模型的高维贝叶斯优化
专题命中 长上下文与记忆 ：foundation model(title,abstract)
AI总结 GIT-BO通过结合表格基础模型和主动子空间机制，在高维空间中实现更高效的贝叶斯优化，优于现有GP方法。
SPIRIT: Adapting Vision Foundation Models for Unified Single- and Multi-Frame Infrared Small Target Detection
SPIRIT：为统一单帧和多帧红外小目标检测适应视觉基础模型
机构 * Xidian University（西安电子科技大学） ； Shanghai Academy of Spaceflight Technology（上海航天技术研究院）
专题命中 长上下文与记忆 ：foundation model(title,abstract)
AI总结 SPIRIT通过轻量级物理指导插件适应视觉基础模型，解决红外小目标检测中语义与外观差异导致的特征模糊和关联不准确问题，实现单帧与多帧检测的统一。
RESPOND: Risk-Enhanced Structured Pattern for LLM-driven Online Node-level Decision-making
基于风险增强的结构化模式：面向LLM驱动的在线节点级决策
专题命中 长上下文与记忆 ：LLM(title,abstract)
AI总结 RESPOND通过结构化模式和风险增强机制提升LLM驱动驾驶代理的决策精度与安全性，有效减少碰撞并实现个性化驾驶风格适应。
Comments 28 pages, 8 figures
TraCT: Disaggregated LLM Serving with CXL Shared Memory KV Cache at Rack-Scale
TraCT：基于CXL共享内存的解耦LLM服务
专题命中 长上下文与记忆 ：LLM(title,abstract)
AI总结 TraCT通过利用CXL共享内存实现解耦LLM服务，显著降低TTFT、P99延迟并提升吞吐量。
AdaptFly: Prompt-Guided Adaptation of Foundation Models for Low-Altitude UAV Networks
机构 * Shien-Ming Wu School of Intelligent Engineering, South China University of Technology（申明-明伍智能工程学院，华南理工大学） ； Key Laboratory of Cognitive Radio and Information Processing, Ministry of Education (Guilin University of Electronic Technology)（认知无线电与信息处理重点实验室，教育部（桂林电子科技大学）） ； School of Information and Communication, Guilin University of Electronic Technology（信息与通信学院，桂林电子科技大学）
专题命中 长上下文与记忆 ：foundation model(title,abstract)
