语言大模型 / LLM

A Roadmap for Tamed Interactions with Large Language Models

与大语言模型进行可控交互的路线图

Vincenzo Scotti, Jan Keim, Tobias Hey, Andreas Metzger, Anne Koziolek, Raffaela Mirandola

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)

AI总结 研究针对大语言模型交互可靠性等问题，提出LLM脚本语言LSL，将其交互构建为可分析程序，通过引入多种抽象支持规范开发，还能外化提示设计，减少隐式推理，为更易维护的提示系统提供基础。

VarRate: Training-Free Variable-Rate KV Cache Compression for Long-Context LLMs

VarRate：用于长上下文语言模型的免训练可变率键值缓存压缩

Shahrzad Esmat, Dhawal Shah, Ali Jannesari

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究长上下文LLM推理中KV缓存内存瓶颈问题，提出免训练的VarRate编解码器，依查询显著性为令牌分配可变低秩预算，无需训练，相比其他方法在准确率和开销上表现出色，是较强的匹配内存压缩器。

Comments 20 pages, 8 figures, 24 tables. Includes appendix with additional experiments and analyses

What Should a Skill Remember? Quality--Cost Trade-offs in Cost-Aware Skill Rewriting for Language Model Agents

技能应记住什么？语言模型代理中成本感知技能重写的质量-成本权衡

Qinghua Xing, Yinda Chen, Yaping Jin, Zhenhe Wu, Bohan Lin, Hang Zhou, Xinghao Chen, Hanting Chen, Zhiwei Xiong

机构 * University of Science and Technology of China（中国科学技术大学） ； Huawei Technologies（华为技术有限公司） ； Tianjin University（天津大学） 纠错

专题命中 长上下文与记忆 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL

AI总结 研究语言模型代理中技能重写的质量-成本权衡，提出信息保留策略，在SkillsBench上实现成本降低7%-14.7%且保持验证质量。

Cache-Aware Prompt Compression:A Two-Tier Cost Model for LLM API Caching

缓存感知提示压缩：用于大语言模型API缓存的双层成本模型

Yan Song

机构 * PayPal Inc.（贝宝公司） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究大语言模型API缓存成本，发现现有方法不足。提出缓存感知提示压缩（CAPC），结合查询无关压缩与缓存控制。经实验验证，CAPC在多种配置下成本最低，在生产工作负载中表现出色，验证了交叉模型负投资回报率预测。

Comments 28

MOSS Transcribe Diarize Technical Report

MOSS 语音转录与说话人识别技术报告

MOSI. AI, :, Donghua Yu, Zhengyuan Lin, Hanfu Chen, Chen Yang, Yiyang Zhang, Jingqi Chen, Ke Chen, Liwei Fan, Yi Jiang, Jie Zhu, Muchen Li, Wenxuan Wang, Yang Wang, Zhe Xu, Botian Jiang, Yitian Gong, Yuqian Zhang, Wenbo Zhang, Songlin Wang, Zhiyu Wu, Zhaoye Fei, Qinyuan Cheng, Shimin Li, Xipeng Qiu

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 MOSS转录与识别通过端到端多模态大语言模型，实现了说话人属性化和时间戳化的转录，解决了现有系统在上下文窗口、长距离说话人记忆和时间戳输出方面的不足。

Who Needs DRAM? We Have Fiber

谁需要DRAM？我们有光纤

Hannah Atmer, Yuan Yao, Thiemo Voigt, Stefanos Kaxiras

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 针对生成式AI对高性能内存需求及超大规模数据中心扩张带来的DRAM压力，提出光纤内存架构，通过考虑光纤物理特性的架构设计及相关技术应用，可消除冗余存储并大幅降低权重传输能量。

A hierarchical memory architecture overcomes context limits in long-horizon multi-agent computational modeling

分层内存架构克服长期多智能体计算建模中的上下文限制

Shivendra G. Tewari, Holly Kimko

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 研究针对大语言模型在长期多智能体计算建模中因无状态架构受限的问题，提出Ensemble QSP多智能体框架，其分层内存架构可保持上下文稳定，经测试能自主进行药代动力学 - 药效学模型选择，提升参数恢复能力，且架构与领域无关。

Comments 19 pages, 4 figures, 2 tables. Preprint submitted for publication

Recursive Harness Self-Improvement

递归工具自我改进

Hyunin Lee, Jinglue Xu, Jeffrey Seely, Donghyun Lee, Matei Zaharia, Yujin Tang

专题命中 长上下文与记忆 ：foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 研究在模型-工具协同进化中，通过递归工具自我改进（RHI）优化用户构建工具，以提高执行轨迹质量和智能体性能。RHI将工具表示为提示级规范，经成对反馈迭代改进，在多任务中提升了低推理能力智能体性能，降低推理成本。

Comments This work addresses the first half of the model-harness coevolution loop

Learn to Memorize: Scalable Continual Learning in Semiparametric Models with Mixture-of-Neighbors Induction Memory

学习记忆：基于邻居混合归纳记忆的半参数模型中的可扩展持续学习

Guangyue Peng, Tao Ge, Wen Luo, Wei Li, Houfeng Wang

机构 * State Key Laboratory for Multimedia Information Processing, School of Computer Science, Peking University（多媒体信息处理国家重点实验室，计算机科学学院，北京大学） ； Microsoft（微软公司） ； Microsoft Research Asia（微软亚洲研究院） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究半参数语言模型中记忆缺乏学习能力的问题，提出将非参数记忆重新概念化为可学习的邻居混合归纳记忆（MoNIM），融入模型信息流，经实验验证其能提升半参数语言模型的可扩展性和持续学习性能。

Comments 15 pages, 5 figures

Journal ref Proceedings of the 63rd Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pages 28517-28531, Vienna, Austria. Association for Computational Linguistics, 2025

Do Agents Dream of False Memories? Black-box Visual Attacks on Long-term Memory in Multimodal AI Agents

智能体是否会梦到虚假记忆？对多模态人工智能智能体长期记忆的黑盒视觉攻击

Halima Bouzidi, Mboutidem Ekemini Mkpong, Mohammad Abdullah Al Faruque

机构 * University of California, Irvine（加州大学尔湾分校） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；分类 cs.LG

AI总结 研究针对多模态人工智能智能体长期记忆的黑盒视觉攻击，提出Lucid框架，通过制作扰动实现记忆中毒和注入两种攻击模式，在多种对话领域和架构上评估，揭示了多模态记忆管道的结构漏洞。

Comments 34 pages, 5 figures, 15 tables

SkillNav: Score-Level Skill Intervention for Zero-Shot Object Goal Navigation

SkillNav：用于零样本对象目标导航的分数级技能干预

Ruijie Sang, Yiqun Duan, Pinhan Fu, Ruilin Wang, Wei Sui, Xianda Guo

机构 * D-Robotics（D-机器人公司） ； HAI Center, University of Technology Sydney（悉尼科技大学HAI中心） ； School of Computer Science, Wuhan University（武汉大学计算机科学学院） 纠错

专题命中 长上下文与记忆 ：language model(abstract)

AI总结 研究针对VLM智能体零样本对象目标导航存在的问题，提出SkillNav框架，通过分层技能设计及双表示设计，无需训练，在多个数据集上提升成功率，建立新最优成绩。