Xiaohongshu（小红书）

Akashic: A Low-Overhead LLM Inference Service with MemAttention

Akashic：一种基于内存注意力机制的低开销大语言模型推理服务

Yang Liu, Zhaokai Luo, Huayi Jin, Ruozhou He, Chenchen Hong, Zhiyong Wang, Yifei Liu, Yunfei Gu, Chentao Wu, Junhao Hu

机构 * Xiaohongshu Inc.（小红书公司） ； ShangHai JiaoTong University（上海交通大学） ； Peking University（北京大学） 纠错

AI总结 针对大语言模型推理中重放完整历史记录不切实际的问题，提出基于内存注意力机制的低开销内存系统Akashic，通过组织上下文成有界块、建模块间语义关系及应用软硬件协同设计内存放置，提升了任务准确率、吞吐量和可持续请求率。