Xiaohongshu（小红书）

Akashic: A Low-Overhead LLM Inference Service with MemAttention

Akashic：一种基于内存注意力机制的低开销大语言模型推理服务

Yang Liu, Zhaokai Luo, Huayi Jin, Ruozhou He, Chenchen Hong, Zhiyong Wang, Yifei Liu, Yunfei Gu, Chentao Wu, Junhao Hu

机构 * Xiaohongshu Inc.（小红书公司） ； ShangHai JiaoTong University（上海交通大学） ； Peking University（北京大学） 纠错

AI总结 针对大语言模型推理中重放完整历史记录不切实际的问题，提出基于内存注意力机制的低开销内存系统Akashic，通过组织上下文成有界块、建模块间语义关系及应用软硬件协同设计内存放置，提升了任务准确率、吞吐量和可持续请求率。

BigMac: Breaking the Pareto Frontier of Compute and Memory in Multimodal LLM Training

BigMac: 打破多模态大语言模型训练中的计算与内存帕累托前沿

Zili Zhang, Chengxu Yang, Shenglong Zhang, Chenyu Wang, Yufan Zhang, Tuo Dai, Zhouyang Li, Yuhong Ge, Chao Jin, Xin Jin, Yuliang Liu

机构 * Peking University（北京大学） ； Independent Researcher（独立研究员） ； Xiaohongshu, Inc（小红书公司） 纠错

AI总结 提出BigMac训练流水线，通过嵌套编码器和生成器计算到LLM流水线中，同时优化计算效率和内存使用，打破帕累托前沿。