arXivDaily arXiv每日学术速递 周一至周五更新

大厂专区

Meituan(美团)

2026-08-05 至 2026-08-05 共收录 1
2608.01662 2026-08-05 cs.AI cs.CL cs.DC cs.LG 版本更新

LongCat Sparse Attention: Taming the Lightning via Streaming-aware Hierarchical Cross-Layer Indexing

LongCat 稀疏注意力:通过流感知分层跨层索引驯服闪电(Lightning)

Wen Zan, Jiaqi Zhang, Jianchao Tan, Hong Liu, Cunguang Wang, Xiang Li, Duyue Ma, Guanyu Wu, Yifan Lu, Fengcun Li, Yerui Sun, Peng Pei, Yuchen Xie, Xunliang Cai

机构 * Meituan(美团) LongCat Team(LongCat团队)

AI总结 该研究提出软硬件协同设计的 LongCat 稀疏注意力框架,通过三种索引策略解决 DeepSeek 稀疏注意力的系统瓶颈,在多模型上实现与全注意力相当的性能,支撑 LongCat-2.0 开发并开源相关模型。

详情

展开后加载摘要…

URL PDF HTML 收藏