arXivDaily arXiv每日学术速递 周一至周五更新

大厂专区

Intel(英特尔)

2026-05-22 至 2026-05-22 共收录 1
2510.10129 2026-05-22 cs.LG cs.AI

CacheClip: Accelerating RAG with Effective KV Cache Reuse

CacheClip: 通过有效的KV缓存重用加速RAG

Bin Yang, Qiuyu Leng, Jun Zeng, Zhenhua Wu

机构 * Intel Corporation(英特尔公司)

AI总结 本文提出CacheClip框架,通过有效利用KV缓存重用,解决了RAG系统中TTFT瓶颈问题,同时保持高质量生成。

详情

展开后加载摘要…

URL PDF HTML 收藏