Knowledge Packs: Zero-Token Knowledge Delivery via KV Cache Injection
知识包:通过KV缓存注入实现零token知识传递
机构 * Independent Researcher(独立研究员)
专题命中 长文档RAG :RAG(abstract);分类 cs.CL
AI总结 本文提出知识包,通过预计算的KV缓存实现零token成本的知识传递,实验显示在正确格式下,知识包在700个问题上无差异,比RAG节省95%token,同时支持RAG无法实现的行为引导。
Comments 12 pages, 3 figures, 8 tables. Code: https://github.com/cnails/kv-knowledge-packs