AQPIM: Breaking the PIM Capacity Wall for LLMs with In-Memory Activation Quantization
AQPIM: 突破LLM的PIM容量墙:基于内存激活量化
机构 * Institute of Science Tokyo(东京科学研究院)
专题命中 长上下文与记忆 :LLM(title_cn);large language model(abstract);language model(abstract);分类 cs.AI、cs.LG
AI总结 本文提出AQPIM,一种基于内存激活量化的PIM框架,通过聚类向量量化提升带宽和计算效率,显著减少内存占用和计算开销。
Comments Accepted to HPCA 2026