TileLens: Efficiently Using Large-Granularity Memory Systems with Transparent Two-Dimensional Memory Layout
TileLens:通过透明二维内存布局高效使用大粒度内存系统
专题命中 长上下文与记忆 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract)
AI总结 研究大语言模型推理受GPU高带宽内存限制问题,指出大粒度内存系统致 tiled 矩阵乘法性能降。提出用 tile-major 布局缓解读放大,介绍TileLens软硬件扩展,评估显示其能在特定条件下接近HBM性能。