Model-Native Computing Architecture: Envisioning Future System Architecture Through the Lens of Computer Architecture
模型原生计算架构:通过计算机架构的视角展望未来系统架构
机构 * Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院) ; Pengcheng Laboratory, Shenzhen, China(深圳鹏城实验室)
AI总结 本文通过类比计算机架构,提出模型原生计算的概念,并设计了一个六层智能计算架构模型(ICAM),以统一解决大语言模型在系统层面面临的缓存、上下文、调度等问题。