Snowflake

FastKernels: Benchmarking GPU Kernel Generation in Production

FastKernels：生产中GPU内核生成的基准测试

Gabriele Oliaro, Yichao Fu, May Jiang, Owen Lu, Junli Wang, Zhihao Jia, Hao Zhang, Samyam Rajbhandari

机构 * Snowflake AI Research（Snowflake AI研究院） ； CMU（卡内基梅隆大学） ； UCSD（加州大学圣地亚哥分校） ； Independent Researcher（独立研究者） 纠错

AI总结 针对现有基准与生产推理框架脱节的问题，提出FastKernels基准，包含46个代表性架构，覆盖96.2%的HuggingFace Transformers架构，并作为生产级推理框架，评估显示最强代理仅实现0.94倍加速，揭示基准-生产错位是关键瓶颈。