University of California, Berkeley（加州大学伯克利分校）

Foundry: Template-Based CUDA Graph Context Materialization for Fast LLM Serving Cold Start

Foundry：基于模板的CUDA图上下文材料化用于快速LLM服务冷启动

Xueshen Liu, Yongji Wu, Yuncheng Yao, Danyang Zhuo, Ion Stoica, Z. Morley Mao

机构 * University of Michigan（密歇根大学） ； UC Berkeley（加州大学伯克利分校） ； Duke（杜克大学） 纠错

AI总结 Foundry通过模板化CUDA图上下文材料化，减少LLM服务冷启动延迟，提升启动速度并保持吞吐量。

The Theorems of Dr. David Blackwell and Their Contributions to Artificial Intelligence

大卫·布莱克韦尔定理及其对人工智能的贡献

Napoleon Paxton

机构 * School of Information, University of California, Berkeley（加州大学伯克利分校信息学院） 纠错

AI总结 本文综述了布莱克韦尔的三个重要定理及其对现代人工智能和机器学习的影响，包括马尔可夫链蒙特卡罗推断、自主机器人导航、生成模型训练等领域的应用。

Comments Survey article, 19 pages, 1 figure, 2 tables

AI-Driven Research for Databases

基于人工智能的数据库研究

Audrey Cheng, Harald Ng, Aaron Kabcenell, Peter Bailis, Matei Zaharia, Lin Ma, Xiao Shi, Ion Stoica

机构 * UC Berkeley（加州大学伯克利分校） ； KTH Royal Institute of Technology（瑞典皇家理工学院） ； Meta ； Workday ； University of Michigan（密歇根大学） ； Maven AGI 纠错

AI总结 本文提出利用大语言模型自动化发现数据库性能优化方案，通过共进化设计评估器与解决方案，展示了在缓冲管理、查询重写和索引选择中的有效性，实现了优于现有方法的性能提升。

Does a Global Perspective Help Prune Sparse MoEs Elegantly?

从全局视角帮助优雅地剪枝稀疏MoEs吗？

Zeliang Zhang, Nikhil Ghosh, Jiani Liu, Bin Yu, Xiaodong Liu

机构 * University of Rochester（罗切斯特大学） ； Flatiron Institute（熨斗研究所） ； University of California, Berkeley（加州大学伯克利分校） ； Microsoft Research（微软研究院） 纠错

AI总结 本文提出GRAPE方法，通过动态分配剪枝预算提升稀疏MoEs的效率，实验表明其在多个模型上均取得最佳性能。

Stochastic Gradient Descent in the Saddle-to-Saddle Regime of Deep Linear Networks

深度线性网络中鞍点到鞍点区域的随机梯度下降

Guillaume Corlouer, Avi Semler, Alexander Strang, Alexander Gietelink Oldenziel

机构 * Moirai ； University of Oxford（牛津大学） ； University of California, Berkeley（加州大学伯克利分校） ； Iliad 纠错

AI总结 研究深度线性网络中随机梯度下降在鞍点到鞍点区域的动力学，推导出各模式下的随机微分方程分解，并分析SGD噪声对特征学习的影响。

RLBoost: Harvesting Preemptible Resources for Cost-Efficient Reinforcement Learning on LLMs

RLBoost: 为在大语言模型上高效强化学习利用可中断资源

Yongji Wu, Xueshen Liu, Haizhong Zheng, Juncheng Gu, Beidi Chen, Z. Morley Mao, Arvind Krishnamurthy, Ion Stoica

机构 * UC Berkeley（加州大学伯克利分校） ； University of Michigan（密歇根大学） ； Google（谷歌） ； CMU（卡内基梅隆大学） ； University of Washington（华盛顿大学） 纠错

AI总结 RLBoost通过高效利用可中断GPU资源提升大语言模型强化学习的效率和成本效益，采用混合架构和三种关键技术实现状态less和 embarrassingly parallel的rollout阶段与可中断资源的匹配。