arXivDaily arXiv每日学术速递 周一至周五更新

高校专区

University of Cambridge(剑桥大学)

2026-05-20 至 2026-05-20 共收录 4
2605.18870 2026-05-20 cs.LG math.AP math.FA

Multi-Headed Transformer Architectures as Time-dependent Wasserstein Gradient Flows

多头变压器架构作为时间依赖的Wasserstein梯度流

Alex Massucco, Leonardo Del Grande, Marcello Carioni, Christoph Brune, Carola-Bibiane Schönlieb

机构 * Department of Applied Mathematics and Theoretical Physics, University of Cambridge(应用数学与理论物理系,剑桥大学) Department of Mathematics, University of Twente(数学系,埃因霍温理工大学)

AI总结 本文提出将多头变压器架构中的数据流建模为时间依赖的Wasserstein梯度流,以捕捉注意力机制的设计,并证明了在合适积分性假设下,梯度流的ω-极限集元素是交互能量的稳态点,同时分析了梯度流的稳定性,并通过数值实验验证了预测的能量耗散身份和动力学的渐近行为。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.10933 2026-05-20 cs.LG

CMAD: Cooperative Multi-Agent Diffusion via Stochastic Optimal Control

CMAD:通过随机最优控制的协作多智能体扩散

Riccardo Barbano, Alexander Denker, Zeljko Kereta, Runchang Li, Francisco Vargas

机构 * University of Cambridge(剑桥大学) Xaira Technologies(Xaira技术公司)

AI总结 本文提出了一种新的框架,将多模型组合生成问题转化为协作随机最优控制问题,通过联合优化扩散轨迹来实现更有效的生成效果。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.15014 2026-05-20 stat.ML cs.LG math.ST stat.TH

Efficient and Minimax Optimal In-context Nonparametric Regression with Transformers

高效且最优的基于上下文的非参数回归变换器

Michelle Ching, Ioana Popescu, Nico Smith, Tianyi Ma, William G. Underwood, Richard J. Samworth

机构 * Statistical Laboratory, University of Cambridge, Cambridge, UK(剑桥大学统计实验室,剑桥,英国)

AI总结 本文研究了基于上下文学习的非参数回归,针对α-Holder光滑回归函数,证明了使用预训练的变换器可以达到最优收敛率,且参数和预训练序列数量显著少于现有文献。

Comments 30 pages, 7 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2112.08507 2026-05-20 cs.LG stat.ML

Algorithms for Adaptive Experiments that Trade-off Statistical Analysis with Reward: Combining Uniform Random Assignment and Reward Maximization

适应性实验的算法:在统计分析与奖励之间进行权衡:结合均匀随机分配与奖励最大化

Tong Li, Jacob Nogas, Haochen Song, Anna Rafferty, Eric M. Schwartz, Audrey Durand, Harsh Kumar, Nina Deliu, Sofia S. Villar, Dehan Kong, Joseph J. Williams

机构 * University of Toronto(多伦多大学) Carleton College(卡洛尔学院) University of Michigan(密歇根大学) University of Cambridge(剑桥大学)

AI总结 本文提出了一种统计敏感算法TS-PostDiff,通过结合均匀随机分配和奖励最大化,在统计分析与用户奖励之间进行权衡,以提高实验效率和准确性。

详情

展开后加载摘要…

URL PDF HTML 收藏