arXivDaily arXiv每日学术速递 周一至周五更新

大厂专区

Broadcom(博通)

共收录 2
2602.08923 2026-07-09 cs.LG cs.DC cs.NI 版本更新

DynamiQ: Accelerating Gradient Synchronization using Compressed Multi-hop All-reduce

DynamiQ:使用压缩多跳全规约加速梯度同步

Wenchen Han, Shay Vargaftik, Michael Mitzenmacher, Ran Ben Basat

机构 * University College London(伦敦大学) VMware Research by Broadcom(VMware由Broadcom进行的研究) Harvard University(哈佛大学) Broadcom

AI总结 研究针对大规模模型训练中网络成瓶颈的问题,提出DynamiQ量化框架,引入新技术并设计融合内核,扩展PyTorch DDP支持,在不同场景下比现有方法最多提升34.2%。

Comments 17 pages, 19 figures. Accepted to ACM SIGCOMM 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.15510 2026-06-24 cs.LG 版本更新

Not All Invariants Are Equal: Curating Training Data to Accelerate Program Verification with SLMs

并非所有不变式都同等重要:利用SLM通过精选训练数据加速程序验证

Ido Pinto, Yizhak Yisrael Elboher, Haoze Wu, Nina Narodytska, Guy Katz

机构 * Hebrew University of Jerusalem, Israel(特拉维夫大学) Amherst College, USA(阿默斯特学院) VMware Research by Broadcom, USA(Broadcom VMware 研究)

AI总结 提出Wonda数据筛选流水线,通过AST归一化和LLM语义重写从原始验证器输出中提取高质量训练不变式,微调小语言模型(SLM)后,在多个模型上使不变式正确性和加速率翻倍甚至三倍,小模型性能媲美大模型。

Comments A preprint of the ICML 2026 paper with the same title

详情

展开后加载摘要…

URL PDF HTML 收藏