arXivDaily arXiv每日学术速递 周一至周五更新

高校专区

Tsinghua University(清华大学)

2026-07-07 至 2026-07-07 共收录 63
2509.23722 2026-07-07 cs.DC cs.AI 版本更新

OctoPipe: Reducing Pipeline Bubbles for Heterogeneous Models via Co-Optimizing Partitioning, Placement, and Scheduling

OctoPipe:通过共同优化分区、放置和调度减少异构模型的流水线气泡

Jihu Guo, Tenghui Ma, Wei Gao, Peng Sun, Xun Chen, Jiaxing Li, Zhisheng Ye, Yuyang Jin, Dahua Lin

机构 * FDU & Shanghai AI Laboratory(复旦大学及上海人工智能实验室) HKUST(香港科技大学) Unaffiliated(无隶属机构) Tsinghua University(清华大学) CUHK & SenseTime Research(香港大学及SenseTime研究院)

AI总结 研究针对模型架构异构性加剧流水线气泡降低训练效率的问题,提出OctoPipe系统,通过构建模拟器、开发调谐器、实现执行器共同优化分区、放置和调度,提升了吞吐量。

Comments 14 pages, 12 Figures; Accepted by SC'26;

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.15330 2026-07-07 cs.CV 版本更新

CoDoL: Conditional Domain Prompt Learning for Out-of-Distribution Generalization

CoDoL:用于分布外泛化的条件域提示学习

Min Zhang, Yuyin Wang, Zhongxiang Dai, Zhikang Chen, Jie Zhou, Miao Liu, Sen Cui

机构 * East China Normal University(东华师范大学) Xidian University(西安电子科技大学) The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)) The University of Oxford(牛津大学) Tsinghua University(清华大学)

AI总结 针对基于提示的CLIP方法存在的文本描述不准确、视觉语言嵌入对齐有限问题,提出CoDoL方法,利用域信息形成提示,还提出DMN生成输入条件令牌,实验验证其在分布外泛化的有效性。

Comments Accepted to TMLR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2403.11199 2026-07-07 cs.LG cs.AI 版本更新

Graph Unitary Message Passing

图酉消息传递

Haiquan Qiu, Quanming Yao

机构 * Department of Electrical Engineering, Tsinghua University(清华大学电子工程系) Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心) State Key laboratory of Space Network and Communications(空间网络与通信国家重点实验室)

AI总结 针对图神经网络中不稳定问题,提出图酉消息传递框架,通过在变换图上用酉传播算子避免指数衰减,结合图变换和酉投影程序,经理论分析表明其能保持深度稳定,实验取得较好性能。

Comments TMLR

详情

展开后加载摘要…

URL PDF HTML 收藏