arXivDaily arXiv每日学术速递 周一至周五更新

高校专区

Korea Advanced Institute of Science and Technology(韩国科学技术院)

2026-04-24 至 2026-04-24 共收录 2
2604.14626 2026-04-24 cs.LG cs.AI cs.AR cs.DC

ELMoE-3D: Leveraging Intrinsic Elasticity of MoE for Hybrid-Bonding-Enabled Self-Speculative Decoding in On-Premises Serving

ELMoE-3D: 利用MoE的内在弹性特性实现混合键合赋能的自推测解码

Yuseon Choi, Jingu Lee, Jungjun Oh, Sunjoo Whang, Byeongcheol Kim, Minsung Kim, Hoi-Jun Yoo, Sangjin Kim

机构 * KAIST(韩国科学技术院) Samsung Electronics(三星电子) GIST(全南国立大学)

AI总结 本文提出ELMoE-3D框架,结合缓存加速与推测解码,通过弹性自推测解码实现跨批处理大小的整体加速,提升内存效率与能效。

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.18091 2026-04-24 cs.CV cs.AI cs.LG

Accelerating Vision Transformers with Adaptive Patch Sizes

通过自适应补丁大小加速视觉变换器

Rohan Choudhury, JungEun Kim, Jinhyung Park, Eunho Yang, László A. Jeni, Kris M. Kitani

机构 * Carnegie Mellon University(卡内基梅隆大学) KAIST(韩国科学技术院) General Robotics(通用机器人)

AI总结 本文提出自适应补丁变换器APT,通过在图像内使用不同大小的补丁来减少输入token数量,从而加速ViT的推理和训练,提升吞吐量并保持性能。

Comments Accepted to ICLR 2026. Project page at https://rccchoudhury.github.io/apt/

详情

展开后加载摘要…

URL PDF HTML 收藏