VibeVoice-ASR-BitNet Technical Report
VibeVoice-ASR-BitNet技术报告
机构 * Microsoft Research(微软研究院) ; Shanghai Jiao Tong University(上海交通大学) ; Fudan University(复旦大学) ; University of Chinese Academy of Sciences(中国科学院大学)
AI总结 介绍VibeVoice-ASR-BitNet,针对边缘CPU实时推理优化。采用异构量化及渐进式量化感知训练,在ggml框架实现自定义内核和运算符,可比模型大小下速度快1.6 - 2.3倍,准确性略降。
Comments Technical Report