A Motion-Aware Vector Quantization Framework with Centroid Reuse for Efficient VLA Inference
一种用于高效视觉-语言-动作推理的具有质心重用的运动感知向量量化框架
机构 * School of Computer Science, Shanghai Jiao Tong University(上海交通大学计算机科学与工程系) ; Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所)
AI总结 针对VLA模型推理延迟高问题,提出VQVLA算法-硬件协同设计框架,利用MotionVQ动态调整量化精度,采用合并质心向量量化通用矩阵乘法范式,设计加速器,实验表明其相比多种方法有显著加速且精度损失小。