RUTA: Principled Visual Token Allocation via Rate-Utility Optimization
RUTA:基于率-效用优化的原则性视觉令牌分配方法
机构 * City University of Hong Kong(香港城市大学) ; Google Inc.(谷歌公司)
专题命中 长视频与时序推理 :long video(abstract);分类 cs.CV
AI总结 针对视觉语言模型因长视觉令牌序列导致的LLM侧计算和内存成本过高问题,提出RUTA方法,仅用2.0%、4.2%的视觉令牌,分别在LLaVA-NeXT-7B、Qwen3-VL-8B上保留88.2%、94.4%的任务性能。