CIVIC: End-to-End Sequence Compactness for Efficient Vision-Language Models
CIVIC: 面向高效视觉语言模型的端到端序列紧凑性
机构 * Department of Civil & Environmental Engineering(土木与环境工程系) ; University of Utah(犹他大学)
专题命中 视觉推理 :vision-language model(title,abstract);VLM(abstract_cn);grounding(abstract);分类 cs.AI
AI总结 提出CIVIC框架,通过路径一致的紧凑视觉推理,在视觉编码器、投影层、LLM预填充和KV缓存中保持紧凑序列表示,减少非连续内存访问和局部合并开销,在Qwen3-VL架构上实现KV缓存内存降至约三分之一并降低端到端推理延迟,同时通过文本对齐KL蒸馏和自适应空间保留下限保持精度。
Comments 11 pages, 6 figures, 2 tables, conference