SMoES: Soft Modality-Guided Expert Specialization in MoE-VLMs
SMoES:在MoE-VLMs中的软模态引导专家专业化
机构 * Li Auto Inc.(李自动公司)
AI总结 本文提出SMoES,通过动态软模态评分、专家分组机制和互信息正则化,提升MoE-VLMs的模态感知专家专业化,实验显示在多模态和语言任务上平均提升0.9%和4.2%,通信开销降低56.1%,吞吐量提升12.3%。
Comments CVPR 2026
大厂专区
SMoES:在MoE-VLMs中的软模态引导专家专业化
机构 * Li Auto Inc.(李自动公司)
AI总结 本文提出SMoES,通过动态软模态评分、专家分组机制和互信息正则化,提升MoE-VLMs的模态感知专家专业化,实验显示在多模态和语言任务上平均提升0.9%和4.2%,通信开销降低56.1%,吞吐量提升12.3%。
Comments CVPR 2026
LearnPruner: 重新思考基于注意力的视觉语言模型中令牌修剪
机构 * Li Auto Inc.(利自动公司)
AI总结 本文提出LearnPruner,通过两阶段令牌修剪框架在视觉语言模型中实现高效修剪,保留95%性能的同时减少5.5%视觉令牌使用,提升3.2倍推理速度。
Comments Accepted to ICLR 2026
在平行世界中评估搜索代理
机构 * Li Auto
AI总结 本文提出Mind-ParaWorld框架,通过生成未来场景和不可侵犯的原子事实,解决传统搜索代理评估中的基准构建、动态过时和证据判断难题。