Dynamic Model Merging Made Slim
动态模型合并的轻量级方法
机构 * The Hong Kong Polytechnic University(香港理工大学)
专题命中 其他多模态 :multimodal(abstract);分类 cs.CL、cs.AI
AI总结 本文提出DiDi-Merging方法,通过可微分的秩分配平衡共享和专家参数,实现更高效的动态模型合并,在参数量上显著优于现有方法。
AI 大模型
跨文本、图像、视频、音频等模态的大模型与学习方法。
动态模型合并的轻量级方法
机构 * The Hong Kong Polytechnic University(香港理工大学)
专题命中 其他多模态 :multimodal(abstract);分类 cs.CL、cs.AI
AI总结 本文提出DiDi-Merging方法,通过可微分的秩分配平衡共享和专家参数,实现更高效的动态模型合并,在参数量上显著优于现有方法。
多视图尖峰威格纳模型的尖峰谱阈值
专题命中 其他多模态 :multimodal(abstract)
AI总结 本文研究了多视图尖峰威格纳模型,通过线性化近似消息传递(AMP)方法推导出潜在线性尖峰的谱估计器,并给出了其谱的显式尖峰阈值公式,证明当SNR(λ,B)等于1时,线性化AMP方法达到信息论弱恢复阈值。
Comments 67 pages, 2 figures
从DESI遗产成像调查DR10获得低红移星系的价值增加物理性质目录
专题命中 其他多模态 :multimodal(abstract)
AI总结 本文提出一种多模态深度学习模型,通过整合光学成像与光度目录特征,估算低红移星系的恒星形成率、恒星质量及氧丰度,为大规模星系研究提供价值增加的物理性质目录。
Comments 21 pages, 6 figures, 9 tables. Published in ApJS