Domyn-Small: A European 10B Reasoning Language Model
Domyn-Small:一个欧洲的100亿参数推理语言模型
机构 * CINECA(意大利国家计算应用研究所)
专题命中 数学推理 :reasoning(title,abstract);分类 cs.CL、cs.LG
AI总结 介绍了基于9万亿令牌多语言数据预训练的100亿参数推理语言模型Domyn-Small,经持续预训练、监督微调、强化学习等训练后管道,实现双模式推理,在与对等模型对比中平衡了准确性与效率,还发布了相关权重及开源框架。
Comments 27 pages, 5 figure