DIVE: Unlocking Self-Improvement in Frozen Language Models Through Diversity-Driven Skill Evolution
DIVE:通过多样性驱动的技能进化解锁冻结语言模型的自我提升
专题命中 指令微调 :LLM(summary_cn,abstract);language model(title,abstract);SFT(abstract,abstract_cn);large language model(abstract)
AI总结 DIVE是一种多样性驱动的无参数框架,可让冻结LLM从任务经验和验证器反馈中进化出自然语言技能,在多项推理任务上优于现有方法,还能实现模型间技能迁移,让小模型性能匹配或超越大模型。