Bilevel Data Curation for LLM Fine-tuning: Offline Selection and Online Self-Refining Generation
大语言模型微调的双层数据策展:离线选择与在线自优化生成
机构 * Cornell University(康奈尔大学) ; Cisco Research(思科研究)
AI总结 提出双层框架结合离线数据选择与在线自优化生成,提升微调数据质量,理论证明优于直接混合,实验验证效果。
Comments updated the theories and experiments