Exploring different approaches to customize language models for domain-specific text-to-code generation
探索不同方法以定制语言模型用于领域特定的文本到代码生成
机构 * Technical University of Denmark(丹麦技术大学) ; The LEGO Group(乐高集团)
专题命中 RAG评测 :retrieval-augmented generation(abstract);RAG(abstract);分类 cs.AI
AI总结 本文探讨了如何通过合成数据集定制小型语言模型用于领域特定的代码生成,比较了少样本提示、检索增强生成和LoRA微调三种方法,发现LoRA在准确性和领域对齐上表现更优。