TheBioCollection: Unified Pre-Training Scale LLM Corpus for Biology
TheBioCollection:用于生物学的统一预训练规模语言模型语料库
机构 * Trillion Labs ; KAIST(韩国科学技术院) ; SK Biopharmaceuticals Co., Ltd.(SK生物制药公司) ; Lunit Inc.(Lunit公司) ; AIGEN Sciences Inc.(AIGEN科学公司)
AI总结 为满足生物学大语言模型训练需求,提出TheBioCollection语料库,整合异构生物资源并丰富记录、引入新任务,配对TheBioCollection-Eval评估,固定架构训练后模型在各领域表现提升,语言能力基本不变。