Looking in the Mirror: Introspecting Side-Effect Misalignments Induced by Fine-Tuning
镜像审视:微调引发的副作用对齐偏差内省
机构 * Institute of Science Tokyo(东京科学大学) ; ZOZO Research(ZOZO研究所) ; Stanford University(斯坦福大学) ; Waseda University(早稻田大学) ; Nanyang Technological University(南洋理工大学)
AI总结 该研究针对微调引发的副作用对齐偏差问题,提出了Delta感知内省适配器(DAIA),构建了对应数据集,实验显示DAIA性能优于现有内省适配器且泛化性良好。