Reconciling Contradictory Views on the Effectiveness of SFT in LLMs: An Interaction Perspective
弥合对SFT在LLM中效果的矛盾观点:一种交互视角
机构 * Shanghai Jiao Tong University(上海交通大学) ; Beijing Institute for General Artificial Intelligence(北京一般人工智能研究院) ; UniDT
专题命中 指令微调 :SFT(title,title_cn);LLM(title_cn,summary_cn);large language model(abstract);language model(abstract)
AI总结 本文从交互视角探讨了SFT在LLM中的效果不一致问题,发现SFT主要去除噪声交互但难以获得可靠新交互,且去噪阶段短暂,继续微调易引入过拟合交互。