MPSelectTune: Prompt-type Selection for Fine-tuning improves Concept Unlearning in LLMs
MPSelectTune:微调中的提示类型选择可提高大语言模型中的概念遗忘能力
机构 * IIT Kharagpur(印度理工学院卡拉格布尔分校) ; MPI-SWS(马克斯·普朗克软件系统研究所) ; HPE Labs(慧与实验室)
AI总结 研究大语言模型中去除有害概念难题,提出对抗方法用联合提示预测主任务和概念任务,MPSelectTune两阶段方法可提升平均遗忘性能,实验显示能提高主任务精度并降低概念精度。
Comments Accepted at NeurIPS 2025 - Reliable ML Workshop (https://openreview.net/forum?id=Jk8sOL97Tg#discussion)