大模型对齐与安全

Boundary-targeted Membership Inference Attacks on Safety Classifiers

针对安全分类器的边界目标成员推断攻击

Anthony Hughes, Alexander Goldberg, Prince Jha, Adam Perer, Nikolaos Aletras, Niloofar Mireshghallah

机构 * University of Sheffield（谢菲尔德大学） ； Carnegie Mellon University（卡内基梅隆大学） ； MBZUAI 纠错

专题命中 隐私与版权 ：safety(title,abstract)；分类 cs.CL、cs.LG

AI总结 提出一种边界目标选择策略，通过识别低置信度样本来放大成员推断信号，在安全分类器上以5%假阳性率恢复19%的敏感对话，比现有方法高3.5倍。