SPQR: A Multi-Dimensional Benchmark for Safety Alignment under Benign Model Adaptation
SPQR:良性模型适应下安全对齐的多维基准测试
机构 * Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学) ; University of Waterloo(滑铁卢大学) ; Michigan State University(密歇根州立大学)
专题命中 文生图 :text-to-image(abstract);diffusion(abstract);分类 cs.CV
AI总结 研究文本到图像扩散模型安全对齐在良性微调下的稳定性,引入SPQR基准测试,通过单评分指标提供统一框架,经多方面分析确定安全对齐失败情况,为T2I安全对齐技术提供简洁全面的基准。
Comments 34 pages, 9 figures, 13 tables