大模型对齐与安全

PROVE: Training-Free Prompt Recovery using Verifiable Evidence

PROVE：基于可验证证据的无训练提示词恢复

Rupayan Mallick, Mahsa Khoshnoodi, Sarah Adel Bargal

专题命中 越狱攻击 ：alignment(abstract)

AI总结 该研究提出无训练的黑盒提示词反转攻击PROVE，通过可验证场景描述重建提示词，在多数据集上优于基线方法，可用于版权保护相关研究。