JailbreakOPT: Tool-Assisted Iterative Jailbreak Prompt Optimization
JailbreakOPT: 工具辅助的迭代越狱提示优化
机构 * University of California, Davis(加州大学戴维斯分校) ; The Renmin University of China(中国人民大学) ; Independent Researcher(独立研究员) ; Nankai University(南开大学) ; Cornell University(康奈尔大学) ; The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
AI总结 提出JailbreakOPT框架,通过工具库和上下文Thompson采样优化单轮越狱提示,在多个LLM上提高攻击成功率并减少攻击次数。