GAS-Leak-LLM: Genetic Algorithm-Based Suffix Optimization for Black-Box LLM Jailbreaking
GAS-Leak-LLM:基于遗传算法的后缀优化实现黑盒LLM越狱
机构 * Department of Electrical, Computer and Biomedical Engineering(电气、计算机与生物医学工程系) ; University of Pavia(帕维亚大学) ; Department of Computer Applications(计算机应用系) ; Cochin University of Science and Technology(科钦科学技术大学)
专题命中 其他LLM :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.AI
AI总结 提出GAS-Leak-LLM方法,利用遗传算法在黑盒设置下自动进化对抗后缀以绕过LLM安全约束,验证了现有安全机制的不足。