大模型对齐与安全

From Rookie to Expert: Manipulating LLMs for Automated Vulnerability Exploitation in Enterprise Software

从新手到专家：利用LLMs实现企业软件自动漏洞利用

Moustapha Awwalou Diouf, Maimouna Tamah Diao, Iyiola Emmanuel Olatunji, Abdoul Kader Kaboré, Jordan Samhi, Gervais Mendy, Samuel Ouya, Jacques Klein, Tegawendé F. Bissyandé

专题命中 红队测试 ：safety(abstract)

AI总结 本文展示如何利用公开的LLMs将新手转变为具备攻击能力的用户，提出RSA策略以绕过安全机制，验证了LLMs在漏洞利用中的有效性，挑战了传统安全原则。