大模型对齐与安全

VeriGrey: Greybox Agent Validation

VeriGrey：灰盒代理验证

Yuntong Zhang, Sungmin Kang, Ruijie Meng, Marcel Böhme, Abhik Roychoudhury

机构 * National University of Singapore（新加坡国立大学） 纠错

专题命中 提示注入 ：prompt injection(abstract)；分类 cs.AI

AI总结 本文提出VeriGrey方法，通过工具调用序列反馈函数驱动测试过程，发现LLM代理中隐含的提示注入漏洞，并在实际案例中验证其有效性。