大模型对齐与安全

Bypassing Prompt Injection Detectors through Evasive Injections

通过规避性注入绕过提示注入检测器

Md Jahedur Rahman, Ihsen Alouani

机构 * Centre for Secure Information Technologies（安全信息技术中心） ； Queen's University Belfast（贝尔法斯特女王大学） 纠错

专题命中 提示注入 ：prompt injection(title,abstract)；分类 cs.AI

AI总结 本文提出了一种多探针规避攻击，通过优化后缀同时欺骗所有层间漂移检测器，实验显示其在Phi-3和Llama-3上成功绕过检测器的高成功率，提出基于对抗后缀增强的防御方法。

Comments This paper is to appear at ICNNN 2026