Stronger Enforcement of Instruction Hierarchy via Augmented Intermediate Representations
通过增强的中间表示实现更强的指令层级强制执行
机构 * NVIDIA（英伟达）
专题命中 提示注入 ：prompt injection(abstract)；分类 cs.AI、cs.LG
AI总结 通过在中间表示中注入增强的指令层级信号，有效降低提示注入攻击的成功率，同时保持模型性能。
AI 大模型
大模型对齐与安全
大模型对齐、安全、越狱、红队、提示注入和可信评测。
