University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）

Stress-Testing Alignment Audits With Prompt-Level Strategic Deception

通过提示级策略欺骗进行对齐审计压力测试

Oliver Daniels, Perusha Moodley, Benjamin M. Marlin, David Lindner

机构 * MATS ； University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校） ； Google Deepmind（谷歌DeepMind） 纠错

AI总结 本文提出自动红队流水线，通过生成针对白盒和黑盒审计方法的欺骗提示，揭示了当前对齐审计方法在面对强大非对齐模型时的脆弱性。

Comments Accepted at the ICLR 2026 Workshop on Principled Design for Trustworthy AI