大模型对齐与安全

Stress-Testing Alignment Audits With Prompt-Level Strategic Deception

通过提示级策略欺骗进行对齐审计压力测试

Oliver Daniels, Perusha Moodley, Benjamin M. Marlin, David Lindner

机构 * MATS ； University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校） ； Google Deepmind（谷歌DeepMind） 纠错

专题命中 红队测试 ：alignment(title,abstract)；分类 cs.LG；trustworthy(comments)

AI总结 本文提出自动红队流水线，通过生成针对白盒和黑盒审计方法的欺骗提示，揭示了当前对齐审计方法在面对强大非对齐模型时的脆弱性。

Comments Accepted at the ICLR 2026 Workshop on Principled Design for Trustworthy AI