大模型对齐与安全

Backchaining Loss of Control Mitigations from Mission-Specific Benchmarks in National Security

从国家安全部署中的任务特定基准中回溯控制丧失缓解措施

Matteo Pistillo, Samantha Faraone, Joshua Herman

专题命中 红队测试 ：safety(abstract)；AI safety(abstract)；分类 cs.CY

AI总结 本文提出了一种基于现有用例特定基准的实证方法，通过回溯AI系统在国家安全基准上犯错时所导致的控制丧失缓解措施，帮助部署者优先考虑安全措施。