大模型对齐与安全

TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning

TwinGate: 通过非对称对比学习实现对不可追踪流量中分解性劫持的有状态防御

Bowen Sun, Chaozhuo Li, Yaodong Yang, Yiwei Wang, Chaowei Xiao

机构 * Johns Hopkins University（约翰霍普金斯大学） ； Microsoft Research Asia（微软亚洲研究院） ； Peking University（北京大学） ； University of California, Merced（加州大学默塞德分校） 纠错

专题命中 红队测试 ：trustworthy(abstract)；分类 cs.CL、cs.LG

AI总结 针对LLM中分解性劫持威胁，TwinGate通过非对称对比学习在共享潜在空间中聚类语义不同但意图匹配的恶意片段，同时利用冻结编码器抑制良性主题重叠导致的误报，实现高效防御。