大模型对齐与安全

Breaking Refusal in the First Half: A Mechanistic Study of the Prefill Jailbreak

上半场打破拒绝：预填充越狱的机制研究

Alex Kwon

专题命中 越狱攻击 ：jailbreak(title,abstract)；safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究语言模型中预填充消除拒绝的现象，通过实验定位到早期窗口，揭示拒绝是浅层响应端计算，预填充控制是通用自回归条件作用，还明确了主导机制及相关特征，指出监测器免疫特点和机制的分散性与失效表面的局部性。

Comments 31 pages, 3 figures. Code and derived artifacts: https://github.com/collapseindex/breaking-refusal