Beyond a Single Direction: Chain-of-Thought Disrupts Simple Steering of Refusal
超越单一方向:思维链破坏简单的拒绝引导
机构 * University of Göttingen, Germany(哥廷根大学,德国) ; Northeastern University, Boston, MA, USA(东北大学,波士顿,马萨诸塞州,美国)
专题命中 其他推理 :CoT(summary_cn,abstract);chain-of-thought(title,abstract);reasoning(abstract);分类 cs.AI、cs.LG
AI总结 本文研究大型推理模型(LRM)中拒绝行为的机制,发现思维链(CoT)与激活共同编码拒绝信号,使得仅通过激活引导难以逆转拒绝,但通过两阶段干预(激活引导下重新生成CoT)可显著提高逆转率。