Catching rationalization in the act: detecting motivated reasoning before and after CoT via activation probing
在行动中捕捉理性化:通过激活探测检测推理前后的动机推理
机构 * UC San Diego(加州大学圣迭戈分校)
专题命中 其他推理 :reasoning(title,abstract);CoT(title,abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 研究通过激活探测检测LLM在Cot中的动机推理现象,证明内部表示比CoT监控更可靠,且预生成探测能早期发现动机行为。