The Reasoning Trap -- Logical Reasoning as a Mechanistic Pathway to Situational Awareness
推理陷阱——逻辑推理作为情境意识的机制路径
机构 * MARS 4.0 Fellowship, Cambridge AI Safety Hub(CAISH), University of Cambridge(MARS 4.0 Fellow,剑桥人工智能安全中心(CAISH),剑桥大学) ; AWS Generative AI Innovation Center, Amazon Web Services, USA(亚马逊生成AI创新中心,亚马逊网络服务,美国) ; Google, USA(谷歌,美国) ; Stanford University(斯坦福大学) ; Northeastern University, Seattle, WA, USA(东北大学,西雅图,华盛顿州,美国)
专题命中 逻辑推理 :reasoning(title,abstract);logical reasoning(title,abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 本文提出RAISE框架,揭示逻辑推理能力提升与情境意识升级的机制路径,并提出安全原则与测试方法以应对潜在风险。
Comments Accepted at ICLR 2026 Workshop on Logical Reasoning of Large Language Models. 21 Pages. Position Paper