SafeThinker: Reasoning about Risk to Deepen Safety Beyond Shallow Alignment
SafeThinker: 通过风险推理深化安全对齐
机构 * Nanjing University of Aeronautics and Astronautics(南京航空航天大学) ; Didi International Business Group(滴滴国际商务集团) ; Institute for AI, Tsinghua University(清华大学人工智能研究院) ; Nanjing University of Information Science & Technology(南京信息科学技术大学)
专题命中 其他推理 :reasoning(title);分类 cs.AI
AI总结 SafeThinker通过动态分配防御资源,有效提升模型对伪装攻击的防御能力,同时保持实用性。