SafeBranch: Branch-Pair Safety Alignment for Embodied Agents
SafeBranch:面向具身智能体的分支对安全对齐方法
机构 * Dongguk University(东国大学) ; Seoul National University(首尔大学)
专题命中 其他机器人 :embodied agent(title,abstract);分类 cs.RO、cs.AI、cs.CV
AI总结 针对具身智能体的交互式安全问题,提出SafeBranch框架,通过自身不安全回滚生成的分支对对齐执行器安全性,在多基准及分布外变体上实现安全成功数约为未训练基线十倍的效果,且不牺牲任务成功。
Comments 25 pages, 12 figures