Targeting World Models to Compromise Robot Learning Pipelines
针对世界模型以破坏机器人学习流程
机构 * Northeastern University(东北大学) ; University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
专题命中 机器人学习 :robot learning(title,abstract);world model(title,abstract);robotic(abstract);分类 cs.RO、cs.AI
AI总结 本文提出针对世界模型的新型数据投毒攻击方法,通过注入恶意提示或转换动态,在看似安全的数据中生成危险训练轨迹,导致下游策略不安全。
Comments 8 Pages, CoRL Preprint