Targeting World Models to Compromise Robot Learning Pipelines
针对世界模型以破坏机器人学习流程
机构 * Northeastern University(东北大学) ; University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
AI总结 本文提出针对世界模型的新型数据投毒攻击方法,通过注入恶意提示或转换动态,在看似安全的数据中生成危险训练轨迹,导致下游策略不安全。
Comments 8 Pages, CoRL Preprint