Off the Rails: Hijacking the Scoring Head in Generative End-to-End Driving Planners with Safety-Violating Adversarial Perturbations
脱轨:利用违反安全的对抗扰动劫持生成式端到端驾驶规划器的评分头
机构 * University of California, Irvine(加利福尼亚大学尔湾分校)
专题命中 端到端驾驶 :end-to-end driving(title);autonomous driving(abstract);BEV(abstract);分类 cs.RO、cs.CV
AI总结 针对生成式端到端自动驾驶规划器中评分头的攻击面,提出Derail对抗框架,通过安全违规目标扰动使轨迹选择从安全候选翻转为不安全候选,评分下降39-80%,碰撞率高达50%。
Comments 23 pages, 4 figures, 9 tables