自动驾驶

ReasonBreak: Probing Vulnerabilities in Reasoning-Enabled Vision-Language-Action Models for Autonomous Driving

ReasonBreak: 探测自动驾驶中具备推理能力的视觉-语言-行动模型的脆弱性

Mohammadreza Teymoorianfard, Jean-Philippe Monteuuis, Jonathan Petit, Amir Houmansadr

机构 * University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校） ； Qualcomm（高通） 纠错

专题命中 仿真评测 ：autonomous driving(title,abstract)；分类 cs.RO

AI总结 本文通过黑盒攻击方法，首次系统研究了具备推理能力的视觉-语言-行动模型在自动驾驶中面对真实输入扰动时的脆弱性，发现其推理和轨迹生成均易受攻击，导致碰撞率上升。