HazardArena: Evaluating Semantic Safety in Vision-Language-Action Models
HazardArena:评估视觉-语言-动作模型中的语义安全性
机构 * Fudan University(复旦大学) ; Shanghai Innovation Institute(上海创新研究院) ; City University of Hong Kong(香港城市大学)
专题命中 VLA模型 :vision-language-action(title,abstract);action model(title);VLA(abstract,abstract_cn);分类 cs.RO
AI总结 HazardArena通过可控风险情境评估视觉-语言-动作模型的语义安全性,发现模型在安全场景训练后在危险场景中表现不佳,提出安全选项层以减少不安全行为。
Comments Submitted to conference; 12 pages, 8 figures, including supplementary material