ROBOSHACKLES: A Safety Dataset for Human-Injury Prevention in Embodied Foundation Models
ROBOSHACKLES: 面向具身基础模型中人体伤害预防的安全数据集
机构 * Institute of Al for Industries, Chinese Academy of Sciences(工业人工智能研究所,中国科学院) ; University of Science and Technology of China(中国科学技术大学)
专题命中 数据集与评测 :embodied foundation model(title,abstract);分类 cs.RO
AI总结 为解决机器人伤害人类数据难以安全收集的问题,提出基于真实观测的安全数据构建流水线,生成包含1万条视频的ROBOSHACKLES数据集,涵盖直接和间接伤害类别,评估发现现有模型在安全关键场景下100%产生不安全动作。