世界模型

BadDreamer: Transferable Backdoor Attacks against Video World Models for Autonomous Driving

BadDreamer: 针对自动驾驶视频世界模型的可迁移后门攻击

Zhe Shuai, Xiaopeng Xie, Yikun Zeng

机构 * Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 视频世界模型 ：world model(title,abstract)；world models(title,abstract)；video world model(title,abstract)；world model(title,abstract)

AI总结 提出BadDreamer，一种针对自动驾驶视频世界模型的可迁移时空后门攻击，通过污染未来帧中的触发-擦除序列，使模型在物理触发出现时幻觉化障碍物消失，进而误导下游动作预测。

Comments 19 pages, 8 figures, 3 tables. Preprint

SafeDojo: Safe Reinforcement Learning for VLA via Interactive World Model

SafeDojo：基于交互世界模型的安全强化学习用于视觉-语言-动作模型

Kai Tang, Peidong Jia, Zhong Chu, Jixian Wu, Rui Ma, Jiajun Cao, Fangyuan Zhao, Sixiang Chen, Yichen Guo, Xiaowei Chi, Chun-Kai Fan, Kevin Zhang, Jinchang Xu, Fubing Yang, Weishi Mi, Xiaozhu Ju, Jian Tang, Shanghang Zhang

机构 * State Key Laboratory of Multimedia Information Processing, School of Computer Science, Peking University（北京大学计算机学院多媒体信息处理国家重点实验室） ； Beijing Innovation Center of Humanoid Robotics（北京人形机器人创新中心） ； Nanyang Technological University（南洋理工大学） ； Hong Kong University of Science and Technology（香港科技大学） ； University of Electronic Science and Technology of China（电子科技大学） 纠错

专题命中 视频世界模型 ：world model(title,abstract)；world model(title,abstract)；video world model(abstract)；video world model(abstract)

AI总结 提出SafeDojo，首个基于模型的安全强化学习框架，通过交互式视频世界模型进行想象学习安全动作，结合解耦的任务奖励和安全代价信号，在SafeLIBERO和真实机器人上取得最佳安全成功率。

Comments 20 pages, 5 figures, 8 tables