Model-Based Proactive Cost Generation for Learning Safe Policies Offline with Limited Violation Data
基于模型的主动成本生成:用于在有限违规数据下学习安全策略
机构 * National Key Laboratory for Novel Software Technology, Nanjing University(南京大学新型软件技术国家重点实验室) ; School of Artificial Intelligence, Nanjing University(南京大学人工智能学院) ; Polixir Technologies Nanjing, China(南京Polixir科技有限公司) ; Tencent Game AI Center Shenzhen, China(腾讯深圳游戏AI中心)
AI总结 本文提出PROCO框架,利用大语言模型整合自然语言知识,通过构建保守成本函数和模型基于的模拟,减少约束违规并提升安全性,适用于离线数据中极少或无违规样本的高风险场景。