SciRisk-Bench: A Risk-Dimension-Aware Benchmark for AI4Science Safety
SciRisk-Bench:面向AI4Science安全的风险维度感知基准
发表机构 * Brain-inspired Cognitive Intelligence Lab, Institute of Automation, Chinese Academy of Sciences, Beijing, China(脑启发认知智能实验室,自动化研究所,中国科学院,北京,中国) ; School of Future Technology, University of Chinese Academy of Sciences, China(未来技术学院,中国科学院大学,中国) ; School of Artificial Intelligence, University of Chinese Academy of Sciences, China(人工智能学院,中国科学院大学,中国) ; Zhongguancun Academy, China(中关村学院,中国) ; Beijing Key Laboratory of Safe AI and Superalignment(北京安全人工智能与超对齐重点实验室) ; Gaoling School of AI, Renmin University of China(甘露人工智能学院,中国人民大学) ; Beijing Institute of AI Safety and Governance (Beijing-AISI)(北京人工智能安全与治理研究院(北京-AISI)) ; School of Humanities, University of Chinese Academy of Sciences, China(人文学院,中国科学院大学,中国)
专题命中 其他科学智能 :评估AI4Science安全,覆盖多学科风险
AI总结 提出SciRisk-Bench基准,从显式风险维度和科学学科两个角度评估AI4Science安全,覆盖7个学科、31个子学科和10个风险维度,实验揭示主流及科学大模型的安全薄弱环节。