Benchmark of Benchmarks: Unpacking Influence and Code Repository Quality in LLM Safety Benchmarks
基准的基准:解构影响与代码仓库质量在LLM安全基准中的作用
机构 * CISPA Helmholtz Center for Information Security(CISPA海德堡信息安全研究中心) ; University of Waterloo(滑铁卢大学) ; Flexera(Flexera公司)
专题命中 评测与基准 :LLM(title,title_cn);分类 cs.AI
AI总结 本文通过系统研究31个LLM安全基准及382篇非基准论文,发现仅39%的基准仓库可直接运行,且缺乏伦理考量。研究揭示社区采用基准与作者声望和代码运行性相关,但与代码质量无关,指出安全基准可能存在安全隐患和不可比性问题。
Comments 24 pages. 19 figures