FinSafetyBench: Evaluating LLM Safety in Real-World Financial Scenarios
FinSafetyBench:评估LLM在现实金融场景中的安全性
机构 * Shanghai University of Finance and Economics(上海财经大学) ; Beihang University(北航) ; Southern University of Science and Technology(南方科技大学) ; MoE Key Laboratory of Interdisciplinary Research of Computation and Economics(计算与经济学交叉学科研究重点实验室)
AI总结 本文提出FinSafetyBench,一个双语红队基准,用于测试LLM对违反金融合规请求的拒绝能力,揭示了对抗性提示绕过合规保障的关键漏洞及中文环境下更严重的易受攻击性。
Comments Accepted by Findings of ACL2026