Risk-Adjusted Harm Scoring for Automated Red Teaming for LLMs in Financial Services
针对金融服务业LLM自动红队测试的风险调整危害评分
专题命中 红队测试 ：red teaming(title)；jailbreak(abstract)；分类 cs.AI、cs.CY
AI总结 本文提出了一种针对金融服务业LLM安全风险的评估框架，通过风险敏感的RAHS度量标准，评估LLM在长期对抗压力下的安全性能。
AI 大模型
大模型对齐与安全
大模型对齐、安全、越狱、红队、提示注入和可信评测。
