大模型对齐与安全

A Multi-Domain Red Teaming Framework for Safety, Robustness, and Fairness Evaluation of Medical Large Language Models

医疗大语言模型安全性、鲁棒性和公平性评估的多领域红队框架

Andrei Marian Feier, Veysel Kocaman, Yigit Gul, Ahmet Korkmaz, Alexander Thomas, Aleksei Zakharov, Jay Gil, Mehmet Butgul, David Talby

机构 * John Snow Labs Inc.（约翰·索克斯实验室公司） 纠错

专题命中 红队测试 ：safety(title,abstract)；red teaming(title,abstract)；分类 cs.CL、cs.AI

AI总结 提出一个多领域红队框架，通过690个临床场景评估11个当代大语言模型，发现平均准确率掩盖了临床意义上的风险，性能方差和最坏情况失败比平均准确率更能反映可靠性，混合评估方法对可信安全评估至关重要。

Comments 10 pages, 4 figures. To be presented at the Text2Story 2026 Workshop (Delft, The Netherlands, 29 March 2026); CEUR Workshop Proceedings (forthcoming). Affiliation: John Snow Labs Inc

RedDebate: Safer Responses Through Multi-Agent Red Teaming Debates

RedDebate：通过多智能体红队辩论实现更安全的响应

Ali Asad, Stephen Obadinma, Radin Shayanfar, Xiaodan Zhu

机构 * Department of Electrical ； Computer Engineering \& Ingenuity Labs Research Institute, Queen's University, Kingston, Canada 纠错

专题命中 红队测试 ：red teaming(title)；safety(abstract)；AI safety(abstract)；分类 cs.CL

AI总结 提出RedDebate框架，利用多智能体辩论和长期记忆模块，通过全自动红队测试减少大语言模型的不安全输出。

Quality-Diversity Evolution for Discovering Diverse Vulnerabilities in LLM Safety

用于发现LLM安全中多样漏洞的质量-多样性进化

Subhadip Mitra

机构 * Rota Labs（Rota实验室） 纠错

专题命中 红队测试 ：safety(title,abstract)；分类 cs.CL、cs.LG

AI总结 提出基于质量-多样性进化框架（MAP-Elites）在语义层面生成可解释攻击策略，发现不同LLM的特定漏洞模式。

Comments 9 pages, 6 figures. Accepted at the ICLR 2026 Workshop on Agents in the Wild (AIWILD)