大模型对齐与安全

VERA-MH: Validation of Ethical and Responsible AI in Mental Health

VERA-MH：心理健康领域伦理和负责任AI的验证

Luca Belli, Kate H. Bentley, Josh Gieringer, Emily Van Ark, Nilu Zhao, Pradip Thachile, Matt Hawrilenko, Millard Brown, Adam M. Chekroud

机构 * Spring Health ； Yale University（耶鲁大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 本研究提出VERA-MH，一种用于评估心理健康支持聊天机器人安全性的新型临床验证方法，重点评估聊天机器人在识别自杀倾向风险方面的表现。