Identifying and Mitigating Gender Cues in Academic Recommendation Letters: An Interpretability Case Study
识别和缓解学术推荐信中的性别线索:一个可解释性案例研究
机构 * Scheller College of Business(施谢尔商学院) ; Georgia Institute of Technology(佐治亚理工学院) ; Weinberg Institute for Cognitive Science(认知科学研究所) ; University of Michigan - Ann Arbor(密歇根大学安娜堡分校) ; School of Electrical and Computer Engineering(电气与计算机工程学院) ; Purdue University(普渡大学) ; Department of Computer Science(计算机科学系) ; Northwestern University(西北大学) ; Iowa State University(爱荷华州立大学) ; College of Computing(计算学院)
AI总结 本研究探讨Transformer编码器模型和大语言模型在去除姓名和代词后,能否从匿名推荐信中推断出申请人的性别,发现存在显著的性别泄露,并通过移除隐含性别线索降低模型准确性,但性别预测仍优于随机猜测。
Comments 17 pages, 3 figures