Calibrated? Not for Everyone: How Sexual Orientation and Religious Markers Distort LLM Accuracy and Confidence in Medical QA
校准?并非人人适用:性取向和宗教标志如何扭曲LLM在医疗问答中的准确性和置信度
机构 * Department of Medical Informatics, Amsterdam University Medical Center, University of Amsterdam, Amsterdam, The Netherlands(阿姆斯特丹大学医学信息学系,阿姆斯特丹大学医学中心,阿姆斯特丹,荷兰) ; Amsterdam Public Health, Methodology, Amsterdam, The Netherlands(阿姆斯特丹公共卫生,方法学,阿姆斯特丹,荷兰)
AI总结 本文研究了患者的社会描述(性取向和宗教归属)如何扭曲LLM的不确定性信号和准确性,发现身份标志导致校准危机,影响置信度信号的可靠性,对医疗部署构成风险。
Comments Accepted to ACL 2026 (Main Conference)