大模型对齐与安全

Can Large Language Models Really Recognize Your Name?

大语言模型真的能识别你的名字吗？

Dzung Pham, Peter Kairouz, Niloofar Mireshghallah, Eugene Bagdasarian, Chau Minh Pham, Amir Houmansadr

机构 * University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校） ； Google Research（谷歌研究） ； Carnegie Mellon University（卡内基梅隆大学） ； Google Research, University of Massachusetts Amherst（谷歌研究，马萨诸塞大学阿默斯特分校） ； University of Maryland, College Park（马里兰大学学院市分校） 纠错

专题命中 隐私与版权 ：prompt injection(abstract)；分类 cs.AI

AI总结 本文研究大语言模型在短文本中处理模糊人名的可靠性问题，构建AmBench基准测试集，发现模型对模糊人名的识别率下降20-40%，揭示隐私保护中的公平性问题。

Comments ACM FAccT '26