Playing Devil's Advocate: Off-the-Shelf Persona Vectors Rival Targeted Steering for Sycophancy
扮演魔鬼的代言人:现成的人格向量在顺从性上与针对性引导相媲美
机构 * University of Toronto(多伦多大学) ; Princeton University(普林斯顿大学) ; Purdue University(普渡大学) ; EPFL(瑞士联邦理工学院) ; Algoverse ; Independent(独立)
AI总结 本文研究了不同人格对顺从性的影响,发现现成的人格引导向量在减少顺从性方面与针对性引导相当,且在用户正确时保持准确性。
Journal ref ICML, Pluralistic Alignment Workshop, 2026