University of Toronto（多伦多大学）

When Ethics and Payoffs Diverge: LLM Agents in Morally Charged Social Dilemmas

当伦理与收益相悖时：道德两难情境下的大语言模型智能体

Steffen Backmann, David Guzman Piedrahita, Terry Jingchen Zhang, Emanuel Tewolde, Rada Mihalcea, Bernhard Schölkopf, Zhijing Jin

机构 * ETH Zürich（苏黎世联邦理工学院） ； University of Zurich（苏黎世大学） ； Carnegie Mellon University（卡内基梅隆大学） ； University of Michigan（密歇根大学） ； Max Planck Institute for Intelligent Systems, Tübingen（图宾根人工智能研究所） ； University of Toronto（多伦多大学） ； Vector Institute（向量研究所） 纠错

AI总结 研究道德要求与利润激励冲突时LLMs在道德两难博弈中的行为，引入\msim评估九个模型，通过ATEs估计因果效应、分析推理轨迹，发现模型道德行为有情境脆弱性，揭示了部署风险。