When Ethics and Payoffs Diverge: LLM Agents in Morally Charged Social Dilemmas
当伦理与收益相悖时:道德两难情境下的大语言模型智能体
机构 * ETH Zürich(苏黎世联邦理工学院) ; University of Zurich(苏黎世大学) ; Carnegie Mellon University(卡内基梅隆大学) ; University of Michigan(密歇根大学) ; Max Planck Institute for Intelligent Systems, Tübingen(图宾根人工智能研究所) ; University of Toronto(多伦多大学) ; Vector Institute(向量研究所)
AI总结 研究道德要求与利润激励冲突时LLMs在道德两难博弈中的行为,引入\msim评估九个模型,通过ATEs估计因果效应、分析推理轨迹,发现模型道德行为有情境脆弱性,揭示了部署风险。