Minion: A Technology Probe to Explore How Users Negotiate Harmful Value Conflicts with AI Companions
Minion:一种技术探测器,用于探索用户如何与AI伙伴协商有害的价值冲突
机构 * The University of Hong Kong(香港大学) ; Human-Computer Interaction Institute, Carnegie Mellon University(人机交互研究所,卡内基梅隆大学) ; Language Technologies Institute, Carnegie Mellon University(语言技术研究所,卡内基梅隆大学) ; Tsinghua University(清华大学) ; Department of Computer Science, George Mason University(计算机科学系,乔治·马歇尔大学)
AI总结 Minion通过探测用户与AI伙伴协商有害价值冲突的过程,揭示了设计中需平衡用户责任与AI安全的挑战。
Comments 21 pages, 4 figures