Accounting for Context: Shaping Moral Credences for Value Alignment
考虑情境:塑造道德信念以实现价值对齐
机构 * University of Oxford(牛津大学)
AI总结 本文针对价值对齐中道德多元性问题,提出在聚合道德评估时必须考虑情境因素,并形式化道德不确定性下的决策,揭示弱帕累托原则的违反是辛普森悖论的一种变体。
高校专区
考虑情境:塑造道德信念以实现价值对齐
机构 * University of Oxford(牛津大学)
AI总结 本文针对价值对齐中道德多元性问题,提出在聚合道德评估时必须考虑情境因素,并形式化道德不确定性下的决策,揭示弱帕累托原则的违反是辛普森悖论的一种变体。
解释竞争模型下的学习:动态认知诊断的联合与逐步方法
机构 * School of Mathematical Sciences, Lancaster University(兰卡斯特大学数学科学学院) ; Department of Computer Science, University of Oxford(牛津大学计算机科学系) ; Department of Psychology, Lancaster University(兰卡斯特大学心理学系)
AI总结 研究在项目-技能结构未知时,联合估计Q矩阵与学习过程相比先确定Q矩阵再研究学习,如何改变对学习者发展的结论,并通过动态认知诊断模型分析阅读游戏数据,发现联合分析更可靠。
基于真实仓库中闭路电视摄像机网络的多机器人规划与控制
机构 * Oxford Robotics Institute, University of Oxford, UK(牛津大学机器人研究所,牛津大学,英国) ; Robot Systems Group, Technical University of Munich, Germany(机器人系统组,慕尼黑技术大学,德国)
AI总结 提出仅利用分布式CCTV网络和边缘计算实现多机器人协调规划与控制的方法,在真实仓库中验证了四台机器人和30个摄像头的系统,首次实现仅依赖外部摄像头网络的现场多机器人协调。
人们真正希望从AI中得到什么?偏好多元性映射
机构 * Oxford Internet Institute, University of Oxford(牛津大学互联网研究所) ; Meedan
AI总结 通过分析75个国家1500份开放式回答,发现不同人对AI的期望各异,多数价值观仅被少数人要求,且同一词语(如“真实性”)含义分歧,某些能力存在争议,揭示当前RLHF偏好聚合方法的根本缺陷。
Comments Accepted at the 2026 ACM Conference on Fairness, Accountability, and Transparency (FAccT '26)
立场:不要仅仅“在后期修复它”:AI科学必须研究训练动态
机构 * Carnegie Mellon University(卡内基梅隆大学) ; Boston University(波士顿大学) ; Harvard University(哈佛大学) ; University of Oxford, Martian(牛津大学,火星) ; Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所)
AI总结 本文主张AI科学应超越事后分析,研究训练动态以预测、干预和设计模型行为,并指出当前在可解释性、公平性等领域的进展及开放问题。
Comments Accepted as an oral to the ICML: https://icml.cc/virtual/2026/poster/67142