大模型对齐与安全

Slurry-as-a-Service: A Modest Proposal on Scalable Pluralistic Alignment for Nutrient Optimization

泥浆即服务：一种可扩展的多元对齐方案用于营养优化

Rachel Hong, Yael Eiger, Jevan Hutson, Os Keyes, William Agnew

机构 * ValueMulch 纠错

专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.AI、cs.CY

AI总结 本文提出ValueMulch框架，通过多元对齐方法提升覆盖模型对社区规范的符合度，探讨伦理与技术对齐的挑战。

Let's Think in Two Steps: Mitigating Agreement Bias in MLLMs with Self-Grounded Verification

两步思考：通过自我 grounded 验证缓解 MLLM 的同意偏差

Moises Andrade, Joonhyuk Cha, Brandon Ho, Vriksha Srihari, Karmesh Yadav, Zsolt Kira

机构 * Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出 SGV 方法，通过自我 grounded 验证缓解 MLLM 的同意偏差，提升验证准确性和任务完成率。

Comments ICLR 2026. Code, models, and data publicly available at https://mshalimay.github.io/agreement-bias-sgv/

COOL-MC: Verifying and Explaining RL Policies for Multi-bridge Network Maintenance

COOL-MC：多桥网络维护的强化学习策略验证与解释

Dennis Gross

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 COOL-MC通过概率模型检查和可解释性方法，验证并解释多桥网络维护的强化学习策略，揭示策略的安全性和偏见问题。

More Women, Same Stereotypes: Unpacking the Gender Bias Paradox in Large Language Models

更多女性，相同刻板印象：解构大型语言模型中的性别偏见悖论

Evan Chen, Run-Jun Zhan, Yan-Bai Lin, Hung-Hsuan Chen

机构 * Computer Science and Information Engineering（计算机科学与信息工程系） 纠错

专题命中 AI治理与伦理 ：RLHF(abstract)；分类 cs.CL、cs.AI

AI总结 本研究通过自由叙事揭示大型语言模型中的性别偏见，发现其在职业性别分布上更接近人类刻板印象，而非现实数据，强调了平衡缓解措施的重要性。

Building the ethical AI framework of the future: from philosophy to practice

构建未来的伦理AI框架：从哲学到实践

Jasper Kyle Catapang

机构 * Graduate School of Global Studies（全球研究研究生院） ； Tokyo University of Foreign Studies（东京外国语大学） ； AI Product Development Division（人工智能产品开发部门） ； Money Forward, Inc.（Money Forward公司） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.CY

AI总结 本文提出了一种伦理设计控制架构，通过三重闸门机制整合后果论、义务论和美德伦理，为AI生命周期提供可执行的治理方案。

Journal ref AI Ethics 6, 150 (2026)

NLE: Non-autoregressive LLM-based ASR by Transcript Editing

NLE：基于大语言模型的语音识别的非自回归方法通过转录编辑

Avihu Dekel, Samuel Thomas, Takashi Fukada, George Saon

专题命中 AI治理与伦理 ：alignment(abstract)

AI总结 NLE通过非自回归方法实现高效语音识别，利用转录编辑技术在保持准确性的同时显著提升处理速度，适用于实时应用场景。

Comments Preprint