大模型对齐与安全

PrinciplismQA: A Philosophy-Grounded Approach to Assessing LLM-Human Clinical Medical Ethics Alignment

PrinciplismQA: 一种基于哲学的评估LLM与人类临床医学伦理对齐的方法

Chang Hong, Minghao Wu, Qingying Xiao, Yuchi Wang, Xiang Wan, Guangjun Yu, Benyou Wang, Yan Hu

机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； National Health Data Institute, Shenzhen（深圳国家健康数据研究院） ； Shenzhen Research Institute of Big Data（深圳大数据研究院） 纠错

专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出PrinciplismQA，一种基于哲学框架的评估方法，用于评估LLM在临床医学伦理上的对齐情况，通过专家验证的问题集揭示模型在伦理推理上的不足。

Comments ACL 2026 Findings

Regulating for AI Legitimacy

规范人工智能的合法性

Gilad Abiri

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 研究人工智能治理中合法性这一自主监管目标，指出其与对齐不同。分析人工智能合法性在透明度、私人权力和行政自动化方面的问题，探讨法律作用并提出整合、熟悉度、争议三个原则以解决相关问题。

Reasoning to Regulate: Chain-of-Thought for Traffic Rule Understanding

推理以规范：用于交通规则理解的思维链

Yueru Luo, Xu Yan, Changqing Zhou, Yiming Yang, Chao Zhan, Shuqi Mei, Chao Zheng, Zhen Li

机构 * CUHK-SZ, Shenzhen-FNii（香港中文大学（深圳），深圳高等金融研究院） ； HKUST(GZ)（香港科技大学（广州）） ； Tencent T Lab（腾讯T实验室） 纠错

专题命中 AI治理与伦理 ：safety(abstract)

AI总结 针对交通规则理解这一自动驾驶关键挑战，提出为视觉语言模型配备思维链能力的框架，设计整理管道，采用两阶段训练方案，显著提升了可解释性和准确性，建立首个基于推理的自动驾驶框架。

Comments Technical Report

DobicVLM: Aligning Chest X-Ray Report Generation with Clinically-Grounded Programmatic Rewards via Group Relative Policy Optimization

DobicVLM：通过群体相对策略优化使胸部X光报告生成与临床基础的程序化奖励保持一致

Thanni Adewuyi, Angelica Obayi, Andem Aniekan, Samuel Okoko, Angel Ezendu, Ephraim Usani, Ademide Animasaun, Philip Chibundu, Christian Maurice, Mary Donald Essien, Oluwaseun Odunsi, Oluwasegun Oguntuase, Abiodun Adereni

机构 * Dobic Health（多比克健康公司） ； University of Ibadan（伊巴丹大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)

AI总结 研究针对自动胸部X光报告生成难题，提出DobicVLM模型，结合监督微调、GRPO及临床奖励，用可解释规则组件执行标准，经训练和评估，该模型多数标准优于Gemini 2.5 Flash，证明GRPO在资源受限设置中的价值。