大模型对齐与安全

Studying People to Study AI: Expert Perspectives on the Epistemic Fit and Barriers of Human Research in AI Safety & Ethics

研究人以研究AI：关于人类研究在AI安全与伦理中的认知适配性及障碍的专家观点

Jessica Y. Bo, Paula Akemi Aoyagui, Shalaleh Rismani, Dipto Das, Syed Ishtiaque Ahmed, Ashton Anderson

专题命中 AI治理与伦理 ：safety(title,abstract)；AI safety(title,abstract)；分类 cs.AI、cs.CY

AI总结 本研究通过对93名AI安全与伦理领域专家的调查及17名专家的访谈，分析了人类研究在AI安全与伦理领域的认知适配性与障碍，并提出相关建议以避免流于形式的“人类洗白”。

Comments Ninth AAAI/ACM Conference on AI, Ethics, and Society (AIES 2026)

Quantization Undoes Alignment: Bias Emergence in Compressed LLMs Across Models and Precision Levels

量化消除了对齐：跨模型和精度水平的压缩LLM中的偏见涌现

Plawan Kumar Rath, Rahul Maliakkal

机构 * Meta 纠错

专题命中 AI治理与伦理 ：alignment(title)；safety(abstract)；分类 cs.AI、cs.LG

AI总结 研究通过压缩LLM的量化过程，发现3位量化导致6-21%的原本无偏项目出现新偏见，且标准质量指标无法检测到公平性关键的退化。

Comments 7 pages, 4 figures, 4 tables. Accepted at IEEE Cloud Summit 2026. This is the author's accepted version; the version of record will appear in IEEE Xplore

Physical AI Governance: From Theory to Practice Across Life Cycle

物理人工智能治理：跨越生命周期从理论到实践

Wang Yang, Shaobo Wang, Hongxuan Liu, Xiaoran Cai, Yunyu He, Jingzong Zhou, Mengzhong Ma, Yi Yu, Rohit Sharma, Jingjing Fu, Peng Qi

机构 * Case Western Reserve University（凯斯西储大学） ； Shanghai Jiao Tong University（上海交通大学） ； Massachusetts Institute of Technology（麻省理工学院） ； Columbia University（哥伦比亚大学） ； University of California, Riverside（加州大学河滨分校） ； Nanyang Technological University（南洋理工大学） ； New York University（纽约大学） ； Salesforce（Salesforce公司） ； Harvard University（哈佛大学） ； Stanford University（斯坦福大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 本文对物理人工智能治理进行全面综述，综合现有原则形成统一框架，提出五阶段生命周期，通过具体实践展示各阶段治理操作，为构建安全可信且符合社会价值的物理人工智能系统提供参考。

Who Built This Model? Tracing LLM Lineage via Spectral Fingerprints in Weight Space

谁构建了这个模型？通过权重空间中的光谱指纹追踪大语言模型（LLM）谱系

Yiwei Chen, Bingqi Shang, Sijia Liu

机构 * Michigan State University（密歇根州立大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本研究提出几何指纹框架，通过权重空间的光谱能量和子空间对齐分析，实现对110余个开源权重LLM对的谱系区分，为模型溯源提供稳健可解释的信号。

Comments Accepted to COLM 2026

Post-Deployment Accountability in AI Governance: A Cross-Regulatory Empirical Analysis of AI Incidents

从被动到主动：对480起AI事件的多监管实证分析及数据驱动的治理合规框架

Ummara Mumtaz, Rabi Noor, Summaya Mumtaz

机构 * University of the Cumberlands, USA（卡姆伯兰大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本文通过分析480起AI事件，揭示现有治理框架在部署后问责中的不足，并提出主动治理框架，旨在从被动响应转向部署前的合规保障。

A Statistical Framework for Auditing Behavioral Dependence and Induced Bias in LLM Judges

大型语言模型有多独立？一种用于审计行为纠缠和重加权验证者集合的统计框架

Chenchen Kuai, Jiwan Jiang, Zihao Zhu, Hao Wang, Keshu Wu, Zihao Li, Yunlong Zhang, Chenxi Liu, Zhengzhong Tu, Zhiwen Fan, Yang Zhou

机构 * Texas A&M University（德克萨斯农工大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种统计框架，用于审计大型语言模型之间的行为纠缠，通过多分辨率层次结构和信息理论度量，分析行为纠缠对验证性能的影响，并通过重加权验证者集合减少相关偏差。

Agentic Harnesses: LLM-Driven Verification Layers for Robot Autonomy

智能体 harness：面向机器人自主的大语言模型驱动验证层

Rohan Bhagra, Mahantesh Halapannavar, Uddhav Bhattarai

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Pacific Northwest National Laboratory（太平洋西北国家实验室） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 针对机器人规划模型的安全与伦理风险，提出LLM驱动的验证层作为中间件管控计划，实现近85%的类别准确率、97%的对抗性攻击遏制率，为机器人自主提供可靠保障。

Comments 7 pages. Not yet finalized for conference submission

Fair on the Surface? Benchmarking Hidden-Output Fairness Gaps in LLM Recommenders

表面上公平？对LLM推荐器的隐藏输出公平性差距进行基准测试

Chan Aristella Lu, Arya Fayyazi, Junhao Zhang, Saeid Shokoufa, Yue Xing, Zhen Xiang, Kyu Hyung Lee, Mehdi Kamal, Massoud Pedram

机构 * University of Georgia（佐治亚大学） ； University of Southern California（南加州大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Michigan State University（密歇根州立大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 该研究提出首个联合评估LLM推荐器可观测输出与隐藏表示公平性的基准FairGap，发现二者存在根本张力，现有框架无法诊断。

Metanormative Theory for RL-Based Moral Agents

基于强化学习的道德智能体的元规范理论

Aleks Knoks, Marija Slavkovik

机构 * University of Luxembourg（卢森堡大学） ； University of Bergen（卑尔根大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 本文针对强化学习（RL）道德智能体设计中哲学文献被边缘化的问题，提炼元规范理论的相关理念审视RL架构，以明确RL智能体道德行为的判定标准，为评估相关RL方法奠定基础。

Comments The 14th International Workshop on Engineering Multi-Agent Systems (EMAS 2026) held May 25-26, 2026 Co-located with AAMAS 2026 Paphos, Cyprus

Bridging AI Risk Frameworks: Reconciling ISO/IEC 42001, the NIST AI Risk Management Framework, and the EU AI Act into a Uni ed Governance Taxonomy

衔接AI风险框架：将ISO/IEC 42001、美国国家标准与技术研究院AI风险管理框架（NIST AI RMF 1.0）及欧盟AI法案整合为统一治理分类体系

Vinod Dhiman

专题命中 AI治理与伦理 ：trustworthy(abstract)；分类 cs.CY

AI总结 本文整合ISO/IEC 42001、NIST AI RMF和欧盟AI法案，构建统一AI治理分类体系，提出实施模型与示例，助力组织同时满足三者要求且无需重复付出。

Comments 17 pages, 5 tables

Designing for Ethical AI: HCI Feature Considerations to Improve Fairness and User Experience in AutoML use for Human Resources

面向伦理人工智能的设计：用于人力资源的自动机器学习（AutoML）中提升公平性与用户体验的人机交互（HCI）功能考量

Sundaraparipurnan Narayanan

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 该论文结合多视角研究AutoML在人力资源招聘中的公平性，发现现有平台存在缺陷，提出五维度HCI公平评估框架，建议将公平性嵌入AutoML设计以提升伦理可持续性。

Comments 295 pages; Doctoral Thesis;28 figures; 42 tables; 248 references

Reinforcement Learning for Freeway Lane-Change Regulation via Connected Vehicles

基于网联车辆的高速公路车道变更调控强化学习方法

Ke Sun, Huan Yu

专题命中 AI治理与伦理 ：safety(abstract)

AI总结 针对低自动驾驶渗透率下车道变更控制适用性受限的问题，提出基于多智能体强化学习的网联车辆高速公路车道变更调控框架，可提升交通效率并保障安全。