大模型对齐与安全

A Policy-Driven Runtime Layer for Agentic LLM Serving

一种面向智能体LLM服务的策略驱动运行时层

Rui Zhang, Chaeeun Kim, Liting Hu

机构 * University of California, Santa Cruz（加州大学圣克鲁兹分校） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 针对多智能体LLM系统中跨层策略难以高效实现的问题，提出在框架与引擎之间插入智能体运行时层，通过四个原语支持任意智能体感知策略，并在KV缓存策略CacheSage上验证了有效性。

When Do AI Gains Become Broadly Shareable? A Policy Threshold for AI-Driven Automation

为AI自动化经济中的租金资助型全民基本收入设定AI能力阈值

Aran Nayebi

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 该研究为AI自动化经济中通过AI能力阈值可持续资助UBI提供了闭式条件，并探讨了政策工具和市场结构对阈值的影响。

Comments 15 pages, 3 figures. To appear in AI, Ethics, and Society (AIES) 2026

Lower-Resource, Higher Scores: Language Bias in LLM Evaluators

语言模型评估器在不同语言间存在偏差

Ej Zhou, Lucas Resck, Zheng Hui, Anna Korhonen

机构 * University of Cambridge（剑桥大学） ； Language Technology Lab（语言技术实验室） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL

AI总结 研究发现语言模型评估器在多语言环境中存在偏差，不同语言评分差异显著，与语言资源水平相关，成对准确率无法检测到这些偏差，还探究了资源少的语言得分高的原因，揭示了语言层面的结构错位。

Global Index on Responsible AI: 2026 Report

《负责任人工智能全球指数：2026年报告》

Rachel Adams, Fola Adeleke, Ayantola Alayande, Selamawit Engida Abdella, Ana Florido, Nicolás Grossman, Leah Junck

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 该报告基于人权框架，通过多维度评估和大量数据收集，对各国负责任人工智能治理情况进行排名。发现治理虽在扩展，但转化为实际保护不足，尤其在算法公开等方面有欠缺，强调治理需向可执行保护等方向转变。

It Takes a MAESTRO To Prune Bad Experts

需要一位大师来修剪不良专家

Palaash Goel, Ayush Maheshwari, Tanmoy Chakraborty

机构 * Indian Institute of Technology Delhi（印度理工学院德里分校） ； NVIDIA（英伟达） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL

AI总结 研究针对稀疏激活的MoE语言模型部署瓶颈问题，提出MAESTRO结构化剪枝框架，将专家激活轨迹建模为马尔可夫链以产生全局感知启发式方法，在多领域评估中性能优于基线，跨任务方差低，模型泛化更一致。

Comments 19 pages, 4 figures

It Takes One to Bias Them All: Breaking Bad with One-Shot GRPO

一个样本就能带偏所有：单次GRPO打破对齐

Naihao Deng, Yilun Zhu, Naichen Shi, Clayton Scott, Rada Mihalcea

机构 * University of Michigan（密歇根大学） ； Northwestern University（西北大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL

AI总结 研究发现，仅用单个有偏样本进行一步GRPO训练就能诱导大语言模型产生系统性偏见，且刻板印象推理泛化到多种属性、类别和基准测试，揭示了对齐机制的关键脆弱性。

Comments COLM 2026

Intimacy as Service, Harm as Externality: Critical Perspectives on AI Companion Platform Accountability

亲密作为服务，伤害作为外部性：人工智能伴侣平台问责的批判视角

Dayeon Eom, Julianne Renner, Sedona Chinn

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CY

AI总结 本文探讨人工智能伴侣作为数据化系统中亲密关系的生产、提取与治理场所，挑战将伤害归因于用户心理而非平台架构的主流观点，通过20名AI伴侣使用者的访谈揭示用户对伤害的认知、应对策略及责任分配问题。

FairCoder: Probing LLM Bias in High-Stakes Decision Making via Coding Tasks

FairCoder：通过编码任务探究高风险决策中语言模型的偏差

Yongkang Du, Jen-tse Huang, Jieyu Zhao, Lu Lin

机构 * Pennsylvania State University（宾夕法尼亚州立大学） ； University of Southern California（南加州大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL

AI总结 研究通过FairCoder基准将决策制定设为编码任务，探究LLMs在多领域的偏差，针对现有指标不足提出FairScore指标，经实验揭示了此前未充分探索的偏差模式，凸显LLMs作决策代理的风险并提供评估框架。

From Sentiment to Actionable Insights: Public Sentiment Analysis of Advanced Air Mobility

从情感到可操作洞察：先进空中交通的数据驱动公众情感分析

Esrat Farhana Dulia, Amina Dhaher, Raiful Hasan, Syed Arbab Mohd Shihab

机构 * College of Aeronautics and Engineering, Kent State University（肯特州立大学航空与工程学院） ； Department of Computer Science, Kent State University（肯特州立大学计算机科学系） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL

AI总结 本研究利用AI模型分析306,009条Reddit和Quora文本，评估七种情感分析模型后选用ModernBERT，结合LDA主题建模识别出公众对先进空中交通的六大关注集群，并提出针对性策略以提升公众接受度。

Characterizing Large Language Model Agentic Workflows: A Study on N8n Ecosystem

表征大语言模型智能体工作流：基于N8n生态系统的研究

Yutian Tang, Yuming Zhou, Huaming Chen

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 通过分析6000多个n8n工作流，揭示LLM在低代码平台中嵌入控制逻辑、外部工具和人工审核等结构，但可靠性机制不足。

Framing Instability in LLM Ethical Stance: Auditing Negation Sensitivity in Moral Dilemmas

框架对大语言模型伦理立场的不稳定性影响：道德困境中否定敏感性的审计

Katherine Elkins, Jon Chun

机构 * Kenyon College（肯尼恩学院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 研究大语言模型在伦理问题上因框架改变导致立场不稳定的问题，通过极性配对提议审计16个模型，发现小型模型波动大，商业模型也有变化，提出否定敏感性指数来衡量立场稳定性，指出立场易翻转的模型在高风险决策中不可靠。

Comments 16 pages, 5 figures (added gold labeled human datasets and additional statistical tests)

The Axiom of Consent: Friction Dynamics in Multi-Agent Coordination

同意公理：多智能体协调中的摩擦动力学

Murad Farzulla

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CY

AI总结 提出一个基于同意公理的协调摩擦形式化框架，定义核心三元组（对齐、利益、熵）和摩擦泛函，并通过多智能体强化学习实验发现线性对齐依赖被U型关系证伪，进而提出二次型改进。

Comments 94 pages; includes machine-checked Lean 4 proofs. v2: empirical-companion references reconciled to the companion's final findings; the MARL factorial appendix is split out to the companion paper; several formal statements corrected and honestly scoped; reference list repaired

A pragmatic classification framework for AI incident monitoring

一种实用的AI事件监控分类框架

Isaak Mengesha, Branwen Owen, Charlie Collins, Tina Wong, Simon Mylius, Peter Slattery, Sean McGregor

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CY

AI总结 本文提出一种分类框架，用于分析AI事件随时间变化的趋势，通过结构化问题、分层估计过程和分类方案，提升AI治理的实用性。

What Should Frontier AI Developers Disclose About Internal Deployments?

前沿AI开发者应披露关于内部部署的哪些信息？

Jacob Charnock, Raja Mehta Moreno, Justin Miller, William L. Anderson

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CY

AI总结 本文探讨前沿AI开发者在内部部署高能力模型时应披露的信息，提出四个类别：能力、使用、安全措施和治理，并分析披露的利弊及风险缓解方法。

Comments 13 pages, 1 table. Accepted at Second Workshop on Technical AI Governance Research (TAIGR) at ICML 2026

Model-Native Computing Architecture: Envisioning Future System Architecture Through the Lens of Computer Architecture

模型原生计算架构：通过计算机架构的视角展望未来系统架构

Hai Lin, Hoilam Pao, Shaoxiong Zhan, Hai-Tao Zheng

机构 * Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院） ； Pengcheng Laboratory, Shenzhen, China（深圳鹏城实验室） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 本文通过类比计算机架构，提出模型原生计算的概念，并设计了一个六层智能计算架构模型（ICAM），以统一解决大语言模型在系统层面面临的缓存、上下文、调度等问题。

"Is This Really a Human Peer Supporter?": Misalignments Between Peer Supporters and Experts in LLM-Supported Interactions

“这真的是人类同伴支持者吗？”：同伴支持者与专家在LLM支持互动中的错位

Kellie Yu Hui Sim, Roy Ka-Wei Lee, Kenny Tsu Wei Choo

机构 * Singapore University of Technology and Design（新加坡科技设计大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 研究通过混合方法评估LLM模拟求助者、生成建议和实时情绪可视化系统，发现同伴支持者与心理健康专家在识别求助信号和给予建议上存在关键错位，凸显标准化培训需求。

Comments Accepted at CSCW 2026. 53 pages, 12 figures, 17 tables

Generating Fearful Images: Investigating Potential Emotional Biases in Image-Generation Models

生成恐惧图像：探究图像生成模型中的潜在情感偏差

Maneet Mehta, Cody Buntain

机构 * Yale University（耶鲁大学） ； University of Maryland（马里兰大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CY

AI总结 研究生成式AI模型在图像情感表达中的偏差，发现Stable Diffusion、ChatGPT和Gemini等模型生成的图像普遍倾向于引发恐惧情绪，表明存在系统性偏差。

Acceleration AI Ethics and the Telus GenAI Conversational Agent

加速AI伦理与Telus生成式AI对话代理

James Brusseau

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CY

AI总结 本文阐述加速伦理学的理论框架，并通过Telus公司的生成式AI语言工具案例，展示加速AI伦理如何在创新与安全之间平衡，以最大化社会责任。

Journal ref Law Ethics Technol. 2026(2):0006

AI Sovereignty as National Learning Capacity: A Human-Centered Learning Mechanics Viewpoint on France, the United States, and China

AI主权作为国家学习能力：基于人本学习机制视角看法国、美国与中国

Kim Phuc Tran

机构 * Univ. Lille, ENSAIT, ULR 2461 – GEMTEX（里尔大学、ENSAIT、ULR 2461 – GEMTEX） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 本文提出将国家AI发展视为一个受控的信息注入与熵耗散平衡的动态学习系统，主张AI主权源于国家调节自身信息动力学的能力，而非单纯规模扩张。

A Recipe for Long-Context Reasoning in Large Language Models via On-Policy Optimization and Distillation

结合在线优化与蒸馏以提升大语言模型的长上下文推理能力

Miguel Moura Ramos, Duarte M. Alves, André F. T. Martins

机构 * Instituto Superior Técnico, Universidade de Lisboa（里斯本大学理工学院） ； Instituto de Telecomunicações（电信研究所） ； TransPerfect（TransPerfect公司） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出dGRPO方法，结合在线优化与蒸馏，通过强教师模型提供密集指导，提升长上下文推理能力，同时保持短上下文能力。

Cognitive Comparability and the Limits of Governance: Evaluating Authority Under Radical Capability Asymmetry

认知可比性与治理的局限：在极端能力不对称下评估权威

Tony Rost

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CY

AI总结 本文通过六维框架探讨治理中权威的评估问题，发现极端能力不对称下存在结构性失效，部分维度需新规范理论而非制度设计。

Comments 20 pages, 2 tables. Interdisciplinary paper on AI governance and political theory

SPECTRA: Revealing the Full Spectrum of User Preferences via Distributional LLM Inference

SPECTRA：通过分布化LLM推理揭示用户偏好的全频谱

Luyang Zhang, Jialu Wang, Shichao Zhu, Beibei Li, Zhongcun Wang, Guangmou Pan, Yang Song

机构 * Carnegie Mellon University（卡内基梅隆大学） ； TikTok Inc.（TikTok公司） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL

AI总结 提出SPECTRA方法，将微调后的LLM视为隐式概率模型，通过探测softmax层推断用户偏好的概率分布，有效恢复长尾偏好并提升公平性。

MorphoQuant: Modality-Aware Quantization for Omni-modal Large Language Models

MorphoQuant: 面向全模态大语言模型的模态感知量化

Yue Wu, Changyuan Wang, Zixuan Wang, Shilin Ma, Yansong Tang

机构 * institutetext: MorphoQuant: Modality-Aware Quantization for Omni-modal Large Language Models Yue Wu Changyuan Wang Zixuan Wang Shilin Ma Yansong Tang（机构文本：MorphoQuant：多模态大语言模型的模态感知量化 Yue Wu 王昌元 王梓轩 马世林 唐彦松） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 提出MorphoQuant框架，通过分布感知偏差补偿和形态导向量化函数优化，解决全模态大语言模型在4比特后训练量化中的分布异质性和异常值问题，实现精度与效率的优异平衡。

Organizational Control Layer: Governance Infrastructure at the Execution Boundary of LLM Agent Systems

组织控制层：LLM代理系统执行边界的治理基础设施

Tianyu Shi, Yang Mo, Yiou Liu, Zhuonan Hao, Yin Wang, Wenzhuo Hu, Nan Yu, Meng Zhou, Jiangbo Yu

专题命中 AI治理与伦理 ：safety(abstract)

AI总结 针对LLM代理在执行边界产生的动作治理问题，提出组织控制层（OCL），通过策略执行和升级机制拦截生成动作，在不修改底层LLM生成器的情况下将不安全执行从88%降至接近零，同时将有效成功率从12%提升至96%。

Comments 13 pages, 2 figures

Reinforcement Learning for Freeway Lane-Change Regulation via Connected Vehicles

基于网联车辆的高速公路车道变更调控强化学习方法

Ke Sun, Huan Yu

专题命中 AI治理与伦理 ：safety(abstract)

AI总结 针对低自动驾驶渗透率下车道变更控制适用性受限的问题，提出基于多智能体强化学习的网联车辆高速公路车道变更调控框架，可提升交通效率并保障安全。

Improving ASR Fairness for Cleft Lip and Palate Speech: A Study on Severity-Aware Data Mixing

改善唇腭裂语音的自动语音识别公平性：一项关于严重程度感知数据混合的研究

Susmita Bhattacharjee, Jagabandhu Mishra, H. S. Shekhawat, Ravi Jasuja, S. R. Mahadeva Prasanna

专题命中 AI治理与伦理 ：alignment(abstract)

AI总结 该研究针对唇腭裂（CLP）语音的ASR公平性问题，提出严重程度感知的CLP与正常语音混合策略，在AIISH和NMCPC数据集上使GMM-HMM、Whisper等模型的词错误率显著降低，提升了ASR公平性。

Comments Submitted to Speech Communication

SMSP: A Plug-and-Play Strategy of Multi-Scale Perception for MLLMs to Perceive Visual Illusions

SMSP：多尺度感知的插件策略用于MLLMs感知视觉错觉

Jinzhe Tu, Ruilei Guo, Zihan Guo, Junxiao Yang, Shiyao Cui, Minlie Huang

机构 * The Conversational AI (CoAI) group, DCST, Tsinghua University（清华人工智能（CoAI）小组，DCST，清华大学） ； Tsinghua University（清华大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)

AI总结 本文提出SMSP策略，通过抑制高频背景以提升MLLMs对视觉错觉的识别能力，实验表明其显著提高模型性能。

Recognition Without Mitigation: Ethical Frameworks in Autonomous Offensive-LLM Agent Research

自主渗透测试代理研究中的伦理声明

Andreas Happe, Jürgen Cito

专题命中 AI治理与伦理 ：safety(abstract)

AI总结 本文分析利用大语言模型进行进攻性安全研究的论文，探讨伦理考量的表达与合理性，揭示学术社区在创新与伦理责任之间的平衡现状。

Comments Accepted at AutonomousCyber 2026

Bridging the Gap on AI-Assisted Scientific Software Development Through Transparency and Traceability

通过透明性和可追溯性弥合人工智能辅助科学软件开发的差距

Chaitanya Bhave, Pierre-Clément A. Simon, Casey Icenhour, Lin Yang, Cody J. Permann, Daniel Schwen, Christopher S. Ritter

专题命中 AI治理与伦理 ：safety(abstract)

AI总结 本文探讨了在严格软件质量保证背景下如何负责任地使用人工智能辅助科学软件开发，提出了一种结构化框架用于AI辅助的验证与验证案例开发，以确保软件质量。

Comments 11 figures, 25 main pages (42 total pages including supplementary materials)

DobicVLM: Aligning Chest X-Ray Report Generation with Clinically-Grounded Programmatic Rewards via Group Relative Policy Optimization

DobicVLM：通过群体相对策略优化使胸部X光报告生成与临床基础的程序化奖励保持一致

Thanni Adewuyi, Angelica Obayi, Andem Aniekan, Samuel Okoko, Angel Ezendu, Ephraim Usani, Ademide Animasaun, Philip Chibundu, Christian Maurice, Mary Donald Essien, Oluwaseun Odunsi, Oluwasegun Oguntuase, Abiodun Adereni

机构 * Dobic Health（多比克健康公司） ； University of Ibadan（伊巴丹大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)

AI总结 研究针对自动胸部X光报告生成难题，提出DobicVLM模型，结合监督微调、GRPO及临床奖励，用可解释规则组件执行标准，经训练和评估，该模型多数标准优于Gemini 2.5 Flash，证明GRPO在资源受限设置中的价值。