大模型对齐与安全 - arXivDaily 专题

2607.15480 2026-07-20 cs.AI 新提交 79%

A Critical Analysis of Trustworthy AI Tools, Mark Frameworks, and the Implementation Chasms

对可信人工智能工具、标记框架及实施差距的批判性分析

Michael Papademas, Xenia Ziouvelou, Kostas Karpouzis, Vangelis Karkaletsis

机构 * Panteion University of Social and Political Sciences（潘泰翁社会与政治科学大学）

专题命中 AI治理与伦理：trustworthy(title,abstract)；分类 cs.AI

AI总结研究对可信人工智能工具和标记框架进行批判性分析，利用经合组织数据集，通过实证映射等方法找出伦理重点等方面的不对称，发现当前存在的问题，建议扩大伦理目标、贯穿伦理于生命周期并促进多利益相关者参与，以推动人工智能治理。

2607.16130 2026-07-20 cs.CY cs.AI cs.SY eess.SY 新提交 62%

A Methodology for Auditable Trustworthiness Levels in AI Lifecycle Governance

人工智能生命周期治理中可审计可信度水平的一种方法

Andrea Ferrario

机构 * Institute of Biomedical Ethics and History of Medicine, University of Zürich（生物医学伦理与医学史研究所，苏黎世大学）； SUPSI, Dalle Molle Institute for Artificial Intelligence (IDSIA)（SUPSI人工智能研究所）； ETH Zürich（苏黎世联邦理工学院）

专题命中 AI治理与伦理：trustworthy(abstract)；分类 cs.AI、cs.CY

AI总结研究人工智能治理中系统可信度判断问题，提出轻量级方法，含形式框架与治理程序两部分，用决策树建模，能产生可信度平台等，通过合成轨迹说明方法可支持合规文档编制和生命周期监测。

Comments 32 pages; 7 figures

2607.15282 2026-07-20 cs.HC cs.AI cs.CL 新提交 62%

Empathy as Predictive Misalignment Tolerance: A Co-Regulation Framework and the Regime Structure of Dialogue Repair

作为预测性偏差容忍度的同理心：一个协同调节框架和对话修复的机制结构

Molood Arman

机构 * Independent Researcher（独立研究者）

专题命中 AI治理与伦理：alignment(abstract)；分类 cs.CL、cs.AI

AI总结研究将同理心重新定义为预测性偏差容忍度，提出解释性错误容忍（IET）框架，通过两个计算探针评估。结果发现修复存在依赖机制的结构，揭示噪声水平等因素间相互作用，表明长时间互动中同理心是调节分歧动态，促使共情AI设计转向管理解释距离。

2607.15888 2026-07-20 cs.CY cs.HC 新提交 57%

Red Light, Grey Zone: A Multi-Perspective Interactive Narrative for Autonomous Driving Ethics

红灯，灰色地带：自动驾驶伦理的多视角交互式叙事

Mengyi Wei, Nianhua Liu, Chenyu Zuo, Liqiu Meng

专题命中 AI治理与伦理：safety(abstract)；分类 cs.CY

AI总结研究自动驾驶伦理这一公共问题，提出多视角交互式叙事方法，通过“红灯，灰色地带”原型展开研究。经探索性用户研究发现，该方法能支持非专家对人工智能系统中的问责、证据和治理进行反思，尤其在责任判断等方面有积极效果。

2606.10931 2026-07-20 cs.CL 版本更新 57%

It Takes One to Bias Them All: Breaking Bad with One-Shot GRPO

一个样本就能带偏所有：单次GRPO打破对齐

Naihao Deng, Yilun Zhu, Naichen Shi, Clayton Scott, Rada Mihalcea

机构 * University of Michigan（密歇根大学）； Northwestern University（西北大学）

专题命中 AI治理与伦理：alignment(abstract)；分类 cs.CL

AI总结研究发现，仅用单个有偏样本进行一步GRPO训练就能诱导大语言模型产生系统性偏见，且刻板印象推理泛化到多种属性、类别和基准测试，揭示了对齐机制的关键脆弱性。

Comments COLM 2026

2604.06381 2026-07-20 cs.HC cs.CY 版本更新 57%

Intimacy as Service, Harm as Externality: Critical Perspectives on AI Companion Platform Accountability

亲密作为服务，伤害作为外部性：人工智能伴侣平台问责的批判视角

Dayeon Eom, Julianne Renner, Sedona Chinn

专题命中 AI治理与伦理：safety(abstract)；分类 cs.CY

AI总结本文探讨人工智能伴侣作为数据化系统中亲密关系的生产、提取与治理场所，挑战将伤害归因于用户心理而非平台架构的主流观点，通过20名AI伴侣使用者的访谈揭示用户对伤害的认知、应对策略及责任分配问题。

2607.15615 2026-07-20 cs.CV 新提交 50%

Region-Grounded Vision-Language Learning for Detection-Guided Mammographic Lesion Classification

用于检测引导的乳腺钼靶病变分类的区域基础视觉语言学习

Zhengbo Zhou, Jiren Li, Dooman Arefan, Margarita Zuley, Shandong Wu

专题命中 AI治理与伦理：alignment(abstract)

AI总结针对乳腺钼靶病变分类，提出区域基础视觉语言学习方法，先通过区域-文本对比预训练对齐特征，引入多组件目标减轻偏差，再联合优化辅助病变检测头，实验表明该方法在多设置下性能优于相关方法。

2607.15862 2026-07-20 math.OC 新提交 50%

PriEco-DRL: Joint Optimization of Electric-Bus Eco-Driving and Transit-Priority Adaptive Signals via Deep Reinforcement Learning

PriEco-DRL：基于深度强化学习的电动公交生态驾驶与公交优先自适应信号联合优化

Dingshan Sun, Ang Li, Chaopeng Tan, Zicheng Su, Wanjing Ma, Marco Rinaldi

专题命中 AI治理与伦理：safety(abstract)

AI总结本文提出PriEco-DRL框架，运用深度强化学习将电动公交生态驾驶与公交优先自适应信号控制相结合，采用优先级加权最大压力控制器及结构化奖励，经集中训练和分散执行，实验表明其能降低电动公交能耗，实现能量-时间权衡。

2510.07070 2026-07-20 cs.SE 50%

Building an Open AIBOM Standard in the Wild

在真实环境中构建开放的AIBOM标准

Gopi Krishnan Rajbahadur, Keheliya Gallaba, Elyas Rashno, Arthit Suriyawongkul, Karen Bennet, Kate Stewart, Ahmed E. Hassan