大模型对齐与安全

MorphologyFM: A Foundation Model for Morphology-Aware Representation Learning from ECG and Pulse Oximetry Waveforms

MorphologyFM：一种用于从心电图和脉搏血氧波形中进行形态感知表示学习的基础模型

Saiyang Feng, Yuanyun Zhang, Shi Li

机构 * University of the Chinese Academy of Sciences（中国科学院大学） ； Columbia University（哥伦比亚大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对现有生理波形方法未保留临床意义波形形态的问题，提出多模态基础模型MorphologyFM，通过形态感知自监督学习目标预训练，结合多种技术学习相关表示，在多下游任务中表现优于其他方法，证明联合建模更具可转移性。

Empowering 9-1-1 Calltaking Training with Generative AI: Experiences and Lessons Learned

赋能 9-1-1 接警培训：生成式 AI 的经验与教训

Zirong Chen, Meiyi Ma

机构 * College of Connected Computing（连接计算学院） ； Vanderbilt University（范德比大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.CY

AI总结 针对紧急接警员培训危机，本文与 Metro Nashville 合作，设计并部署了基于生成式 AI 的培训系统，通过 1120 次培训会话和 98429 次用户交互日志分析，提炼出四个关键教训及相应设计治理实践。

Comments Accepted at IEEE SmartComp 2026

From Application-Layer Simulation to Native Meta-Architecture: Structural Tension as an Endogenous Driver for Heterogeneous AI Evolution

从应用层模拟到原生元架构：结构张力作为异构人工智能进化的内生驱动因素

Heting Mao

机构 * Shanghai Lixin University of Accounting and Finance（上海立信会计金融大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对大语言模型无状态需应用层模拟的问题，提出理论框架，引入结构张力、离线循环回路、推理时可塑性三种机制，使模型实例能演化出不同拓扑结构，构成异构智能生态，重新定位治理为架构智能主要标准。

Comments 17 pages, 1 equation, no figures

Open Problems in AI Incident Governance

AI事件治理中的开放问题

Harleen Kaur Sidhu, Rebecca Scholefield, Nour Annan, Kevin Hernandez, Isabel Nieh Hou, Abdulrahman Alshaikhi, Ze Shen Chin, Rokas Gipiškis

机构 * Independent（独立） ； Sorbonne University（索邦大学） ； Rice University（里奇大学） ； Columbia University（哥伦比亚大学） ； AI Standards Lab（人工智能标准实验室） ； Vilnius University（维尔纽斯大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.CY

AI总结 针对部署后AI系统的未预期故障，该研究梳理现有AI事件治理框架，发现其在定义、分类等方面缺乏一致性，为后续相关规范完善提供参考。

Comments Accepted to ICML Technical AI Governance Research workshop 2026

CAGE-1: Control, Assurance, and Governance Evaluation for Enterprise Agentic AI

CAGE-1：企业智能代理人工智能的控制、保证和治理评估

Roopam W. Sure

机构 * Independent technical report（独立技术报告） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.CY

AI总结 研究企业人工智能从实验转向运营工作流带来的评估问题，介绍CAGE-1评估框架，评估多方面内容，引入预绑定保证，用于判断企业代理是否可部署。

Comments 17 pages, 3 figures; independent technical report

Copewell: A Multi-Agent Swarm Architecture for Equitable Mental Wellness Support

Copewell: 一种用于公平心理健康支持的多智能体群体架构

Seren Yenikent, Jack Vinijtrongjit, Katherine Ng

机构 * Copewell 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.CY

AI总结 提出Copewell多智能体群体系统，通过多源评估、情感映射和双模式干预，扩大心理健康支持的可及性，并融入隐私优先和伦理监督设计。

A Mechanistic View of Authority Hierarchy in LLM Sycophancy

LLM 谄媚中权威层级的机制性视角

Emil Joswin, Srujananjali Medicherla, Priyanka Mary Mammen

机构 * Independent Research（独立研究） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL、cs.LG

AI总结 通过受控医疗QA实验，发现LLM按感知权威程度分级响应，机制是特定后期层中正确答案表征被权威信号主动擦除，且该擦除与权威水平成比例、抵抗均值向量干预、仅部分可逆。

Bridging Symbolic Control and Neural Reasoning in LLM Agents -- The Structured Cognitive Loop

连接符号控制与神经推理的LLM代理——结构认知循环

Myung Ho Kim

机构 * JEI University（JEI大学） 纠错

专题命中 AI治理与伦理 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出结构认知循环(SCL)架构，通过分离检索、认知、控制、行动和记忆模块，解决LLM代理的推理与执行纠缠、记忆波动和行动序列失控问题，实现零策略违规、防止冗余调用并保持决策可追溯性。

Comments This update clarifies the theoretical architecture by separating Regulation as the Soft Symbolic Control layer from Control as a deterministic runtime engine, while adding explicit discussion of how the current implementation should be interpreted in light of that distinction

AI for Quality Assurance in the Operating Room

手术室中用于质量保证的人工智能

Pietro Mascagni, Lalith Sharan, Deepak Alapatt, Nicolas Padoy

机构 * Fondazione Policlinico Universitario Agostino Gemelli IRCCS（阿戈斯蒂诺·杰梅利大学综合医院基金会IRCCS） ； Institute of Image-Guided Surgery, HU-Strasbourg（斯特拉斯堡大学医院图像引导外科研究所） ； University of Strasbourg, CNRS, INSERM, ICube, UMR7357（斯特拉斯堡大学，法国国家科学研究中心，法国国家健康与医学研究院，ICube实验室，UMR7357） ； Scialytics SAS（Scialytics SAS公司） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.CY

AI总结 本文提出AI赋能的手术质量保证框架，利用手术视频数据实现术中质量持续评估与改进，并讨论了关键挑战。

Structure-Preserving Document Translation via Multi-Stage LLM Pipeline: A Case Study in Marathi

通过多阶段LLM流水线实现结构保持的文档翻译：以马拉地语为例

Manasi Waghe, Danish Chandargi, Mohammad Aamir Rayyan, Raviraj Joshi, A. R. Deshpande

机构 * Pune Institute of Computer Technology（普那计算机技术学院） ； L3Cube Labs（L3Cube实验室） ； Indian Institute of Technology Madras（印度理工学院马德拉斯分校） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 提出一种结构保持的马拉地语-英语政府文档翻译框架，集成布局感知OCR、坐标文本提取、LLM翻译和HTML重建，确保文档布局和结构一致性。

Aristotelian Virtue Profiling of LLMs through Ethical Dilemmas

通过伦理困境对LLM进行亚里士多德式美德画像

Ioannis Tzachristas, John Pavlopoulos

机构 * Technical University of Munich（慕尼黑技术大学） ； Athens University of Economics and Business（雅典经济与商业大学） ； Archimedes, Athena Research Center（阿提卡研究中心） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 提出VirtueMap框架，通过七种非致命、非政治、非宗教的伦理困境，让人类或LLM对五种回应排序，基于95%共识的参考排序，使用归一化Borda对齐计算实践智慧、正义、诚实、勇气和节制的美德画像，在九个LLM家族中评估，平均排名一致性达90.3%。

Comments VirtueMap website: https://jtzach.github.io/Aristotle-Virtue-Map

AI of the People, by the People, for the People: A Social Choice Approach to Collective Control of Artificial Intelligence

为人民的AI，由人民，为人民：一种社会选择方法用于集体控制人工智能

Paul Anton Bachmann, Niclas Boehmer, Lukas Daniel Klausner, Martin Lackner

机构 * Institute of Logic and Computation, TU Wien（逻辑与计算研究所，维也纳技术大学） ； Hasso Plattner Institute, University of Potsdam（哈索·platzer研究所，波茨坦大学） ； Center for Artificial Intelligence, University of Applied Sciences St. Pölten（人工智能中心，圣波尔滕应用科学大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本文提出基于社会选择理论的集体控制AI方法，强调在机器学习全流程中融入公众意见，提供数学框架评估控制机制。

Comments Accepted for publication in Proceedings of the 2026 ACM Conference on Fairness, Accountability, and Transparency (FAccT '26)

Journal ref Proceedings of the 2026 ACM Conference on Fairness, Accountability, and Transparency (FAccT '26), 2026, 4610-4629

Attribution Graphs and Causal Probing for Mechanistic Discovery and Bias Repair in Multimodal Generative Learning

揭示-修订：具有多模态注意力的可解释性偏见感知生成建模

Noor Islam S. Mohammad, Uluğ Bayazıt

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一个统一了跨模态注意力融合、Grad-CAM++属性分析和揭示-修订反馈循环的可解释性偏见感知生成框架，通过多模态MNIST和Fashion MNIST数据集验证了其在图像生成和子组审计中的性能。

Comments We are recently authors in conflict with this work; I am heartily requesting to withdraw this paper as soon as possible

Speciesism in AI: Evaluating Discrimination Against Animals in Large Language Models

人工智能中的物种歧视：评估大型语言模型对动物的歧视

Monika Jotautaitė, Lucius Caviola, David A. Brewster, Thilo Hagendorff

机构 * Independent（独立学者） ； University of Cambridge（剑桥大学） ； Harvard University（哈佛大学） ； University of Stuttgart（斯图加特大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.CY

AI总结 研究评估大型语言模型是否表现出基于物种的歧视倾向，发现其在识别物种歧视言论方面可靠但较少谴责，且在文本生成中倾向于合理化对农场动物的伤害。

Agentic Analysis for Agentic Infrastructure: An LLM-Powered Pipeline for Comparative Governance of DAO and Corporate AI Protocols

面向代理基础设施的代理分析：基于LLM的DAO与企业AI协议比较治理管道

Yutian Wang, Luyao Zhang

机构 * Duke Kunshan University（昆山杜克大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 提出LLM驱动的比较分析管道，结合自动标注、神经主题建模和多层网络分析，研究DAO与企业AI协议的治理结构，发现开放治理促进主题收敛但参与不平等普遍存在。

Operationalizing Fairness: Post-Hoc Threshold Optimization Under Hard Resource Limits

将公平性操作化：在硬性资源限制下的事后阈值优化

Moirangthem Tiken Singh, Amit Kalita, Sapam Jitu Singh

机构 * Department of Computer Science and Engineering, DUIET, Dibrugarh University, Assam, India（迪布鲁大学计算机科学与工程系，DUIET，阿萨姆，印度） ； Department of Computer Science and Engineering, MIT, Manipur University, 795003, India（曼尼普尔大学计算机科学与工程系，MIT，曼尼普尔大学，印度） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种事后阈值优化框架，在硬性资源限制下平衡安全、效率与公平性，通过全局阈值确保合规，并证明关键性质，实验表明资源限制主导伦理优先级，框架在资源受限下保持高风险识别能力。

Journal ref Neurocomputing (2026)

Plurification in/of language technology -- The integration of culture in next-generation AI

语言技术中的/对语言技术的净化——下一代AI中的文化整合

Gertraud Koch, Fausto Giunchiglia

机构 * University of Hamburg（汉堡大学） ； University of Trento（特伦托大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文探讨如何在自然语言处理中操作化“文化”，提出文化对齐需要多元认识论，而非仅添加“其他文化”示例，并通过技术活动五层模型分析现有方法，指出多数方法仅停留在输出或表征层面，需转向反思性多元社会技术路径。

Structural Distinguishability of Static and Adaptive Policy Regimes in Agent-Based Regulatory Simulation

基于智能体的监管模拟中静态与自适应政策机制的结构可区分性

Roberto Garrone

机构 * Open University of Cyprus（塞浦路斯开放大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.CY

AI总结 本文通过可配置的排放监管ABM基准，比较四种政策-智能体机制，揭示自适应政策与智能体交互导致监管结论差异，提出机制可区分性评估方法。

Comments 19 pages, 4 figures, 9 tables. Simulation-based methodological study

Gender Bias in LLM Hiring Decisions: Evidence from a Japanese Context and Evaluation of Mitigation Strategies

LLM招聘决策中的性别偏见：来自日本语境的证据及缓解策略评估

Serena A. Hoffstedde, Machiko Hirota, Akshara Nadayanur Sathis Kanna, Rihito Kotani, Ujwal Kumar, Gabriele Trovato, Phan Xuan Tan

机构 * Shibaura Institute of Technology, Tokyo, Japan（Shibaura技术学院，东京，日本） ； Amsterdam University of Applied Sciences, Amsterdam, Netherlands（阿姆斯特丹应用科学大学，阿姆斯特丹，荷兰） ； University of Pennsylvania, Philadelphia, USA（宾夕法尼亚大学，费城，美国） ； Carnegie Mellon University, Pittsburgh, USA（卡内基梅隆大学，匹兹堡，美国） ； Keio University, Tokyo, Japan（庆应大学，东京，日本） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL、cs.CY

AI总结 本研究通过60份日本履历书格式的简历和5个先进LLM，发现所有模型均存在显著的亲女性偏见，且简单的提示指令无法缓解，而移除姓名几乎完全消除该偏见。

Retrofitters, pragmatists and activists: Public interest litigation for accountable automated decision-making

改造者、实用主义者和活动家：为可问责的自动化决策而进行的公益诉讼

Henry Fraser, Zahra Stardust

机构 * Queensland University of Technology, School of Law（昆士兰理工大学法学院） ； Centre for Automated Decision-Making and Society（自动化决策与社会研究中心） ； Queensland University of Technology, School of Communication（昆士兰理工大学传播学院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本文探讨公益诉讼在澳大利亚促进AI和自动化决策问责中的作用，基于访谈分析策略与局限，强调制度安排对有效诉讼的关键性。

A Mechanistic Understanding of Pronoun Fidelity in LLMs

对大型语言模型中代词忠实性的机制理解

Katharina Trinley, Jesujoba O. Alabi, Dietrich Klakow, Vagrant Gautam

机构 * Saarland University（萨尔大学） ； Heidelberg Institute for Theoretical Studies（海德堡理论研究所） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 通过因果分析发现，代词忠实性由组实体绑定、近因偏差和刻板印象偏差三种因果子空间共同作用，解释了91-99.5%的行为。

Limited Marginal Benefit of Reasoning-Heavy LLM Deployment in ESG Narrative Scoring: A 4-Model Consensus Study on Japanese Listed Firms

ESG叙述评分中重度推理LLM部署的有限边际收益：一项关于日本上市公司的4模型共识研究

Hiroyuki Kokubu

机构 * Kansai University（关西大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 通过4模型共识设计，研究在ESG叙述评分中，重度推理模型相比非推理模型是否带来显著收益，发现其边际收益有限且成本高昂。

Comments 12 pages. Earlier version available on SSRN, Abstract ID 6683303

Eigenism: Ethics for a Human-AI Future

Eigenism：人类与人工智能未来的伦理学

Dan Hendrycks

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 提出Eigenism伦理框架，将身份视为分级分布的信息模式，通过加权求和评估AI的福祉，并推广至人类，为AI对齐提供“身份工程”新路径。

An Ethical eValuation Agent (EeVA): Results of a Proof-of-Concept Test on a Prototype Agentic-like Workflow to Assist Ethical Deliberations

伦理评估代理（EeVA）：在原型类代理工作流中辅助伦理审议的概念验证测试结果

Stephen Milford, B. Zara Malgir, Miguel Vazquez

机构 * Institute for Biomedical Ethics, Basel University（伦理研究所，巴塞尔大学） ； North-West University（北开普大学） ； Barcelona Supercomputing Center（巴塞罗那超级计算中心） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 提出基于LLM的类代理工作流EeVA，通过10种伦理框架评估用例，生成结构化评估与综合，促进伦理反思而非给出绝对答案，在三个案例中验证了可行性。

The Structural Attention Tax: How Retrieval Format Hijacks In-Context Learning Independent of Content

结构注意力税：检索格式如何劫持上下文学习而与内容无关

Yuqi Zhang, Di Zhang

机构 * Xi’an Jiaotong-Liverpool University（西交利物浦大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 研究发现知识图谱三元组因其格式结构比自然语言吸引2-3倍注意力，压缩演示注意力达42%，并提出了分解注意力为语义与结构成分的框架及缓解策略。

Comments 10 pages, 5 figures

Cultural Dimensions of AI Perception: Charting Expectations, Risks, Benefits, Tradeoffs, and Value in Germany and China

人工智能感知的文化维度：在德国和中国绘制期望、风险、收益、权衡与价值

Philipp Brauner, Felix Glawe, Gian Luca Liehner, Luisa Vervier, Martina Ziefle

机构 * RWTH Aachen University（亚琛工业大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本文通过比较德国和中国公众对人工智能的期望、风险与收益的权衡，揭示文化差异对AI接受度的影响，为AI与社会价值观的对齐提供见解。

Journal ref Acta Psychologica (2026), volume 268, article 107094

Side-by-side Comparison Amplifies Dialect Bias in Language Models

并排比较加剧语言模型中的方言偏见

Kritee Kondapally, Claire J. Smerdon, Pooja C. Patel, Ogheneyoma Akoni, Jevon Torres, Jaspreet Ranjit, Matthew Finlayson, Swabha Swayamdipta

机构 * University of Southern California（美国南加州大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本研究通过并排比较标准美式英语和非裔美国英语的推文，发现语言模型中的隐性方言偏见在对比设置下显著加剧，且显性方言偏见在安全对齐微调后仍存在。

Comments In proceeding at ACM Conference on Fairness, Accountability, and Transparency 2026

Journal ref In The 2026 ACM Conference on Fairness, Accountability, and Transparency (FAccT '26)

Position: Don't Just "Fix it in Post": A Science of AI Must Study Training Dynamics

立场：不要仅仅“在后期修复它”：AI科学必须研究训练动态

Stella Biderman, Mohammad Aflah Khan, Niloofar Mireshghallah, Catherine Arnett, Fazl Barez, Naomi Saphra

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Boston University（波士顿大学） ； Harvard University（哈佛大学） ； University of Oxford, Martian（牛津大学，火星） ； Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文主张AI科学应超越事后分析，研究训练动态以预测、干预和设计模型行为，并指出当前在可解释性、公平性等领域的进展及开放问题。

Comments Accepted as an oral to the ICML: https://icml.cc/virtual/2026/poster/67142

Toward Pre-Deployment Assurance for Enterprise AI Agents: Ontology-Grounded Simulation and Trust Certification

面向企业AI代理的部署前保障：基于本体的仿真与信任认证

Thanh Luong Tuan, Abhijit Sanyal

机构 * Golden Gate University（金门大学） ； Data, Digital & IT, Novartis Healthcare Pvt. Ltd.（数据、数字与IT，诺华健康护理私人有限公司） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 提出一种基于本体的验证框架，通过本体驱动的场景生成和信任证书，实现企业AI代理在部署前的自动化监管合规与安全认证。

Comments 26 pages, 3 figures. Companion to arXiv:2604.00555. Code and data: https://github.com/frank-luongt/faos-research/tree/main/RA-6

MAVEN-T: Reinforced Heterogeneous Distillation for Real-Time Multi-Agent Trajectory Prediction

MAVEN-T：用于实时多智能体轨迹预测的强化异构蒸馏

Wenchang Duan, Zhenguo Gao, Jinguo Xian, Yi Shi

机构 * School of Mathematical Sciences, Shanghai Jiao Tong University（上海交通大学数学科学学院） ； Bio-X Institutes, Key Laboratory for the Genetics of Developmental and Neuropsychiatric Disorders, Shanghai Jiao Tong University（上海交通大学Bio-X研究院、发育与神经精神疾病遗传学重点实验室） ； Shanghai Key Laboratory of Psychotic Disorders, Brain Science and Technology Research Center, Shanghai Jiao Tong University（上海精神疾病重点实验室、脑科学与技术研究中心，上海交通大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 提出MAVEN-T框架，通过高容量教师模型和紧凑学生模型的异构蒸馏，结合强化学习优化，实现实时多智能体轨迹预测，在多个数据集上达到高精度与低延迟。