大模型对齐与安全

Cryptographic Runtime Governance for Autonomous AI Systems: The Aegis Architecture for Verifiable Policy Enforcement

面向自主AI系统的加密运行时治理：Aegis架构用于可验证的政策执行

Adam Massimo Mazzocchetti

机构 * SPQR Technologies Inc.（SPQR技术公司） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本文提出Aegis架构，通过加密技术将政策约束作为执行条件，实现自主AI系统的可验证政策执行，通过实验验证其在运行时治理中的有效性。

Aligning Probabilistic Beliefs under Informative Missingness: LLM Steerability in Clinical Reasoning

在信息缺失下对概率信念进行对齐：临床推理中的LLM可引导性

Yuta Kobayashi, Vincent Jeanselme, Shalmali Joshi

机构 * Department of Biomedical Informatics（生物医学信息学系） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI

AI总结 本文研究LLM能否利用信息性缺失进行预测推理，通过分析三种提示方法发现，尽管结构引导和上下文学习可提升概率对齐，但需精心干预才能利用信息性缺失。

Comments Under review