大模型对齐与安全

Open Challenges in Multi-Agent Security: Towards Secure Systems of Interacting AI Agents

多智能体安全中的开放挑战：迈向交互式AI智能体的安全系统

Christian Schroeder de Witt, Klaudia Krawiecka, Igor Krawczuk, Ben Hagag, William L. Anderson, Peter Belcak, Ben Bucknall, Xiaohong Cai, Ayush Chopra, Doron Cohen, Ron F. Del Rosario, Andis Draguns, Annie Gray, Keren Katz, Vasilios Mavroudis, Jaron Mink, Sumeet Ramesh Motwani, Jonathan Petit, Leif-Sebastian Rembeck, Chandler Smith, John Sotiropoulos, Steven Young, Sarah Scheffler, Mary Llewellyn

机构 * Oxford Witt Lab, University of Oxford（牛津Witt实验室，牛津大学） ； Department of Engineering Science, University of Oxford（牛津大学工程科学系） ； Association for Computing Machinery (ACM)（计算机协会（ACM）） ； Independent（独立） ； MATS Research（MATS研究） ； CyLab Security & Privacy Institute, Carnegie Mellon University（CyLab安全与隐私研究所，卡内基梅隆大学） ； Qualcomm Inc.（高通公司） ； Oxford Martin AI Governance Initiative（牛津马丁人工智能治理倡议） ； Carnegie Mellon University（卡内基梅隆大学） ； MIT Media Lab（麻省理工媒体实验室） ； SAP SE（SAP德国分公司） ； OWASP GenAI Security Project - Agentic Security Initiative（OWASP生成式AI安全项目-代理安全倡议） ； Contramont Research（Contramont研究） ； The Alan Turing Institute（艾伦·图灵研究所） ； Department of Economics, New York University（纽约大学经济系） ； Zenity（Zenity公司） ； King’s College London（伦敦国王学院） ； Arizona State University（亚利桑那州立大学） ； Torr Vision Group, University of Oxford（托尔视觉组，牛津大学） ； Deep Cyber Ltd（Deep Cyber有限公司） 纠错

专题命中 隐私与版权 ：safety(abstract)；AI safety(abstract)；分类 cs.AI

AI总结 本文探讨多智能体交互带来的安全挑战，提出多智能体安全新领域，旨在解决智能体间及与人类、机构的交互中出现的安全问题，分析安全与效用、安全与安全之间的权衡。

Data-Centric Foundation Models in Computational Healthcare: A Survey

计算医学中的数据驱动基础模型：一项综述

Yunkun Zhang, Jin Gao, Zheling Tan, Lingfeng Zhou, Kexin Ding, Mu Zhou, Shaoting Zhang, Dequan Wang

机构 * Shanghai Jiao Tong University（上海交通大学） ； Rutgers University（罗切斯特大学） ； Shanghai Jiao Tong University, China（上海交通大学） ； Shanghai Innovation Institute（上海创新研究院） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文综述了计算医学中数据驱动基础模型的发展，探讨了从预训练到推理的数据中心化方法，旨在提升医疗工作流程，并讨论了AI安全、评估及与人类价值观的对齐问题。

Comments Published in ACM Computing Surveys

Journal ref ACM Comput. Surv. 58, 11, Article 287 (August 2026), 35 pages