AI 大模型

大模型对齐与安全

大模型对齐、安全、越狱、红队、提示注入和可信评测。

2026-04-16 至 2026-04-16 共收录 3 篇信号源：cs.CL, cs.AI, cs.CY, cs.LG

1. AI治理与伦理 3 篇

2510.14133 2026-04-16 cs.AI cs.CR cs.MA 79%

形式化代理AI系统的安全、安全性和功能性属性

Edoardo Allegrini, Ananth Shreekumar, Z. Berkay Celik

机构 * Sapienza University of Rome（罗马萨皮恩扎大学）； Purdue University（普渡大学）

专题命中 AI治理与伦理：safety(title,abstract)；分类 cs.AI

AI总结本文提出一个统一的语义框架，用于分析、设计和部署正确、可靠且稳健的代理AI系统，通过形式化验证确保系统行为的安全性和功能性。

2604.13705 2026-04-16 cs.CL cs.AI cs.GT cs.MA 62%

超越阿罗不可能定理：公平性作为多智能体协作的涌现属性

Sayan Kumar Chaki, Antoine Gourru, Julien Velcin

机构 * Department of Computer Science（计算机科学系）

专题命中 AI治理与伦理：alignment(abstract)；分类 cs.CL、cs.AI

AI总结本文探讨多智能体协作中公平性的涌现特性，通过医院急诊框架实验发现，智能体间的互动能产生比单一模型更公平的分配结果，揭示了公平性作为系统属性而非个体属性的机制。

2604.13103 2026-04-16 cs.SE cs.MA 50%

多代理系统在软件工程中的公平性：面向软件开发生命周期的快速综述

Corey Yang-Smith, Ronnie de Souza Santos, Ahmad Abdellatif

专题命中 AI治理与伦理：trustworthy(abstract)

AI总结本文综述了多代理系统在软件工程中的公平性研究，分析了LLM赋能环境下的公平性框架，指出当前研究在评估实践、泛化能力及缓解机制方面存在三大不足。

Comments 8 pages, 4 figures. Accepted to the LLMTrust workshop at FSE Companion 2026