大模型对齐与安全 - arXivDaily 专题

2605.10528 2026-05-12 cond-mat.stat-mech cs.CL cs.MA physics.soc-ph 79%

Collective Alignment in LLM Multi-Agent Systems: Disentangling Bias from Cooperation via Statistical Physics

大语言模型多智能体系统中的集体对齐：通过统计物理方法分离偏见与合作

Cristiano De Nobili

机构 * Critiqality

专题命中 AI治理与伦理：alignment(title,abstract)；分类 cs.CL

AI总结研究通过统计物理方法分析大语言模型多智能体系统在二维正方形晶格中的集体动态，揭示社会从众与内在偏见的分离，计算临界指数并探测多智能体系统的集体行为与可能相变。

Comments 10 pages, 7 figures

2605.09922 2026-05-12 cs.CL cs.AI 62%

Team-Based Self-Play With Dual Adaptive Weighting for Fine-Tuning LLMs

基于双自适应加权的团队自博弈：用于微调大语言模型

Wu Li, Yigeng Zhou, Zesheng Shi, Yequan Wang, Min Zhang, Jing Li

机构 * Harbin Institute of Technology, Shenzhen, China（哈尔滨工业大学（深圳））； Beijing Academy of Artificial Intelligence, Beijing, China（北京人工智能研究院）

专题命中 AI治理与伦理：alignment(abstract)；分类 cs.CL、cs.AI

AI总结本文提出TPAW算法，通过团队协作与竞争机制提升自监督下LLM对齐效果，采用双自适应加权机制提高优化效率，实验证明其在多种模型和基准测试中表现优异。

Comments Accepted by ACL 2026 Main

2604.14345 2026-05-12 cs.LG cs.AI stat.ML 62%

PAC-MCTS: Bias-Aware Pruning for Robust LLM-Guided Search and Planning

PAC-MCTS：具有偏见意识的剪枝用于稳健的LLM引导搜索与规划

Tianhao Qian

机构 * School of Mathematics, Southeast University（东南大学数学学院）

专题命中 AI治理与伦理：safety(abstract)；分类 cs.AI、cs.LG

AI总结本文提出PAC-MCTS框架，通过动态调整置信区间来应对LLM引导下的偏见问题，实验表明其在Blocksworld和ALFWorld任务中显著提升了鲁棒性和搜索效率。

Comments 18 pages, 4 figures

2605.10018 2026-05-12 cs.LG 57%

The Value of Mechanistic Priors in Sequential Decision Making

在序列决策中机制先验的价值

Itai Shufaro, Gal Benor, Shie Mannor

机构 * Technion（技术学院）； NVIDIA Research（NVIDIA研究）

专题命中 AI治理与伦理：safety(abstract)；分类 cs.LG

AI总结本文研究了机制先验在序列决策中的价值，通过渐近和预热阶段的分析，提出机制信息度量并展示其在5-FU给药模拟中的高效性，对比LLM先验发现其在机械信息上存在严重损失。

2605.09106 2026-05-12 cs.CL 57%

Fin-Bias: Comprehensive Evaluation for LLM Decision-Making under human bias in Finance Domain

Fin-Bias：金融领域下LLM决策制定的综合评估：在存在人类偏见的背景下

Xiaoyu Hu, Jinman Zhao

机构 * Rutgers University（罗格斯大学）； Department of Computer Science, University of Toronto（多伦多大学计算机科学系）

专题命中 AI治理与伦理：alignment(abstract)；分类 cs.CL

AI总结本文提出Fin-Bias基准，评估LLM在金融不确定性和潜在人类偏见意见下的投资决策能力，通过分析8868份分析师报告揭示LLM易受显性偏见影响，并开发方法检测人类意见以促进LLM独立思考。

Comments ACL 2026 Findings

Journal ref ACL 2026 Findings

2603.09007 2026-05-12 cs.SD cs.AI 57%

Gender Fairness in Audio Deepfake Detection: Performance and Disparity Analysis

音频深度伪造检测中的性别公平性：性能与差异分析

Aishwarya Fursule, Shruti Kshirsagar, Anderson R. Avila

机构 * School of Computing, Wichita State University（维斯科大学计算学院）； Institut national de la recherche scientifique (INRS–EMT)（国家科学研究中心（INRS–EMT））； INRS-UQO Mixed Research Unit on Cybersecurity（网络安全混合研究单位（INRS-UQO））

专题命中 AI治理与伦理：trustworthy(abstract)；分类 cs.AI

AI总结本文分析了音频深度伪造检测模型中性别依赖的性能和公平性，使用ASVspoof 5数据集训练ResNet-18分类器，并通过四种音频特征评估性能，结合公平性指标揭示性别差异。

Comments Paper Accepted to IEEE CAI Conference 2026

2605.10850 2026-05-12 cs.CV 50%

Verification Mirage: Mapping the Reliability Boundary of Self-Verification in Medical VQA

验证幻象：映射医学视觉问答中自我验证的可靠性边界

Ruinan Jin, Beidi Zhao, Myeongkyun Kang, Qiong Zhang, Xiaoxiao Li

机构 * The University of British Columbia（不列颠哥伦比亚大学）； Vector Institute（向量研究所）； Redmin University of China（红矿大学）

专题命中 AI治理与伦理：safety(abstract)

AI总结本文研究了医学视觉问答中自我验证的可靠性边界，通过分解验证行为中的辨别能力和同意偏差，发现验证幻象现象，指出任务条件对可靠性有显著影响，且验证无法独立提供安全信号。

Comments 31 pages, 12 figures

2605.08799 2026-05-12 cs.RO 50%

ElasticFlow: One-Step Physics-Consistent Policy with Elastic Time Horizons for Language-Guided Manipulation

ElasticFlow: 语言引导操作中的弹性时间 horizon 的一步物理一致策略

Kewei Chen, Yayu Long, Shuai Li, Mingsheng Shang

机构 * Chongqing Institute of Green and Intelligent Technology, Chinese Academy of Sciences（中国科学院重庆绿色智能技术研究所）； Chongqing School, University of Chinese Academy of Sciences（中国科学院大学重庆校区）； Faculty of Information Technology and Electrical Engineering, University of Oulu, Finland（芬兰奥卢大学信息科技与电气工程学院）

专题命中 AI治理与伦理：alignment(abstract)

AI总结 ElasticFlow通过弹性时间 horizon 机制和直接建模平均速度场，实现高效的一步映射，提升语言引导操作的物理一致性和效率。

Comments Accepted to Findings of ACL 2026

1. AI治理与伦理 8 篇