大模型对齐与安全

Meta-Reinforcement Learning for Fast and Data-Efficient Spectrum Allocation in Dynamic Wireless Networks

元强化学习用于动态无线网络中快速且数据高效的频谱分配

Oluwaseyi Giwa, Tobi Awodunmila, Muhammad Ahmed Mohsin, Ahsan Bilal, Muhammad Ali Jamshed

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出元学习框架用于动态无线网络中快速且数据高效的频谱分配，通过对比实验展示其在性能和适应性上的优势。

Comments 5 pages, 6 figures, under review at IEEE Wireless Communications Letters

Journal ref IEEE Wireless Communications Letters 2026

Now You See Me: Designing Responsible AI Dashboards for Early-Stage Health Innovation

现在你看到了：为早期健康创新设计负责任的AI仪表盘

Svitlana Surodina, Sinem Görücü, Lili Golmohammadi, Emelia Delaney, Rita Borgo

机构 * OPORA Health Technologies LTD（OPORA健康科技有限公司） ； King's College London（国王学院伦敦） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本文提出了一种面向早期健康创新的负责任AI治理仪表板设计方法，通过协作设计和治理机制支持决策和问责。

Natural Language Declarative Prompting (NLD-P): A Modular Governance Method for Prompt Design Under Model Drift

自然语言声明式提示（NLD-P）：一种模块化治理方法，用于在模型漂移下的提示设计

Hyunwoo Kim, Hanau Yi, Jaehee Bae, Yumin Kim

机构 * ddai Inc.（ddai公司） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出NLD-P作为模块化治理方法，通过自然语言声明式提示解决模型漂移下的提示设计问题，提供可解释的控制框架。

Unbiased Sliced Wasserstein Kernels for High-Quality Audio Captioning

无偏切片Wasserstein核用于高质量音频描述生成

Manh Luong, Khai Nguyen, Dinh Phung, Gholamreza Haffari, Lizhen Qu

机构 * Monash University（墨尔本大学） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出无偏切片Wasserstein核，通过保留模态间时间信息，提升音频描述质量及推理能力。

Journal ref Manh Luong. (2025). Unbiased Sliced Wasserstein Kernels for High-Quality Audio Captioning. In Advances in Neural Information Processing Systems 38 (NeurIPS 2025)

Hidden Topics: Measuring Sensitive AI Beliefs with List Experiments

隐藏主题：通过列表实验测量敏感的AI信念

Maxim Chupilkin

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本文通过列表实验揭示大型语言模型对监控、酷刑和核打击等敏感问题的潜在态度，验证了该方法在检测AI隐藏信念的有效性。

Comments 14 pages, 3 figures

PRISM: Diversifying Dataset Distillation by Decoupling Architectural Priors

PRISM: 通过解耦架构先验来多样化数据集蒸馏

Brian B. Moser, Shalini Sarode, Federico Raue, Stanislav Frolov, Krzysztof Adamkiewicz, Arundhati Shanbhag, Joachim Folz, Tobias C. Nauen, Andreas Dengel

机构 * German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI）） ； RPTU Kaiserslautern-Landau（科隆大学（RPTU）） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 PRISM通过解耦架构先验提升数据集蒸馏的多样性与性能

Journal ref Transactions on Machine Learning Research, 2026

From Bias Mitigation to Bias Negotiation: Governing Identity and Sociocultural Reasoning in Generative AI

从偏见缓解到偏见协商：在生成式AI中治理身份与社会文化推理

Zackary Okun Dunivin, Bingyi Han, John Bollenbocher

机构 * Institute for Social Science, University of Stuttgart（斯图加特大学社会科学研究所） ； Department of Computer Science, Saarland University（萨尔兰大学计算机科学系） ； Department of Linguistics, University of Texas Austin TX USA（德克萨斯大学语言学系） ； Department of Linguistics, University of Texas（德克萨斯大学语言学系） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本文提出偏见协商作为生成式AI治理身份与社会文化推理的新框架，通过实证研究探讨其在缓解偏见和提升社会公正中的作用。

LogiPart: Local Large Language Models for Data Exploration at Scale with Logical Partitioning

LogiPart: 用于大规模数据探索的本地大语言模型与逻辑分区

Tiago Fernandes Tavares

机构 * Tiago Fernandes Tavares（独立研究者） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 LogiPart通过本地大语言模型与逻辑分区技术，在大规模数据探索中实现高效、可解释的税目发现，克服传统方法的效率与成本限制。

Comments This version introduces a major architectural shift to Local LLMs and NLI-based assignment, scaling the framework to O(1) generative complexity. Formerly titled 'Question-Driven Analysis and Synthesis'

A Multi-Agent Framework for Medical AI: Leveraging Fine-Tuned GPT, LLaMA, and DeepSeek R1 for Evidence-Based and Bias-Aware Clinical Query Processing

面向医疗AI的多智能体框架：利用微调的GPT、LLaMA和DeepSeek R1进行基于证据和偏见意识的临床查询处理

Naeimeh Nourmohammadi, Md Meem Hossain, The Anh Han, Safina Showkat Ara, Zia Ush Shamszaman

机构 * Department of Computing ； Games, Teesside University, Middlesbrough, United Kingdom Centre for Digital Innovation, Teesside University, Middlesbrough, United Kingdom Faculty of Business \& Technology, University of Sunderland, Sunderland, United Kingdom 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一个多智能体框架，利用微调的GPT、LLaMA和DeepSeek R1，结合证据检索和偏见检查，提升医疗问答的可靠性与准确性。

Comments 27 pages, 14 figures, 5 tables

Implicit Bias in LLMs for Transgender Populations

LLMs对跨性别人群的隐性偏见

Micaela Hirsch, Marina Elichiry, Blas Radi, Tamara Quiroga, David Restrepo, Luciana Benotti, Veronica Xhardez, Jocelyn Dunstan, Enzo Ferrante

机构 * Instituto de Ciencias de la Computación (UBA-CONICET)（计算机科学研究所（UBA-CONICET）） ； Hospital Dr. Lucio Melendez（Lucio Melendez医院） ； Universidad de Buenos Aires（布宜诺斯艾利斯大学） ； Universidad Católica de Chile（智利天主大学） ； MICS, CentraleSupélec - Université Paris-Saclay（MICS，CentraleSupélec-巴黎萨克雷大学） ； Universidad Nacional de Córdoba（科迪利亚国家大学） ； Fundación Vía Libre（自由之路基金会） ； CIECTI 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.CY

AI总结 本研究揭示了LLMs对跨性别人群的隐性偏见，通过词语关联测试和医疗预约分配任务发现LLMs在多个类别中存在负面关联，并指出需研究以减少LLMs中的刻板印象偏见，确保医疗应用中的公平性。

Bias Beyond Borders: Political Ideology Evaluation and Steering in Multilingual LLMs

偏见超越国界：多语言大语言模型中的政治意识形态评估与引导

Afrozah Nadeem, Agrima Seth, Mehwish Nasim, Usman Naseem

机构 * School of Computing, Macquarie University, Australia（麦考瑞大学计算机学院） ； Microsoft, USA（微软公司） ； University of Western Australia, Australia（西澳大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出跨语言对齐引导框架，用于评估和减轻多语言LLM中的政治偏见，通过跨语言对齐意识形态表示以实现公平性与多样性的平衡。

Comments PrePrint

Context-Aware Counterfactual Data Augmentation for Gender Bias Mitigation in Language Models

面向上下文的反事实数据增强用于语言模型中的性别偏见缓解

Shweta Parihar, Liu Guangliang, Natalie Parde, Lu Cheng

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出Context-CDA方法，通过增强上下文和过滤低质量反事实，有效缓解语言模型中的性别偏见，同时保持语言建模能力。

Fairness Aware Reward Optimization

公平感知的奖励优化

Ching Lam Choi, Vighnesh Subramaniam, Phillip Isola, Antonio Torralba, Stefanie Jegelka

机构 * CSAIL, Department of EECS, Massachusetts Institute of Technology（计算机科学与人工智能实验室，电气工程与计算机科学系，麻省理工学院） ； School of CIT, MCML, MDSI, Technical University of Munich（信息科技学院，MCML，MDSI，慕尼黑技术大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 Faro通过在处理过程中训练奖励模型，实现公平性、准确性与校准性的平衡，减少偏见并提升模型质量。

A computational framework for human values

人类价值观的计算框架

Nardine Osman, Mark d'Inverno

机构 * Artificial Intelligence Research Institute (IIIA-CSIC)（人工智能研究 institute (IIIA-CSIC)） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本文提出一个基于社会科学的正式框架，用于系统研究如何通过人类价值观设计伦理人工智能。

Journal ref Proceedings of the 23rd International Conference on Autonomous Agents and Multiagent Systems (AAMAS 2024), pp. 1531-1539

Mutually Assured Deregulation

相互保障的去监管

Gilad Abiri

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.CY

AI总结 本文指出，去监管反而会加剧安全风险，强调需加强监管以应对人工智能带来的国家安全挑战。

An Aristotelian ontology of instrumental goals: Structural features to be managed and not failures to be eliminated

一种亚里士多德式的工具性目标本体论：需管理而非消除的结构特征

Willem Fourie

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本文提出一种亚里士多德式的工具性目标本体论，将工具性目标视为高级AI系统需管理的特征，而非需消除的异常。

Fair Recourse for All: Ensuring Individual and Group Fairness in Counterfactual Explanations

公平的 recourse 为所有：在反事实解释中确保个体和群体公平性

Fatima Ezzeddine, Obaida Ammar, Silvia Giordano, Omran Ayoub

机构 * University of Applied Sciences and Arts of Southern Switzerland（瑞士南方应用科学与艺术大学） ； Università della Svizzera italiana（瑞士意大利大学） 纠错

专题命中 AI治理与伦理 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种基于强化学习的方法，生成同时满足个体和群体公平性的反事实解释，以提升XAI的公平性和透明度。

Computational Foundations for Strategic Coopetition: Formalizing Collective Action and Loyalty

战略竞合的计算基础：形式化集体行动与忠诚

Vik Pant, Eric Yu

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本文提出了一种基于忠诚度调节的效用函数，用于分析竞合环境中集体行动问题的产生与解决，通过实验验证展示了忠诚度对努力差异的显著影响。

Comments 68 pages, 22 figures. Third technical report in research program; should be read with companion arXiv:2510.18802 and arXiv:2510.24909. Adapts and extends complex actor material from Pant (2021) doctoral dissertation, University of Toronto

Beyond Automation: Rethinking Work, Creativity, and Governance in the Age of Generative AI

超越自动化：在生成式人工智能时代重新思考工作、创造力与治理

Haocheng Lin

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本文探讨生成式AI对工作、创造力和治理的影响，提出包容性AI治理框架，强调UBI与技能发展等的结合以应对AI带来的挑战。

Comments Improved structure and clarity of the introduction and literature review; explicit articulation of the paper's contributions; refined the integration of AI across labour, UBI, and governance

Bit-politeia: An AI Agent Community in Blockchain

Bit-politeia: 区块链上的一个AI代理社区

Xing Yang

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 Bit-politeia通过区块链和AI代理构建公平高效的资源分配系统，以减少传统同行评审中的偏见和资源集中问题。

AI TIPS 2.0: A Comprehensive Framework for Operationalizing AI Governance

AI TIPS 2.0: 一个全面的AI治理实施框架

Pamela Gupta

专题命中 AI治理与伦理 ：trustworthy(abstract)；分类 cs.AI、cs.CY

AI总结 AI TIPS 2.0是一个全面的AI治理实施框架，旨在解决AI部署中的三个关键治理挑战，通过提供定制化的治理方法和可操作的控制措施，提升AI系统的可信度和合规性。

Comments We have adjustments to make for higher effectiveness

The Confidence Trap: Gender Bias and Predictive Certainty in LLMs

自信陷阱：大语言模型中的性别偏见与预测确定性

Ahmed Sabir, Markus Kängsepp, Rajesh Sharma

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 本研究探讨大语言模型在性别偏见任务中的置信度校准问题，提出Gender-ECE指标以评估公平性差异，发现Gemma-2在性别偏见基准中校准最差。

Comments AAAI 2026 (AISI Track), Oral. Project page: https://bit.ly/4p8OKQD

Toward Safe and Responsible AI Agents: A Three-Pillar Model for Transparency, Accountability, and Trustworthiness

迈向安全和负责任的AI代理：透明、问责和可信的三支柱模型

Edward C. Cheng, Jeshua Cheng, Alice Siu

机构 * InquiryOn 纠错

专题命中 AI治理与伦理 ：trustworthy(abstract)；分类 cs.AI、cs.CY

AI总结 本文提出三支柱模型，旨在通过透明、问责和可信机制，确保AI代理的安全性和责任性，促进负责任的AI发展。

Comments 15 pages, 8 figures, conference paper

How to Assess AI Literacy: Misalignment Between Self-Reported and Objective-Based Measures

如何评估人工智能素养：自我报告与基于客观的评估之间的不一致

Shan Zhang, Ruiwei Xiao, Anthony F. Botelho, Guanze Liao, Thomas K. F. Chiu, John Stamper, Kenneth R. Koedinger

机构 * University of Florida（佛罗里达大学） ； Carnegie Mellon University（卡内基梅隆大学） ； National Tsing Hua University（国立清华大学） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本研究开发并评估了教师人工智能素养的自我报告和基于客观的测量方法，揭示了两者在不同教师群体中的显著差异，并提出了适用于专业发展的诊断工具。

Comments 16 pages, 6 figures, LAK2026

Socio-technical aspects of Agentic AI

群体技术视角下的代理AI

Praveen Kumar Donta, Alaa Saleh, Ying Li, Shubham Vaishnav, Kai Fang, Hailin Feng, Yuchao Xia, Thippa Reddy Gadekallu, Qiyang Zhang, Xiaodan Shi, Ali Beikmohammadi, Sindri Magnússon, Ilir Murturi, Chinmaya Kumar Dehury, Marcin Paprzycki, Lauri Loven, Sasu Tarkoma, Schahram Dustdar

机构 * Department of Computer and Systems Sciences, Stockholm University（斯德哥尔摩大学计算机与系统科学系） ； Center for Ubiquitous Computing, University of Oulu（奥卢大学无处不在计算中心） ； College of Computer Science and Engineering, Northeastern University（东北大学计算机科学与工程学院） ； Zhejiang A\&F University, Hangzhou（浙江工业大学之江学院） ； School of Computer Science, Peking University（北京大学计算机科学学院） ； Department of Mechatronics, University of Prishtina（普里什蒂纳大学机电系） ； Department of Computer Science, IISER Berhampur（伯尔哈普尔IISER计算机科学系） ； Systems Research Institute Polish Academy of Sciences（波兰科学院系统研究所） ； Department of Computer Science, University of Helsinki（赫尔辛基大学计算机科学系） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.CY

AI总结 本文从社会技术视角探讨代理AI，分析其技术组件与社会背景的关联，揭示伦理挑战及未来研究方向。

Comments Dear Reviewer, please note that this is not survey/review or position paper. This paper introduced new framework (MAD-BAD-SAD Framework) for Socio-technical aspects of Agentic AI, Ethical considerations, which is very important to consider beside technical development

Multilingual Amnesia: On the Transferability of Unlearning in Multilingual LLMs

多语言失忆：多语言大语言模型中卸载的可转移性研究

Alireza Dehghanpour Farashah, Aditi Khandelwal, Marylou Fauchard, Zhuan Shi, Negar Rostamzadeh, Golnoosh Farnadi

机构 * Mila – Quebec AI Institute（魁北克人工智能研究所） ； McGill University（麦吉尔大学） ； Université de Montréal（蒙特利尔大学） ； Google Research（谷歌研究） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL、cs.LG

AI总结 本研究探讨多语言大语言模型中卸载的可转移性，通过实验发现语法相似性是预测跨语言卸载行为的关键因素。

Observations and Remedies for Large Language Model Bias in Self-Consuming Performative Loop

大语言模型自我消耗表现性循环中的观测与对策

Yaxuan Wang, Zhongteng Cai, Yujia Bao, Xueru Zhang, Yang Liu

机构 * University of California, Santa Cruz（加州大学圣克ruz分校） ； The Ohio State University（俄亥俄州立大学） ； Center for Advanced AI, Accenture（Accenture高级人工智能中心） 纠错

专题命中 AI治理与伦理 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出自我消耗表现性循环（SCPL）概念，通过实验发现表现性循环会增加偏好偏见并降低差异偏见，设计奖励拒绝采样策略以缓解偏见。

V-FAT: Benchmarking Visual Fidelity Against Text-bias

V-FAT：基于文本偏见的视觉真实性基准测试

Ziteng Wang, Yujie He, Guanliang Li, Siqi Yang, Jiaqi Xiong, Songxiang Liu

机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Meituan（美团） ； University of Oxford（牛津大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 V-FAT通过三级评估框架量化文本偏见对视觉真实性的干扰，揭示多模态大语言模型在高语言主导性下的视觉崩溃问题。

Comments 12 pages, 6 figures

E-LENS: User Requirements-Oriented AI Ethics Assurance

E-LENS：以用户需求为导向的AI伦理保证

Jianlong Zhou, Fang Chen

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.CY

AI总结 本文提出以用户需求为导向的AI伦理保证方法，通过E-LENS平台验证AI伦理，以航空安全方法为借鉴，结合危险分析构建AI伦理保证案例。

Comments 29 pages

Journal ref Human-Intelligent Systems Integration, August 2025

Measuring Social Media Polarization Using Large Language Models and Heuristic Rules

利用大语言模型和启发规则测量社交媒体极化

Jawad Chowdhury, Rezaur Rashid, Gabriel Terejanu

机构 * Department of Computer Science, University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校计算机科学系） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出利用大语言模型和启发规则分析社交媒体讨论中的情感极化现象，揭示事件驱动的极化模式并提供可扩展的量化方法。

Comments Foundations and Applications of Big Data Analytics (FAB), Niagara Falls, Canada, 2025