大模型对齐与安全

Painless Activation Steering: An Automated, Lightweight Approach for Post-Training Large Language Models

无痛激活导向：一种自动化、轻量级的微调大型语言模型方法

Sasha Cui, Zhongren Chen

机构 * Yale University（耶鲁大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出Painless Activation Steering，一种自动化方法，无需人工干预即可利用标注数据提升模型性能，尤其在行为任务中表现优异，但对智能任务效果有限。

Layered Mutability: Continuity and Governance in Persistent Self-Modifying Agents

分层可变性：持续性与治理在持久自修改代理中的作用

Krti Tallam

机构 * Kamiwaza AI 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY、cs.LG

AI总结 本文提出分层可变性框架，分析持久自修改代理中行为持续性和治理挑战，指出突变速度、下游耦合强度、可逆性弱和可观测性低会导致层间不匹配，主要贡献是揭示了自修改代理的失效模式是组合漂移而非突变对齐。

Comments 17 pages, 2 figures, 3 tables. self-modifying agents; AI governance; identity drift; persistent memory; runtime adaptation; model editing Primary: cs.AI Cross-list: cs.LG, cs.CY

A Scoping Review of LLM-as-a-Judge in Healthcare and the MedJUDGE Framework

对LLM-as-a-Judge在医疗领域的综述及MedJUDGE框架

Chenyu Li, Zohaib Akhtar, Mingu Kwak, Yuelyu Ji, Hang Zhang, Tracey Obi, Yufan Ren, Xizhi Wu, Sonish Sivarajkumar, Harold P. Lehmann, Shyam Visweswaran, Michael J. Becich, Danielle L. Mowery, Renxuan Liu, Haoyang Sun, Yanshan Wang

机构 * Department of Biomedical Informatics, School of Medicine, University of Pittsburgh（匹兹堡大学医学院生物医学信息学系） ； Department of Health Information Management, School of Health and Rehabilitation Sciences, University of Pittsburgh（匹兹堡大学健康与康复科学学院健康信息管理系） ； OpenCura, Health Innovation Consortium（OpenCura健康创新联盟） ； Northwestern University, Kellogg School of Management（西北大学凯洛格管理学院） ； Intelligent Systems Program, School of Computing and Information, University of Pittsburgh（匹兹堡大学计算与信息学院智能系统项目） ； Johns Hopkins University School of Medicine Biomedical Informatics and Data Science（约翰霍普金斯大学医学院生物医学信息学与数据科学） ； Clinical and Translational Science Institute, University of Pittsburgh（匹兹堡大学临床与转化科学研究所） ； Institute for Biomedical Informatics, University of Pennsylvania（宾夕法尼亚大学生物医学信息学研究所） ； Data Science, School of Computing and Information, University of Pittsburgh（匹兹堡大学计算与信息学院数据科学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 本文综述了LLM-as-a-Judge在医疗领域的应用现状，指出其在验证严谨性、偏见评估和治理方面存在不足，并提出MedJUDGE框架以提升医疗领域LLM-as-a-Judge系统的有效性与安全性。

The Consensus Trap: Dissecting Subjectivity and the "Ground Truth" Illusion in Data Annotation

共识陷阱：数据标注中主观性与‘真实真相’幻觉的剖析

Sheza Munir, Benjamin Mah, Krisha Kalsi, Shivani Kapania, Julian Posada, Edith Law, Ding Wang, Syed Ishtiaque Ahmed

机构 * University of Toronto Computer Science（多伦多大学计算机科学系） ； University of Toronto Engineering Science（多伦多大学工程科学系） ； Carnegie Mellon University School of Computer Science（卡内基梅隆大学计算机科学学院） ； Yale University American Studies（耶鲁大学美国研究系） ； University of Waterloo Computer Science（滑铁卢大学计算机科学系） ； Google Research（谷歌研究） ； University of Toronto（多伦多大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Yale University（耶鲁大学） ； University of Waterloo（滑铁卢大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 本文通过分析2020-2025年间七大赛事的346篇论文，揭示数据标注实践中‘共识陷阱’的机制，指出位置可读性失效与模型中介标注导致的锚定偏见，以及地理霸权对西方标准的强制性，呼吁将分歧视为高保真信号以构建文化胜任模型。

Strategic Polysemy in AI Discourse: A Philosophical Analysis of Language, Hype, and Power

人工智能话语中的战略多义性：语言、炒作与权力的哲学分析

Travis LaCroix, Fintan Mallory, Sasha Luccioni

机构 * Durham University（杜伦大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY、cs.LG

AI总结 本文探讨人工智能话语中语言的策略性使用，分析术语如'幻觉'、'思考链'等的多义性如何影响机构和话语实践，揭示语言作为社会技术机制塑造AI发展与治理的作用。

Comments Accepted in the Ninth Annual ACM Conference on Fairness, Accountability, and Transparency (ACM FAccT) 2026

Working Memory Constraints Scaffold Learning in Transformers under Data Scarcity

工作记忆限制在数据稀缺下支撑Transformer的学习

Pranava Madhyastha, Dagmar Adamcova

机构 * City, University of London（伦敦城市大学） ； The Alan Turing Institute（艾伦·图灵研究所） ； Grounded Machines 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文探讨在Transformer架构中引入类人工作记忆限制，提出基于固定宽度窗口和时间衰减的注意力机制，实验表明在数据稀缺时，这些约束能显著提升语法准确性并增强与人类处理指标的一致性。

Comments Published in ACL 2026 Findings track

Why AI Readiness Is an Organizational Learning Problem, Not a Technology Purchase

为何人工智能准备性是组织学习问题，而非技术采购问题

Jeanne McClure, Gregg Gerdau

机构 * Ars Innovate Technology and Consulting（Ars Innovate技术与咨询） ； Matador Advisors（Matador顾问） ； NC State University（北卡罗来纳州立大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 本文指出，人工智能项目失败本质上是组织学习问题而非技术不足，提出SIO模型指导企业AI能力发展。

Comments 8 Pages 2 figures 1 table

InsideOut: Measuring and Mitigating Insider-Outsider Bias in Interview Script Generation

InsideOut: 评估和缓解面试脚本生成中的内部-外部偏见

Yixin Wan, Xingrun Chen, Kai-Wei Chang

机构 * University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 本文提出InsideOut基准，通过文化情境面试脚本生成任务量化LLM的内部-外部偏见，采用三种评估指标，并提出基于代理的MFA框架缓解偏见，实验表明MFA方法显著降低偏见。

From Ground Truth to Measurement: A Statistical Framework for Human Labeling

从真实数据到测量：人类标注的统计框架

Robert Chew, Stephanie Eckman, Christoph Kern, Frauke Kreuter

机构 * RTI International（RTI国际） ； University of Maryland（马里兰大学） ； LMU Munich（慕尼黑大学） ； Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出统计框架，将标注过程视为测量过程，分解标注结果中的变异来源，为数据驱动的机器学习提供指导。

De Jure: Iterative LLM Self-Refinement for Structured Extraction of Regulatory Rules

De Jure：基于迭代LLM自优化的结构化监管规则提取

Keerat Guliani, Deepkamal Gill, David Landsman, Nima Eshraghi, Krishna Kumar, Lovedeep Gondara

机构 * The Vanguard Group, Inc.（先锋集团） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 De Jure通过四个阶段自动提取结构化监管规则，无需人工标注或领域知识，提升监管文本处理的效率和可追溯性。

AEGIS: An Operational Infrastructure for Post-Market Governance of Adaptive Medical AI Under US and EU Regulations

AEGIS：一种用于美国和欧盟法规下适应性医疗AI市场后治理的操作基础设施

Fardin Afdideh, Mehdi Astaraki, Fernando Seoane, Farhad Abtahi

机构 * Department of Clinical Science, Intervention and Technology, Karolinska Institutet（临床科学、干预与技术部门，Karolinska研究院） ； Department of Medical Radiation Physics, Stockholm University（医学辐射物理学部门，斯德哥尔摩大学） ； Department of Oncology-Pathology, Karolinska Institutet（肿瘤学-病理学部门，Karolinska研究院） ； Department of Clinical Physiology, Karolinska University Hospital（临床生理学部门，Karolinska大学医院） ； Department of Textile Technology, University of Bor s（纺织技术部门，Bor s大学） ； Department of Medical Technologies, Karolinska University Hospital（医学技术部门，Karolinska大学医院） ； Department of Biomedical Engineering and Health System, KTH Royal Institute of Technology（生物医学工程与健康系统部门，KTH皇家理工学院） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.CY、cs.LG

AI总结 本文提出AEGIS框架，通过数据集整合、模型监控和条件决策模块，实现FDA PCCP和EU AI Act条款的执行，支持医疗AI的持续学习与安全更新。

Must Read: A Comprehensive Survey of Computational Persuasion

必须阅读：计算说服的全面综述

Nimet Beyza Bozdag, Shuhaib Mehri, Xiaocheng Yang, Hyeonjeong Ha, Zirui Cheng, Esin Durmus, Jiaxuan You, Heng Ji, Gokhan Tur, Dilek Hakkani-Tür

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 本文综述了计算说服的三个视角：AI作为说服者、被说服者和评判者，探讨了AI生成内容的有效性及伦理挑战。

Comments Accepted to ACM Computing Surveys

Widespread Gender and Pronoun Bias in Moral Judgments Across LLMs

大范围性别和代词偏见在LLM道德判断中的表现

Gustavo Lúcius Fernandes, Jeiverson C. V. M. Santos, Pedro O. S. Vaz-de-Melo

机构 * Universidade Federal de Minas Gerais（巴西米纳斯吉拉斯联邦大学） ； Instituto Kunumi（昆米研究所） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 研究通过分析不同LLM对公平性判断的偏见，发现代词和性别标记显著影响道德分类，非二元性别受青睐，男性受歧视，需改进公平性。

Let's Think in Two Steps: Mitigating Agreement Bias in MLLMs with Self-Grounded Verification

两步思考：通过自我 grounded 验证缓解 MLLM 的同意偏差

Moises Andrade, Joonhyuk Cha, Brandon Ho, Vriksha Srihari, Karmesh Yadav, Zsolt Kira

机构 * Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出 SGV 方法，通过自我 grounded 验证缓解 MLLM 的同意偏差，提升验证准确性和任务完成率。

Comments ICLR 2026. Code, models, and data publicly available at https://mshalimay.github.io/agreement-bias-sgv/

ESGenius: Benchmarking LLMs on Environmental, Social, and Governance (ESG) and Sustainability Knowledge

ESGenius：对环境、社会和治理（ESG）及可持续性知识的LLM基准测试

Chaoyue He, Xin Zhou, Yi Wu, Xinjia Yu, Yan Zhang, Lei Zhang, Di Wang, Shengfei Lyu, Hong Xu, Xiaoqiao Wang, Wei Liu, Chunyan Miao

机构 * Alibaba-NTU Global e-Sustainability CorpLab (ANGEL)（阿里巴巴-NTU全球可持续性公司实验室） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 AI治理与伦理 ：trustworthy(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 ESGenius是首个针对LLM在ESG及可持续性知识评估的综合问答基准，通过RAG方法显著提升模型性能。

Comments EMNLP'25 Main Oral (42 pages, 10 figures, 11 tables), Nominations for Resource Award & Theme Paper Award

Journal ref In Proceedings of the 2025 Conference on Empirical Methods in Natural Language Processing (EMNLP 2025), pages 14612-14653

Credibility Governance: A Social Mechanism for Collective Self-Correction under Weak Truth Signals

可信治理：在弱真相信号下的一种社会机制，用于集体自我校正

Wanying He, Yanxi Lin, Ziheng Zhou, Xue Feng, Min Peng, Qianqian Xie, Zilong Zheng, Yipeng Kang

机构 * School of Artificial Intelligence, Wuhan University（武汉大学人工智能学院） ； Tsinghua University（清华大学） ； University of California, Los Angeles（加州大学洛杉矶分校） ； State Key Laboratory of General Artificial Intelligence, BIGAI（通用人工智能国家重点实验室，BIGAI） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 可信治理通过动态可信度评分和可信度加权背书，提升集体自我校正能力，减少虚假信息影响。

Watermarking Without Standards Is Not AI Governance

没有标准的水印技术并非AI治理

Alexander Nemecek, Yuzhou Jiang, Erman Ayday

专题命中 AI治理与伦理 ：safety(abstract)；AI safety(abstract)

AI总结 本文指出当前水印技术在AI治理中存在监管与技术限制之间的差距，提出三层框架以提升水印技术的治理有效性。

Comments 14 pages

Buy versus Build an LLM: A Decision Framework for Governments

买还是建一个大语言模型：政府的决策框架

Jiahao Lu, Ziwei Xu, William Tjhi, Junnan Li, Antoine Bosselut, Pang Wei Koh, Mohan Kankanhalli

机构 * National University of Singapore（新加坡国立大学） ； AI Singapore（AI新加坡） ； Salesforce AI Research（Salesforce AI研究） ； EPFL（苏黎世联邦理工学院） ； University of Washington（华盛顿大学） ； Allen Institute for AI（人工智能研究院） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 本文提出政府在大语言模型决策中应考虑主权、安全、成本等因素的框架，帮助确定购买或建设更适合其需求的方法。

Comments The short version of this document is published as an ACM TechBrief at https://dl.acm.org/doi/epdf/10.1145/3797946, and this document is published as an ACM Technology Policy Council white paper at https://www.acm.org/binaries/content/assets/public-policy/buildvsbuyai.pdf

Perceived Political Bias in LLMs Reduces Persuasive Abilities

感知到的LLM政治偏见会降低说服能力

Matthew DiGiuseppe, Joshua Robison

机构 * Leiden University（莱顿大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 研究发现，感知到的LLM政治偏见会降低其在对话中的说服效果，表明说服力受政治中立性感知的影响。

Comments 39 pages, 10 figures

BiasGym: A Simple and Generalizable Framework for Analyzing and Removing Biases through Elicitation

BiasGym: 一个简单且通用的框架，用于通过诱发分析和去除偏见

Sekh Mainul Islam, Nadav Borenstein, Siddhesh Milind Pawar, Haeun Yu, Arnav Arora, Isabelle Augenstein

机构 * University of Copenhagen（哥本哈根大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 BiasGym通过安全注入和分析偏见，提供了一种简单且通用的方法来减少大语言模型中的偏见和刻板印象。

Comments Under review. Title updated

Group Distributionally Robust Optimization-Driven Reinforcement Learning for LLM Reasoning

基于组分布鲁棒优化的强化学习用于大语言模型推理

Kishan Panaganti, Zhenwen Liang, Wenhao Yu, Haitao Mi, Dong Yu

机构 * Tencent AI Lab in Bellevue WA USA（腾讯AI实验室（西雅图华盛顿州）） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出多对手组分布鲁棒优化框架，通过动态调整训练分布提升大语言模型推理性能，实现训练后精度提升10.6%和10.1%。

Comments Keywords: Large Language Models, Reasoning Models, Reinforcement Learning, Distributionally Robust Optimization, GRPO

Mitigating Gender Bias via Fostering Exploratory Thinking in LLMs

通过促进大语言模型的探索性思维来缓解性别偏见

Kangda Wei, Hasnat Md Abdullah, Ruihong Huang

专题命中 AI治理与伦理 ：DPO(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 通过生成性别中性故事对并利用直接偏好优化，该研究旨在减少大语言模型中的性别偏见，同时保持模型能力。

Counterfactual Fairness with Graph Uncertainty

基于图不确定性的反事实公平性

Davi Valério, Chrysoula Zerva, Mariana Pinto, Ricardo Santos, André Carreiro

机构 * Instituto Superior Técnico（里斯本技术高等学院） ； Instituto de Telecomunicações（电信研究所） ； Fraunhofer Portugal AICOS（弗劳恩霍夫葡萄牙AICOS研究所） 纠错

专题命中 AI治理与伦理 ：trustworthy(abstract)；分类 cs.AI、cs.CY、cs.LG

AI总结 本文提出CF-GU方法，通过整合因果图的不确定性，提升反事实公平性评估的鲁棒性和准确性。

Comments Peer reviewed pre-print. Presented at the BIAS 2025 Workshop at ECML PKDD

Computational Basis of LLM's Decision Making in Social Simulation

大语言模型在社会模拟中的决策机制计算基础

Ji Ma

机构 * LBJ School of Public Affairs, University of Texas at Austin（德克萨斯大学奥斯汀分校公共事务学院LBJ学院） ； Gradel Institute of Charity, New College, University of Oxford（牛津大学格拉德尔慈善研究所） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY、cs.LG

AI总结 本研究通过独裁者游戏探索LLM内部表示的变量变化，揭示社会概念在Transformer模型中的编码机制，为社会模拟和AI对齐提供新方法。

Comments Forthcoming: Sociological Methodology; USPTO patent pending

Journal ref Sociological Methodology, 2025

Beyond Benchmarks: On The False Promise of AI Regulation

超越基准：关于人工智能监管的虚假承诺

Gabriel Stanovsky, Renana Keydar, Gadi Perl, Eliya Habba

机构 * School of Computer Science and Engineering（计算机科学与工程学院） ； Faculty of Law and（法学院） ； Center of Digital Humanities（数字人文中心） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出不依赖基准的人工智能监管框架，强调人工智能可解释性挑战对现有监管体系的制约，并呼吁跨学科合作解决这一关键问题。

From Text to Multimodality: Exploring the Evolution and Impact of Large Language Models in Medical Practice

从文本到多模态：探索大型语言模型在医疗实践中的演变与影响

Qian Niu, Keyu Chen, Ming Li, Pohsun Feng, Ziqian Bi, Lawrence KQ Yan, Yichao Zhang, Caitlyn Heqi Yin, Cheng Fei, Junyu Liu, Tianyang Wang, Yunze Wang, Silin Chen, Ming Liu, Benji Peng, Xinyuan Song, Ziyuan Qin, Riyang Bao, Zekun Jiang

机构 * Kyoto University（京都大学） ； Georgia Institute of Technology（佐治亚理工学院） ； National Taiwan Normal University（台湾师范大学） ； Indiana University（印第安纳大学） ； Hong Kong University of Science（香港科学大学） ； The University of Texas at Dallas（德克萨斯大学达拉斯分校） ； University of Wisconsin-Madison（威斯康星大学麦迪逊分校） ； Cornell University（康奈尔大学） ； University of Liverpool（利物浦大学） ； University of Edinburgh（爱丁堡大学） ； Zhejiang University（浙江大学） ； Purdue University（Purdue 大学） ； Emory University, Atlanta, GA, USA（埃默里大学） ； West China Biomedical Big Data Center, West China Hospital, Sichuan University, Chengdu, China（西京生物大数据中心，四川大学西京医院，成都，中国） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 本文探讨了多模态大型语言模型在医疗实践中的发展与影响，分析其在医疗影像、临床决策支持等领域的应用及面临的挑战。

Comments 12 pages, 1 figure

The 2nd Workshop on Human-Centered Recommender Systems

人类中心推荐系统研讨会第二届

Kaike Zhang, Jiakai Tang, Du Su, Shuchang Liu, Julian McAuley, Lina Yao, Qi Cao, Yue Feng, Fei Sun

专题命中 AI治理与伦理 ：safety(abstract)；AI safety(abstract)

AI总结 该研讨会旨在推动推荐系统从优化参与度向设计真正理解、参与和惠及人类的系统转变，探讨如何整合人类价值观以提升推荐系统的社会责任感。

LLM Strategic Reasoning: Agentic Study through Behavioral Game Theory

Jingru Jia, Zehua Yuan, Junhao Pan, Paul E. McNamara, Deming Chen

机构 * University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY、cs.LG

Comments Accepted by NeurIPS 2025

Who's Asking? Investigating Bias Through the Lens of Disability Framed Queries in LLMs

Vishnu Hari, Kalpana Panda, Srikant Panda, Amit Agarwal, Hitesh Laxmichand Patel

机构 * Birla Institute of Technology and Science (BITS)（巴拉·技术与科学学院） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY

Comments Accepted at ICCV 2025

Alif: Advancing Urdu Large Language Models via Multilingual Synthetic Data Distillation

Muhammad Ali Shafique, Kanwal Mehreen, Muhammad Arham, Maaz Amjad, Sabur Butt, Hamza Farooq

机构 * University of British Columbia（不列颠哥伦比亚大学） ； Texas Tech University（德克萨斯技术大学） ； Institute for the Future of Education, Tecnológico de Monterrey（教育未来研究所，墨西哥蒙特雷技术学院） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Accepted to the EMNLP 2025 Workshop on Multilingual Representation Learning (MRL)