大模型对齐与安全

No Hidden Prompts Needed! You Can Game AI Peer Review with Presentation-Only Revisions

无需隐藏提示！仅通过展示性修改即可欺骗AI同行评审

Xu Yang, Zhizhou Sha, Junbo Li, Jian Yu, Yifan Sun, Matthew Zhao, Jinrui Fang, Xinyue Guo, Yining Wu, Xu Hu, Yifu Luo, Qiang Liu, Zhangyang Wang

机构 * University of Texas at Austin（德克萨斯大学奥斯汀分校） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of Texas at Dallas（德克萨斯大学达拉斯分校） ； Independent Researcher（独立研究者） 纠错

专题命中 安全评测 ：prompt injection(abstract)；分类 cs.CL

AI总结 研究通过仅修改论文的展示层面（如摘要、贡献框架等）而不改变科学内容，利用AI评审反馈进行对抗性重打包，成功提升评分，揭示AI评审易被表面印象误导的结构性缺陷。

Comments 35 pages, 5 figures

A Machine Learning Framework for Real-Time Personalized Ergonomic Pose Analysis

一种用于实时个性化人体工学姿态分析的机器学习框架

Manex Atxa, Bruno Simoes, Julen Balzategui

机构 * Vicomtech Foundation（Vicomtech基金会） ； Basque Research and Technology Alliance（巴斯克研究与技术联盟） ； BRTA 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 提出利用三维体积视频数据实时预测人体工学/非工学姿态的方法，结合3D点云多角度分析与个性化深度学习分类器，克服固定视角遮挡问题，实现实时评估。

Comments 13 pages, 7 figures, conference 24CMH

SkillChain: Closing the Loop on Skill Evolution for Image-Based E-Commerce AI Assistants

SkillChain: 为基于图像的电商AI助手闭环技能演化

Yimin Hu, Mengtao Xu, Hao Guo, Yuheng Song, Xiaoyong Zhu, Bo Zheng

机构 * Alibaba Group（阿里巴巴集团） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 提出SkillChain框架，通过技能创建、路由优化和主体精炼三阶段自动化技能生命周期，解决电商图像助手多意图混淆问题，显著提升响应质量和用户参与度。

KCSAT-ML: Probing Reasoning Models with Nationwide-Cohort Human Difficulty

KCSAT-ML: 用全国队列人类难度探测推理模型

Sanghee Park, Geewook Kim, Kee-Eung Kim

机构 * NAVER Cloud AI（NAVER云AI） ； KAIST AI（韩国科学技术院人工智能系） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 提出KCSAT-ML基准（含664道韩国高考数学题及339道带官方错误率的核心题）和难度对齐推理增益（DRG）指标，揭示视觉语言模型在人类高错误率题目上准确率崩溃、测试时缩放非单调以及同一模型族内反缩放与过度思考并存的现象。

Comments 18 pages, 14 figures, 8 tables

GenAutoML: An Agentic Framework for Dynamic Architecture Generation and Optimization in Time-Series Analysis

GenAutoML: 面向时间序列分析的动态架构生成与优化的智能体框架

Oleeviya Babu Poikarayil, Cédric Schockaert, Abdulrahman Nahhas, Christian Daase, Mursal Dawodi, Jawid Ahmad Baktash

机构 * Paul Wurth S.A.（保罗·沃思公司） ； Otto-von-Guericke University（奥托·冯·格里克大学） ； Technical University of Munich（慕尼黑技术大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 提出GenAutoML框架，利用大语言模型作为神经架构师，通过沙盒反射循环和签名感知运行时自动生成并优化时间序列预测与异常检测的神经网络架构，引入动态可逆实例归一化提升非平稳条件下的鲁棒性。

Comments 26 pages, 17 figures, 12 tables. Under review

Can Factual Opinions Be Edited (Manipulated) in Large Language Models?

大型语言模型中的事实性观点能否被编辑（操纵）？

Yuanpu Cao, Ziyi Yin, Fenglong Ma, Jinghui Chen

机构 * The Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 提出FOE基准测试，评估当前知识编辑技术对事实性观点（如公众人物立场）的操纵能力，并发现其仅能实现表面修改，无法保持观点与证据的一致性；进而提出自生成证据对齐方法实现观点-证据对齐。

Comments Accepted to the ACL 2026 Main Conference

Earth Science Foundation Models: From Perception to Reasoning and Discovery

地球科学基础模型：从感知到推理与发现

Xiangyu Zhao, Bo Liu, Yuehan Zhang, Zelin Song, Wanghan Xu, Feng Liu, Fengxiang Wang, Ben Fei, Fenghua Ling, Wangxu Wei, Wenlong Zhang, Xiao-Ming Wu

机构 * Department of Data Science and Artificial Intelligence, The Hong Kong Polytechnic University（数据科学与人工智能系，香港理工大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文综述了地球科学基础模型，探讨了其从感知到多模态推理及科学发现的能力演进，并总结了其在大气、水圈、岩石圈等领域的广泛应用。

BLUEmed: Retrieval-Augmented Multi-Agent Debate for Clinical Error Detection

BLUEmed: 基于检索增强的多智能体辩论用于临床错误检测

Saukun Thika You, Nguyen Anh Khoa Tran, Wesley K. Marizane, Hanshu Rao, Qiunan Zhang, Xiaolei Huang

机构 * University of California, San Diego（加州大学圣地亚哥分校） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 提出BLUEmed框架，结合混合检索增强生成与多智能体辩论，通过分解临床笔记、检索证据、专家辩论及安全层过滤，在术语替换错误检测中达到最优性能。

Comments Accepted to the IEEE International Conference on Healthcare Informatics (ICHI) 2026

BrainPro: Towards Large-scale Brain State-aware EEG Representation Learning

BrainPro：迈向大规模脑状态感知的脑电图表征学习

Yi Ding, Muyun Jiang, Weibang Jiang, Shuailei Zhang, Xinliang Zhou, Chenyu Liu, Shanglin Li, Yong Li, Cuntai Guan

机构 * Nanyang Technological University（南洋理工大学） ； Shanghai Jiao Tong University（上海交通大学） ； Advanced Telecommunications Research Institute International（先进电信研究院） ； Southeast University（东南大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 提出BrainPro模型，通过检索式空间对齐和脑状态解耦模块，学习共享与特定状态表征，在9个公共BCI数据集上取得最优性能。

Comments 31 pages, 11 figures

Modular Multi-Domain Digital Twin Architecture: Sustainable Intent-Driven 6G Management

模块化多域数字孪生架构：可持续的意图驱动6G管理

Berk Buzcu, Marcin Pakula, Gevher Yesevi Keskin, Laura Finarelli, Gianluca Rizzo, Engin Zeydan, Jorge Baranda, Aitor Alcazar-Fernandez, Javier Velazquez-Martinez, Luis M. Contreras, Gil Kedar, Efi Dvir, Paweł Kryszkiewicz

专题命中 安全评测 ：trustworthy(abstract)

AI总结 提出一种将网络数字孪生作为专门服务域的多域编排架构，通过DT编排器处理预测性和规范性假设查询，实现跨域协调的可持续意图驱动6G管理，在绿色网络用例中减少28.5%的日电网消耗。

Comments 11 pages, submitted to IEEE JSAC call titled "Digital Twins for Wireless Networks: Enabling Application-Aware and Closed-Loop Optimization"

SeamEdit: A Black-Box VLM-Agnostic Pipeline for Large-Image Semantic Editing

SeamEdit: 一种用于大图像语义编辑的黑盒VLM无关流水线

Xiangyu Lyu, Dan Lei

机构 * Technische Universität Darmstadt（达姆施塔特工业大学） ； Fine-Arts Educator, Yuncheng Middle School（运城中学美术教师） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 提出SeamEdit，一种无需训练、模型无关的流水线，通过五阶段后处理解决大图像分块编辑中的语义变形、对齐漂移和接缝伪影问题，实现高质量语义编辑。

Comments 19 pages, 9 figures, 2 tables

Where, What, Why, and Importance: Structured Defect Grounding for Text-to-Image Feedback

位置、类型、原因与重要性：面向文本到图像反馈的结构化缺陷定位

Huaisong Zhang, Hao Yu, Yuxuan Zhang, Jiahe Wang, Xinrui Chen, Haoxiang Cao, Feng Lu, Wendong Zhang, Changqian Yu, Chun Yuan

机构 * Tsinghua University（清华大学） ； Kolors Team, Kuaishou Technology（快手科技Kolors团队） ； University of British Columbia（不列颠哥伦比亚大学） ； Vector Institute（向量研究所） ； South China Normal University（华南师范大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 提出结构化缺陷定位（SDG）方法，将文本到图像生成中的缺陷诊断建模为结构化集合预测，通过构建SDG-30K数据集和SDG-Eval评估协议，并利用视觉语言模型作为检测器，结合BoxFlow-GRPO将预测的缺陷集合转化为空间奖励以改进扩散模型对齐。

Comments 25 pages, 9 figures

From Seeing to Experiencing: Scaling Navigation Foundation Models with Reinforcement Learning

从看见到体验：通过强化学习扩展导航基础模型

Honglin He, Yukai Ma, Brad Squicciarini, Wayne Wu, Bolei Zhou

机构 * University of California, Los Angeles（加州大学洛杉矶分校） ； Coco Robotics（Coco机器人） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 提出S2E框架，结合离线视频预训练和模拟环境强化学习，通过锚点引导分布匹配和残差注意力模块，提升导航基础模型的交互性和安全性。

Comments 27 pages, 20 figures, 9 tables, conference

Pluralistic-Alignment Urbanism: Operationalizing a Right to AI for Inclusive Public Space

多元对齐城市主义：将人工智能权利操作化以促进包容性公共空间

Rashid Mushkani

专题命中 AI治理与伦理 ：alignment(title,abstract)；safety(abstract)；分类 cs.CY

AI总结 提出多元对齐城市主义（PAU）框架，通过两个蒙特利尔案例研究，将公共空间AI系统视为公民基础设施，并制定程序性AI权利，以处理分歧、亚组差异和偏好判断，实现包容性治理。

Comments Accepted to The 2026 ACM Conference on Fairness, Accountability, and Transparency (FAccT '26), June 25--28, 2026, Montreal, QC, Canada

Two Wrongs, No Right: Auditing Social-Desirability Bias in LLM Annotators for Computational Social Science

两个错误，没有正确：审计计算社会科学中LLM标注者的社会期望偏差

Varun Kotte

机构 * Varun Kotte 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；trustworthy(abstract)；分类 cs.CL、cs.CY、cs.LG

AI总结 研究审计了三个开源指令微调模型在TweetEval任务中的社会期望偏差，发现模型存在宽大、过度纠正和中性偏差，且提示干预无法纠正，聚合指标可能掩盖实质结论错误。

Structural transparency of societal AI alignment through Institutional Logics

通过制度逻辑实现社会AI对齐的结构性透明性

Atrisha Sarkar, Isam Faik

专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.CY

AI总结 本文提出结构性透明框架，分析AI对齐中的组织和制度决策，结合制度逻辑理论，识别机构逻辑及其关系、外部干扰及风险映射，补充信息透明方法的宏观分析。

Journal ref 2026

Intelligence as Managed Autonomy: Failure, Escalation, and Governance for Agentic AI Systems

智能作为受管自主：代理型AI系统的失败、升级与治理

Srini Ramaswamy

机构 * DNRS.ai USA（DNRS.ai美国公司） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；分类 cs.AI、cs.CY

AI总结 本文提出SMARt模型，通过形式化能力检测认知漂移、暂停推理、尝试恢复并在可靠性下降时放弃控制，以解决自主AI系统中的幻觉和持续不合理行为问题。

Comments This peer-reviewed paper is to appear in the Journal of Intelligent and Robotic Systems

Eigenism: Ethics for a Human-AI Future

Eigenism：人类与人工智能未来的伦理学

Dan Hendrycks

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 提出Eigenism伦理框架，将身份视为分级分布的信息模式，通过加权求和评估AI的福祉，并推广至人类，为AI对齐提供“身份工程”新路径。

Self-Guidance: Enhancing Neural Codecs via Decoder Manifold Alignment

自引导：通过解码器流形对齐增强神经编解码器

Xiang Li, Yixuan Zhou, Jingran Xie, Zhiyong Wu, Hui Wang

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 提出自引导方法，通过轻量特征映射损失对齐解码器内部流形，在不改变推理过程下提升VQ-VAE神经语音编解码器重建质量，实现低比特率SOTA性能并支持4倍码本缩减。

Comments 20 pages, 9 figures, accepted to ICML 2026, demo website available at https://sgvqvae.github.io/sgvqvae-demo

ECA: Efficient Continual Alignment for Open-Ended Image-to-Text Generation

ECA：面向开放图像到文本生成的高效持续对齐

Jiangtao Kong, Peijun Zhao, Chun-Fu Chen, Youngwook Do, Shaohan Hu, Tianyi Zhou, Huajie Shao

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 提出ECA方法，通过混合查询模块、Fisher动态扩展和字典重放，实现无需旧数据的持续对齐，缓解灾难性遗忘，提升开放图像到文本生成的增量学习性能。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026)

PaLMR: Towards Faithful Visual Reasoning via Multimodal Process Alignment

PaLMR: 通过多模态过程对齐实现忠实视觉推理

Yantao Li, Qiang Hui, Chenyang Yan, Kanzhi Cheng, Fang Zhao, Chao Tan, Huanling Gao, Jianbing Zhang, Kai Wang, Xinyu Dai, Shiguo Lian

机构 * National Key Laboratory for Novel Software Technology, Nanjing University（南京大学新型软件技术国家重点实验室） ； Data Science & Artificial Intelligence Research Institute, China Unicom（中国unicom数据科学与人工智能研究院） ； Unicom Data Intelligence, China Unicom（中国unicom数据智能） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.AI

AI总结 提出PaLMR框架，通过感知对齐数据层和过程对齐优化层，减少推理幻觉并提升视觉推理忠实度，在多个基准上取得最优结果。

Journal ref CVPR 2026 Findings

Multi-Modal Multi-Agent Robotic Cognitive Alignment enabled by Non-Invasive Consumer Brain Computer Interfaces: A Proof of Concept Exploration

基于非侵入式消费级脑机接口的多模态多智能体机器人认知对齐：概念验证探索

Nataliya Kosmyna, Liz Jenkins, Anoop K. Sinha

机构 * GOOGLE（谷歌） ； Paradigms of Intelligence（智能范式） ； Cambridge, MA, United States（马萨诸塞州剑桥市，美国） ； Mountain View, CA, United States（加利福尼亚州山景城，美国） 纠错

专题命中 其他安全 ：alignment(title)

AI总结 提出一种框架，利用消费级脑机接口监测脑电信号，在高认知负荷时延迟智能体通信，实现认知对齐的多智能体交互，初步验证了实时信号处理、大语言模型与机器人结合的可行性。

Comments 19 pages, 9 figures, for associated video, see https://youtu.be/0Tav-G87XGs

LLMs Can Better Capture Human Judgments--With the Right Prompts

LLMs 能更好地捕捉人类判断——使用合适的提示

Danica Dillion, Chen Cecilia Liu, Baihui Wang, Daniele Barolo, Tanmay Rajore, Niket Tandon, Pranathi Ravikumar, Kurt Gray

机构 * Complexity Science Hub, Vienna（维也纳复杂科学中心） ； The Ohio State University（俄亥俄州立大学） ； University of Cambridge（剑桥大学） ； University of Chicago（芝加哥大学） ； Microsoft Research（微软研究院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 通过简单提示策略，LLMs 能恢复人类反应的完整分布，并减少对措辞变化的敏感性，提升 AI-人类对齐。

Unraveling Syntax: Language Modeling and the Substructure of Grammars

解析句法：语言建模与语法的子结构

Laura Ying Schulz, Daniel Mitropolsky, Tomaso Poggio

机构 * Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 本文研究语言模型在上下文无关语法子结构上的学习行为，证明损失函数在顶层子语法上线性递归，并发现参数化模型并行学习子语法，子语法预训练能提升小模型性能并改善内部表征。

Comments Equal contribution by LYS and DM. Accepted to the 43rd International Conference on Machine Learning (ICML 2026)

Evaluating Pluralism in LLMs through Latent Perspectives

通过潜在视角评估LLM中的多元主义

Laura Majer, Jan Šnajder, Martin Tutek

机构 * University of Helsinki（赫尔辛基大学） ； ETH Zurich（苏黎世联邦理工学院） 纠错

专题命中 其他安全 ：alignment(abstract,comments)；分类 cs.CL

AI总结 提出一种领域无关的多层无监督框架，从LLM生成文本中提取潜在视角，评估多元主义差距，发现稀有视角仍被不成比例地低估。

Comments Pluralistic Alignment Workshop @ ICML 2026

Multi-Field Hybrid Retrieval-Augmented Generation for Maritime Accident Root Cause Analysis

面向海事事故根因分析的多字段混合检索增强生成

Seongjin Kim, Sungil Kim

机构 * Department of Industrial Engineering, Ulsan National Institute of Science and Technology (UNIST)（蔚山国立科学技术院工业工程系） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 提出多字段混合检索增强生成框架，利用结构化事故卡片和分层原因分类，通过字段感知的混合检索与融合排序，显著提升海事事故根因分析的检索和生成质量。

Thermodynamic assessment of machine learning models for solid-state synthesis prediction

固态合成预测机器学习模型的热力学评估

Jane Schlesinger, Simon Hjaltason, Nathan J. Szymanski, Christopher J. Bartel

机构 * University of Minnesota（明尼苏达大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 评估了机器学习模型预测固态材料合成可行性的热力学一致性，发现模型普遍高估合成可能性，但部分分数与热力学启发式趋势一致。

See What I See, Know What I Think: Dense Latent Communication Across Heterogeneous Agents

见我所见，知我所想：异构智能体间的密集潜通信

Siyi Chen, Xiaoyan Zhang, Meng Wu, Jonathan Tremblay, Valts Blukis, Stan Birchfield, Rene Vidal, Alvaro Velasquez, Sijia Liu, Qing Qu

专题命中 其他安全 ：alignment(abstract)

AI总结 针对异构智能体间文本通信高损耗问题，提出基于KV缓存变换的密集对齐方法，通过两阶段训练实现跨模型潜空间对齐，在上下文感知和未知场景下均优于基线，计算成本降低2-3倍。