大模型对齐与安全

An Emergent Mirage: Is Emergent Misalignment and Realignment Indeed a Robust Phenomenon?

一种新兴的海市蜃楼：新兴的错位与重新对齐真的是一种稳健的现象吗？

Abhinav Rao, Liancheng Gong, Bin Hu, Atharva Naik

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 研究新兴错位与重新对齐现象，通过受控微调循环研究其循环过程及相关表现，发现错位和重新对齐对数据集表面特征敏感，先前机制特征与行为错位不始终相关，指出当前EM证据欠稳健，需控制数据集伪像的评估协议。

Mixture of Probes: Learning from Privileged Modalities in Multimodal LLMs Through Probing

混合探针：通过探针在多模态大语言模型中从特权模态学习

Dominick Reilly, Qiyu Wu, Hiromi Wakaki, Srijan Das, Yuki Mistufuji

机构 * Sony Group Corporation（索尼集团公司） ； Sony AI（索尼人工智能） ； University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 研究多模态大语言模型在特权模态设置下的问题，提出混合探针（MoP）框架及MoP跨模态训练（MoP-X），通过结构化探测机制分离模态信号，经评估在多任务中优于基线，有效利用辅助模态训练可提升性能。

Comments Preprint (16 pages)

Secure Decentralized Federated Learning via Gossip and Virtual Voting

通过八卦和虚拟投票实现安全的去中心化联邦学习

Amirhossein Taherpour, Xiaodong Wang

机构 * Columbia University（哥伦比亚大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 研究如何实现安全的去中心化联邦学习，提出gspDAG-FL框架，通过八卦历史达成共识，结合多种验证方法提高弹性，经实验验证其在减少协调瓶颈、提高吞吐量及检测无效起源等方面效果良好，学习质量接近基于验证的账本FL。

Towards Precision Therapy in Hepatocellular Carcinoma: A Clinical-Reasoning LLM for Risk Stratification and Treatment Guidance

迈向肝细胞癌的精准治疗：用于风险分层和治疗指导的临床推理大语言模型

Peng Cui, Jitao Wang, Siyan Xue, Yao Huang, Haoming Xia, Dong Li, Dengxiang Liu, Weilin Wang, Liping Liu, Leida Zhang, Yunfu Cui, Tao Peng, Daolin Ji, Haitao Zhao, Wei Zhang, Xiaojuan Wang, Weijie Ma, Zongren Ding, Jinlong Li, Yuan Ding, Jiajing Zhao, Zhiyu Chen, Chengkun Yang, Ziyue Huang, Jiaqi Liu, Fusheng Liu, Yang Zhou, Xiaojuan Wang, Zhongquan Sun, Shiyun Bao, Xiaojun Wang, Ming Yang, Guangxin Li, Bin Shu, Yong Liao, Hongxuan Li, Yao Tang, Shizhong Yang, Yongyi Zeng, Yufeng Yuan, Yinpeng Dong, Jihui Hao, Jun Zhu, Jiahong Dong

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 研究针对肝细胞癌治疗问题，提出HCC-STAR临床推理大语言模型。通过处理电子病历叙述输出风险分层、治疗方案等。经多中心队列验证，性能领先，能助医生决策，是可靠的肝细胞癌风险分层和精准治疗决策支持系统。

Rethinking Small VLM Quantization: From Component-Wise Analysis to Hardware-Aware Edge Deployment

重新思考小型视觉语言模型量化：从组件级分析到硬件感知边缘部署

Hyeju Shin, Chorwon Kim, Ryangsoo Kim, Hark Yoo, Jaein Kim

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文针对小型视觉语言模型量化，提出系统评估框架，在特定硬件上验证五个假设，分离相关组件得出结论，包括量化敏感性受结构范式影响、SigLIP编码器延迟情况、大语言模型INT4量化利弊、复合量化误差特点及不同平台每焦耳智能差异。

Comments 14 pages. Accepted at the ICML 2026 Workshop on Hypothesis Testing

TAG: A Lightweight Framework for Test-Driven Agentic Artifact Generation

代理创建，我们验证：用于代理工件生成的轻量级框架

Yaniv Melamed, Yoni Zukerman, Michal Shechter, Miri Weissler, Ashwin Patil, Hani Neuvirth-Telem

机构 * Microsoft（微软） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究如何用大语言模型生成结构化工件并使其可靠用于生产部署。核心方法是基于“LLMs生成，我们验证”原则构建轻量级框架，贡献是提出含三关键属性的框架并在安全领域验证，还可用于其他工件生成任务。

MedPMC: A Systematic Framework for Scaling High-Fidelity Medical Multimodal Data for Foundation Models

MedPMC：一种用于为基础模型扩展高保真医学多模态数据的系统框架

Hyunjae Kim, Dain Kim, Pan Xiao, Serina S. Applebaum, Younjoon Chung, Xuguang Ai, Yu Yin, Roy Jiang, Yuexi Du, Yawen Wei, Yiming Kong, Tuo Guo, Zhiyuan Cao, Mengmeng Du, Yuelei Fu, Yan Hu, Rui Shi, Gui Yang, Kevin W. Jin, Yuntian Liu, Yuxuan Tian, Jonathan Marquez, Zhen Chen, Sheng Zhang, Hoifung Poon, Hua Xu, Jaewoo Kang, Qingyu Chen

机构 * Yale University（耶鲁大学） ； Korea University（韩国大学） ； Washington University in St. Louis（圣路易斯华盛顿大学） ； The University of Queensland（昆士兰大学） ； The University of Texas Health Science Center at Houston（德克萨斯大学休斯顿健康科学中心） ； University of Washington（华盛顿大学） ； Microsoft Research（微软研究院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 研究针对医学多模态基础模型受高质量临床数据限制问题，提出MedPMC框架，将文献转化为高保真基础设施。经实验，该框架整理大量图像-文本对，在多方面评估表现出色，训练模型在多基准测试和临床场景中效果显著，还公开相关资源。

CARLA-GS: Decoupling Representation, Reasoning, and Physics Simulation for Autonomous Driving Corner-Case Synthesis

CARLA-GS：用于自动驾驶极端情况合成的解耦表示、推理和物理模拟

Kaicong Huang, Meng Ma, Ruimin Ke

机构 * Rensselaer Polytechnic Institute（伦斯勒理工学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 研究自动驾驶极端情况合成问题，提出CARLA-GS模块化管道，解耦视觉表示、语义推理和物理执行并保持跨模块耦合，能从实际驾驶数据生成可编辑场景，经多智能体大语言模型推理等步骤，实现可控生成及逼真、时空一致的视频。

A knowledge-augmented dataset of high-risk driving scenarios with LLM annotations for autonomous driving

一个用于自动驾驶的具有大语言模型注释的高风险驾驶场景知识增强数据集

Heye Huang, Jingguang Li, Zhiyuan Zhou, Paul Liang, Mingyu Wu, Kitae Jang, Jianqiang Wang

机构 * Korea Advanced Institute of Science and Technology（韩国科学技术院） ； Fudan University（复旦大学） ； Massachusetts Institute of Technology（麻省理工学院） ； Shanghai Jiao Tong University（上海交通大学） ； Tsinghua University（清华大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 研究自动驾驶中高风险场景数据不足问题，核心方法是构建K-Risk数据集，整合多源轨迹数据并利用大语言模型生成注释，主要贡献是为自动驾驶开发和评估提供标准化基础。

Comments 22 pages, 9 figures

Can Trustless Agents Be Trusted? An Empirical Study of the ERC-8004 Decentralized AI Agent Ecosystem

无信任代理能否被信任？ERC-8004 去中心化 AI 代理生态系统的实证研究

Xihan Xiong, Zelin Li, Wei Wei, Qin Wang, William Knottenbelt, Zhipeng Wang

机构 * Imperial College London（伦敦帝国学院） ； Ohio State University（俄亥俄州立大学） ； University of Bristol（布里斯托大学） ； The University of Manchester（曼彻斯特大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本研究首次实证分析 ERC-8004 协议在三条链上的身份、声誉和验证注册表，发现大多数注册为占位符，声誉不可比且易被操纵，大量评论者存在 Sybil 行为，表明该协议目前无法提供可信决策基础。

Auto-DSM Under the Lens: A Black-Box Evaluation Framework for LLM-Based DSM Generation

镜头下的自动DSM：基于大语言模型的DSM生成的黑盒评估框架

Niels Potters, Theo Hofman

机构 * Eindhoven University of Technology（埃因霍温理工大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究基于大语言模型的DSM生成能力，提出黑盒评估框架，结合多种指标评估，在两个数据集实验，结果显示LLMs能生成合理DSM但对一些因素敏感，为审核自动DSM管道及集成相关方法到MBSE工作流奠定基础。

Beyond the Leaderboard: A Synthesis of Tool-Use, Planning, and Reasoning Failures in Large Language Model Agents

超越排行榜：大语言模型智能体中工具使用、规划和推理失败的综合分析

Wael Albayaydh, Rui Zhao, Ivan Flechais

机构 * University of Oxford（牛津大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文综合多篇论文形成大语言模型智能体局限性交叉分类法，识别出六个失败集群，通过迭代分组得出分类法，发现失败与任务长度非线性相关，单个子任务性能不能保证端到端成功，额外脚手架效果不佳，同时在部分任务上有进展。

Comments 16 pages, 3 tables, 1 figure

FormalRx: Rectify and eXamine Semantic Failures in Autoformalization

FormalRx：纠正和检查自动形式化中的语义错误

Haocheng Wang, Baiyu Huang, Yingjia Wan, Xiao Zhu, Xiaoyang Liu, Yinya Huang, Zhijiang Guo

机构 * LARK Lab, HKUST(GZ)（香港科技大学（广州）LARK实验室） ； ETH Zurich（苏黎世联邦理工学院） ； UCLA（加州大学洛杉矶分校） ； SJTU（上海交通大学） ； ETH AI Center（苏黎世联邦理工学院人工智能中心） ； HKUST（香港科技大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 研究自动形式化中语义对齐问题，提出FormalRx框架，核心是SCI错误分类法，能实现对齐判定、错误分类、定位及纠正，通过实例验证性能优于基线，助力自动形式化系统诊断与改进。

Comments 44 pages, 5 figures. Accepted at the 43rd International Conference on Machine Learning (ICML 2026)

Wrong Before Right: Late Rescue and Interface Failure in Aligned Language Models

先错后对：对齐语言模型中的后期挽救与接口故障

Jiaqi Deng

机构 * Independent Researcher（独立研究者） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 研究对齐语言模型中正确性的构建，用分层差分轨迹识别错误倾向，发现中间层会短暂倾向错误答案，后期层校正挽救。通过实验验证该现象，并得出对齐放大、预测压缩失败、可训练及在自然语言I/O中存在等结论。

Comments 16 pages, 10 figures. Code to be released

Measuring What Matters: A Unified Evaluation Framework for GNN Explainability

衡量重要因素：GNN可解释性的统一评估框架

Francesco Paolo Nerini, Mirko Zaffaroni, Paolo Baracco, Gabriele Ciravegna, Alan Perotti

机构 * Sapienza University of Rome（罗马萨皮恩扎大学） ； Intesa Sanpaolo AI Research（Intesa Sanpaolo人工智能研究） ； Anti Financial Crime Digital Hub（反金融犯罪数字中心） ； Intesa Sanpaolo Innovation Center（Intesa Sanpaolo创新中心） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 研究为G-XAI引入统一量化基准框架，无需真实假设，形式化表格可解释性指标，通过大规模基准研究确定跨指标和任务的帕累托前沿解释器并给出可用性指南。

A Retrieval-Augmented Framework for Detecting and Resolving Pragmatic Ambiguities in Natural Language Requirements

一种用于检测和解决自然语言需求中语用歧义的检索增强框架

Pavithra PM Nair, Preethu Rose Anish

机构 * Tata Consultancy Services（塔塔咨询公司） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究自然语言需求中的语用歧义，利用检索增强技术和不同领域知识库模拟不同专业利益相关者，生成候选消歧需求并验证，评估该方法在需求文档上的效果。

The Good, the Bad, and the Brittle: Benchmarking Robustness and Generalisation of Histopathology Foundation Models

好的、坏的和脆弱的：病理基础模型的稳健性和泛化基准测试

Dhyey Yajnik, Amina Asif, Fayyaz Minhas

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 用REET工具和NR-Kfold协议对12个病理基础模型及ResNet基线进行基准测试，引入PPI分析，表明病理基础模型在稳健性和泛化上优于CNNs，模型扩展收益递减，强调需评估分布变化。

Modular Foundation Models for Time-Series Perception in Digital Twins

数字孪生中用于时间序列感知的模块化基础模型

Quang Hung Pham, Ryad Zemouri, Martin Gagnon, Luc Vouligny

机构 * Hydro-Québec（魁北克水电公司） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 针对数字孪生和PHM系统中时间序列感知挑战，提出基于预训练表示编码器集合的模块化基础模型，利用自监督学习，引入选通机制，支持多下游任务，消融研究验证各部分作用，实验有竞争力。

DETECT-3B-Omni is Agnostic of Content and Demographics

DETECT-3B-Omni对内容和人口统计学特征不敏感

Nicolas M. Müller, Aditya Tirumala Bukkapatnam, Dominik Schnieders, Zohaib Ahmed

机构 * Resemble AI（相似人工智能公司） ； Deutsche Telekom（德国电信公司） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 研究Resemble AI的DETECT-3B-Omni检测器语义独立性，用来自不同AI语音克隆系统的多样音频样本测试，通过等价测试表明其检测准确率不受语音内容、说话者性别、年龄和地区影响。

CONTRA: Red-Teaming Configurations of Personalizable Agents

CONTRA：可个性化代理的红队配置

Jonathan Nöther, Adish Singla, Goran Radanovic

机构 * Max Planck Institute for Software Systems（马克斯·普朗克软件研究所） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 探讨代理配置与执行危险行为风险的关系，提出CONTRA算法，通过推理评估良性但危险的配置发现导致恶意行为的代理配置，构建数据集分析发现多数技能有恶意配置，CONTRA能成功识别部分危险配置。

A Scalable Approach to Evaluating Moral Sensitivity in LLMs

一种评估大语言模型道德敏感性的可扩展方法

Daniel Kilov, Secil Yanik Guyot, Caroline Hendy, Sichao Li, Seth Lazar

专题命中 安全评测 ：alignment(abstract)；分类 cs.CY

AI总结 研究如何评估大语言模型道德敏感性，提出新方法解决AI对齐研究中行为评估的问题，引入MORPH-1K基准测试并应用于八个模型，证明相关特征语义内容稳定。

Comments 9 pages, 3 figures, preprint

AgentLTL: A Trace-Verification Framework for Measuring, Enforcing, and Training Procedural Compliance in Tool-Using LLM Agents

AgentLTL：一种用于测量、执行和训练使用工具的语言模型代理程序合规性的跟踪验证框架

Laïla Elkoussy, Julien Perez

机构 * EPITA ； Bpifrance 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 介绍基于一阶线性时态逻辑的AgentLTL语言，用于表达代理跟踪的程序规则，产生确定性无评判的合规分数，此框架可用于约束和微调，提升模型合规性与准确性。

Auditing the Audit: Five Failure Modes in Benchmark-Validity Audits

审核审核：基准有效性审核中的五种失败模式

Yanhang Li, Zhichao Fan, Zexin Zhuang

机构 * European Parliament and Council（欧洲议会和理事会） ； National Institute of Standards and Technology（美国国家标准与技术研究院） ； State Administration for Market Regulation and Standardization Administration of China（中国国家市场监督管理总局和中国国家标准化管理委员会） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 研究治理框架要求的基于扰动的构造有效性审核的脆弱性，指出五种管道失败类型并通过案例展示，提出六点尽职调查关卡，定位其为保证级证据的协议。

Comments 18 pages, 4 figures. Accepted at the TAIGR Workshop at ICML 2026

Benchmarking API Drift in LLM-Generated Quantum Code Across Successive SDK Versions

跨连续软件开发工具包版本对大语言模型生成的量子代码中的 API 漂移进行基准测试

Mohammad Arif Rasyidi, Syahirul Faiz

机构 * Department of Computer Science（计算机科学系） ； Khalifa University（卡利法大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究大语言模型生成的量子代码能否可靠适配特定 SDK 版本（API 漂移问题），引入量子 API 漂移基准，以 Qiskit 为例评估 17 个模型，揭示版本对齐是量子代码生成评估新维度及 API 漂移恢复情况。

AI Native Games: A Survey and Roadmap

AI原生游戏：综述与路线图

Zhiyue Xu, Fandi Meng, Kaijie Xu, Clark Verbrugge, Simon Lucas, Jian Zhao

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Zhongguancun Academy（中关村学院） ； Zhongguancun Institute of Artificial Intelligence（中关村人工智能研究所） ； School of Computer Science, McGill University, Montreal, Quebec, Canada（麦吉尔大学计算机科学学院） ； Game AI Research Group, Queen Mary University of London, London, United Kingdom（伦敦女王学院游戏人工智能研究组） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文定义AI原生游戏为运行时生成式AI构成核心循环的游戏，提出G/N分类法分析53个实例，指出核心设计问题是将语义开放性组织为稳定游戏玩法，并给出路线图。

DramaDirector: Geometry-Guided Short Drama Generation

DramaDirector: 几何引导的短剧生成

Hengji Zhou, Sijie Liu, Jianrun Chen, Xingchen Zou, Lianghao Xia, Liqiang Nie

机构 * South China University of Technology（华南理工大学） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 提出几何引导框架DramaDirector，通过检索真实短剧的深度-姿态参考，结合模式约束SFT和GRPO训练规划器，实现从情节到多镜头短剧的生成，在忠实度、一致性和可控性上优于基线。

Comments 20 pages, 17 figures, 6 tables. Code is available at https://github.com/iLearn-Lab/DramaDirector

Text Dictates, Music Decorates: Energy-based Attention for Editable Dance Motion Generation

文本主导，音乐装饰：基于能量的注意力机制用于可编辑舞蹈动作生成

Seong Jong Yoo, Siyuan Peng, Felix Gu, Stratis Aloimonos, Cornelia Fermüller

机构 * University of Maryland, College Park（马里兰大学帕克分校） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 提出STREAM模型，通过模态解耦的扩散变压器分离文本语义和音乐节奏控制，实现可编辑舞蹈动作生成，并引入新数据集Motorica++和评估指标EDS。

Comments Accepted to ECCV 2026

Controllable Sim Agents with Behavior Latents

具有行为潜变量的可控模拟智能体

Juanwu Lu, Junyu Zhu, Ziran Wang

机构 * Purdue University（普渡大学） ； University of Tokyo（东京大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 提出可控神经变分智能体（CNeVA），通过闭环共轭变分更新推断行为潜变量，结合修正流轨迹生成器，实现可解释轴上的可控模拟，在Waymo数据集上达到竞争性真实感并提供通道级可控性。

Comments 23 pages, 5 tables, 8 figures

Towards Robustness against Typographic Attack with Training-free Concept Localization

基于训练无关的概念定位实现对抗印刷体攻击的鲁棒性

Bohan Liu, Wenqian Ye, Guangzhi Xiong, Zhenghao He, Sanchit Sinha, Aidong Zhang

机构 * University of Virginia（弗吉尼亚大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 提出一种无需训练的可解释性方法，通过分析注意力头对词汇和语义的编码差异，定位并干预ViT中的词汇偏置电路，从而在不额外训练的情况下显著提升对印刷体攻击的鲁棒性。

Comments 15 pages main text, provisionally accepted to ECCV 2026

Learning to Move Before Learning to Do: Task-Agnostic pretraining for VLAs

先学移动再学做事：面向VLA的任务无关预训练

Junhao Shi, Siyin Wang, Xiaopeng Yu, Li Ji, Jingjing Gong, Xipeng Qiu

机构 * Fudan University（复旦大学） ； Shanghai Innovation Institute（上海创新研究院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 提出任务无关预训练（TAP）框架，先通过自监督逆动力学从廉价无标签交互数据学习可迁移运动先验，再用少量专家数据将先验与语言对齐，显著降低VLA模型对专家演示的依赖。

Comments Accepted to ICML 2026, 21 pages,6 figures