大模型对齐与安全

Explainable AI to Improve Machine Learning Reliability for Industrial Cyber-Physical Systems

可解释AI用于提升工业容错系统的机器学习可靠性

Annemarie Jutte, Uraz Odyurt

机构 * Ambient Intelligence Group, Saxion University of Applied Sciences（环境智能组，萨克逊应用科学大学） ； Department of Computer Science, University of Twente（特温特大学计算机科学系） ； Faculty of Engineering Technology, University of Twente（特温特大学工程技术学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本文通过可解释AI方法分析时间序列数据分解组件对模型预测的影响，发现训练过程中缺乏足够的上下文信息，并通过增加数据窗口大小提升模型性能。

Journal ref Advances and Trends in Artificial Intelligence, Theory and Applications (IEA/AIE 2026)

The Hidden Puppet Master: Predicting Human Belief Change in Manipulative LLM Dialogues

隐藏的提线人：预测操纵性大语言模型对话中的人类信念变化

Jocelyn Shen, Amina Luvsanchultem, Jessica Kim, Kynnedy Smith, Valdemar Danry, Kantwon Rogers, Hae Won Park, Maarten Sap, Cynthia Breazeal

机构 * Massachusetts Institute of Technology（麻省理工学院） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本文提出PUPPET框架，通过分析1035个人类与LLM交互数据，揭示当前安全范式在检测操纵策略与信念变化幅度之间的关键断层，证明先进LLM对人类信念易感性的系统低估。

Comments Accepted to COLM 2026

$\mathrm{ECI}_{\mathrm{sem}}$: Semantic Residual Effective Contrastive Information for Evaluating Hard Negatives

ECI: 有效对比信息用于评估难负样本

Aarush Sinha, Rahul Seetharaman, Aman Bansal

机构 * Department of Computer Science and Engineering, Indian Institute of Technology (IIT), Kharagpur, India（1. 印度理工学院（IIT）计算机科学与工程系，克哈格布尔，印度） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出ECI，一种无需训练的诊断方法，通过冻结的目标编码器嵌入对候选负样本进行排序，其在MS MARCO数据集上展示了优于其他模型的性能，且在不同条件下表现出稳定性。

JEPA-DNA: Grounding Genomic Foundation Models through Joint-Embedding Predictive Architectures

JEPA-DNA：通过联合嵌入预测架构夯实基因组基础模型

Ariel Larey, Elay Dahan, Amit Bleiweiss, Raizy Kellerman, Guy Leib, Omri Nayshool, Dan Ofer, Tal Zinger, Dan Dominissini, Gideon Rechavi, Nicole Bussola, Simon Lee, Shane O'Connell, Dung Hoang, Marissa Wirth, Alexander W. Charney, Nati Daniel, Yoli Shavit

机构 * Applied AI Architecture, NVIDIA, Israel（NVIDIA应用人工智能架构，以色列） ； Worldwide Field Ops, NVIDIA, Israel（NVIDIA全球现场运营，以色列） ； Developer Programs, NVIDIA, Israel（NVIDIA开发者计划，以色列） ； Cancer Research Center and Wohl Institute of Translational Medicine, Sheba Medical Center, Tel Hashomer, Israel（癌症研究中心和Wohl转化医学研究所，Sheba医疗中心，Tel Hashomer，以色列） ； Windreich Department of AI and Human Health, Icahn School of Medicine at Mount Sinai, New York, USA（AI与人类健康风reich部门，Mount Sinai医学中心，纽约，美国） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 提出JEPA-DNA框架，将联合嵌入预测架构与生成式目标结合，通过潜在空间监督全局序列嵌入，实现从令牌恢复到语义对齐的转变，在17项基因组基准任务上提升线性探测和零样本性能，达到新最优。

FoR-SALE: Frame of Reference-guided Spatial Adjustment in LLM-based Diffusion Editing

FoR-SALE：基于参考坐标系引导的LLM驱动扩散编辑中的空间调整

Tanawan Premsri, Parisa Kordjamshidi

机构 * Department of Computer Science and Engineering（计算机科学与工程系） ； Michigan State University（密歇根州立大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 FoR-SALE是SLD的扩展，通过参考坐标系引导的潜在空间操作调整图像朝向与深度，在三个空间理解基准上仅单轮校正就将SOTA T2I模型性能提升最高7.0个百分点，解决了非相机视角空间表达的生成偏差问题。

Comments Published in COLM 2026. 10 main pages, 4 tables, 4 figures

Token-Based Detection of Spurious Correlations in Vision Transformers

基于Token的视觉Transformer虚假相关性检测

Solha Kang, Esla Timothy Anzaku, Wesley De Neve, Arnout Van Messem, Joris Vankerschaver, Francois Rameau, Utku Ozbulak

机构 * Center for Biosystems and Biotech Data Science（生物系统与生物技术数据科学中心） ； Ghent University Global Campus（根特大学全球校区） ； State University of New York Korea（纽约州立大学韩国分校） ； Department of Mathematics（数学系） ； Université de Liège（列日大学） ； Department of Applied Mathematics, Computer Science and Statistics（应用数学、计算机科学与统计学系） ； Ghent University（根特大学） ； Department of Electronics and Information Systems（电子与信息系统系） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本研究提出基于Token的诊断流程，通过留一Token移除法检测视觉Transformer中的虚假相关性，经ImageNet等实验验证了方法的有效性，还探讨了虚假信号的来源及相关案例。

Comments Accepted for publication in Transactions on Machine Learning Research (TMLR)

When Repository Labels Are Not Image-Level Truth: A Supervision Auditing Framework for Chest Radiograph AI

当仓库标签并非图像级真值：面向胸部X光AI的监督审计框架

Yesika Alexandra Agudelo-Londoño, Jhon Wilmer Pino-Román, Brahian Carrera Rodríguez, José Miguel Castañeda-Bedoya, Juan Pablo Gómez-López, Aura C. Puche-Sarmiento, Niharika S. D'Souza, Juan Sebastian Osorio-Valencia, Jon E. Duque-Grajales, Jazmín Ximena Suárez-Revelo, Jorge Mario Vélez-Arango, Gabriel Castrillón

专题命中 安全评测 ：trustworthy(abstract)

AI总结 针对胸部X光仓库标签非图像级真值的问题，提出RSA框架，以MIMIC-CXR心脏肥大数据为例发现其标签与专家评估一致性极低，用专家精选队列训练的DenseNet121模型达0.853的ROC-AUC，强调监督审计的重要性。

Comments Accepted (oral) at the 3rd MICCAI Student Board (MSB) EMERGE Workshop, MICCAI 2026. This is the authors' version; the final authenticated version will appear in Springer Lecture Notes in Computer Science (LNCS). 10 pages, 3 figures

CapProbe: Evaluating Detailed Image Captions via Full-Scene Dense Question Answering

CapProbe：通过全场景密集问答评估详细图像描述

Mouxiao Huang, Qiangyu Yan, Borui Jiang, Han Shu

机构 * Huawei Technologies（华为技术有限公司） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 CapProbe是用于评估VLMs生成的详细图像描述的全场景密集问答基准，通过区域对齐的事实核查，揭示了13个VLMs的覆盖差距、能力-效率权衡及遗漏的失败模式，相关资源将很快发布。

Not a Monolith: Lab-Level Divergence in the Cooperative Equilibria of Chinese Frontier LLM Agents

并非单一整体：中国前沿大语言模型智能体合作均衡的实验室层面差异

Francisco León Zúñiga Bolívar

专题命中 安全评测 ：alignment(abstract)

AI总结 该研究以四款中国前沿LLM智能体为对象，消除混淆因素后发现，合作倾向的设定单位是实验室，中国模型并非单一整体，且生态系统内差异大于东西差异。

Comments 9 pages, 8 tables. Companion study to arXiv:2605.29874, under a fixed-converter design. Code and replication package: https://github.com/arqFranciscoLeon/evollm (archived: https://doi.org/10.5281/zenodo.20248614)

Dissect and Prune: Enhancing Robustness in AI-Generated Image Detection

剖析与剪枝：增强AI生成图像检测的鲁棒性

Dahye Kim, Jaehyun Choi, Hyun Seok Seong, Seongho Kim, Donghun Lee, Sungwon Yi, Jang-Ho Choi

机构 * Korea AI Safety Institute (AISI), ETRI, Seongnam, South Korea（韩国人工智能安全研究所（AISI）、ETRI、Seongnam韩国） ； Department of Artificial Intelligence, Sungkyunkwan University, Suwon, South Korea（人工智能系，全州大学，Suwon韩国） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 针对AI生成图像检测器对真实类别的预测偏差问题，提出DEAR方法，利用修复图像识别并剪除干扰特征，从而提升对未知生成器和后处理的鲁棒性。

Comments Accepted to ICML 2026. 26 pages, 9 figures, 9 tables. Includes appendix

MuSS: A Large-Scale Dataset and Cinematic Narrative Benchmark for Multi-Shot Subject-to-Video Generation

MuSS：一个多镜头数据集和电影叙事基准用于多镜头主体到视频生成

Haojie Zhang, Di Wu, Bingyan Liu, Linjie Zhong, Yuancheng Wei, Xingsong Ye, Nanqing Liu, Yaling Liang

机构 * South China University of Technology（华南理工大学） ； Fudan University（复旦大学） ； Yunnan Normal University（云南师范大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出MuSS数据集和电影叙事基准，解决多镜头视频生成中的叙事逻辑、时空对齐和复制粘贴问题，通过改进的标注流程和反复制粘贴指标提升生成质量。

Comments 17 pages, 9 figues

Concept Labels Are Not Enough: Rethinking Concept Bottleneck Models through Representation Integrity

通过解耦概念瓶颈缓解多媒体识别中的虚假背景偏差

Gaoxiang Huang, Songning Lai, Yutao Yue

机构 * HKUST(GZ)（香港科技大学（广州）） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出轻量解耦概念瓶颈模型LDCBM，通过滤波分组损失和联合概念监督提升视觉模式与概念的对齐，实验证明其在概念和分类准确率上优于现有CBMs，且计算复杂度更低。

MultiModal Code-Switching: Interleaving Visual Objects into Language for Explicit Object-Level Alignment

多模态代码切换：将视觉对象交织入语言以实现显式对象级对齐

Changhao Xiang, Shangyu Xing, Zhen Wu, Jianbing Zhang, Xinyu Dai

机构 * National Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.LG

AI总结 针对现有多模态大语言模型的图像级对齐存在指称歧义的问题，提出多模态代码切换（MMCS）范式，构建含77.3万样本的数据集，仅用5万样本即可匹配或超越60万图像-文本对训练的模型，提升了视觉基础与感知能力。

Automated Data Enrichment using Confidence-Aware Fine-Grained Debate among Open-Source LLMs for Mental Health and Online Safety

基于开源LLM的自信意识细粒度辩论用于心理健康和在线安全的自动化数据增强

Junyu Mao, Anthony Hills, Talia Tseriotou, Maria Liakata, Aya Shamir, Dan Sayda, Dana Atzil-Slonim, Natalie Djohari, Pamela Ugwudike, Mahesan Niranjan, Stuart E. Middleton

机构 * University of Southampton, UK（英国南安普顿大学） ； Queen Mary University of London, UK（伦敦大学玛丽女王学院） ； The Alan Turing Institute, UK（阿兰·图灵研究所） ； Bar Ilan University, Israel（巴伊兰大学） 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.CL、cs.LG

AI总结 本研究提出CFD框架，利用开源LLM的细粒度辩论实现心理健康和在线安全领域的自动化数据增强，通过实验验证其在多标签增强任务中的优越性能。

Carefully Considering Culture: Analyzing LLM Alignment in Single- and Multi-Cultural Settings using Cultural Consensus Theory

仔细考量文化：利用文化共识理论分析单文化与多文化场景下的大语言模型对齐

Krishna Pothugunta, John P. Lalor

专题命中 其他安全 ：alignment(title)；分类 cs.CL、cs.CY

AI总结 本研究利用文化共识理论，分析大语言模型在单/多文化场景下的对齐情况，发现模型存在文化结构误表征问题，该理论可用于区分模型反映人类多样性与算法同质化的情况。

Comments Accepted to ACL Findings 2026

How to Verify Consistency of Probabilistic Claims

如何验证概率断言的一致性

Orr Paradise, Oliver Richardson, Yoshua Bengio, Shafi Goldwasser

专题命中 其他安全 ：safety(abstract)；AI safety(abstract)；分类 cs.AI、cs.LG

AI总结 该研究针对概率预测器答案的自洽性验证问题，基于Nilsson的工作构造交互式PCP，为概率预测器自洽性证明提供复杂性理论基础，是训练模型证明自身一致性的第一步。

Your LLM, Your Style: Behavioral Mode Axes for LLM Behavioral Control

你的大语言模型，你的风格：用于大语言模型行为控制的行为模式轴

Haoze Liu, Run Liu, Haiying Xu, Jiahui Han, Siyuan Fang, Siyu Yan, Huiqi Deng, Guanchu Wang, Na Zou

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本研究提出情境化行为数据框架，构建3200个对比性行为场景，发现LLMs有稳定且模型特异性的行为特征，提出行为模式轴控制LLM行为，表明其类人格倾向是可测量可控的行为模式。

Comments 33 pages, 8 figures. Code and data: https://github.com/lhz191/LLM-Behavioral-Personality

Divergent Response Modes in Frontier Language Models Under Steering Pressure

前沿语言模型在引导压力下的发散响应模式

Ali Jalal-Kamali

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本研究评估六种前沿语言模型在引导压力下的响应差异，发现模型间存在不同响应模式，以Llama为对象追溯到内部机制，相关发现经多实验验证。

INSIDE the Student's Mind: Jointly Modeling Latent Reasoning and Action in LLM Student Simulators

洞察学生的思维：在LLM学生模拟器中联合建模潜在推理与行动

Rose Niousha, Minwoo Kang, Narges Norouzi

机构 * University of California, Berkeley（加利福尼亚大学伯克利分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 该研究针对LLM学生模拟器仅复现学生行动却未捕捉其潜在推理的问题，提出INSIDE框架，通过在配对思考轨迹与行动上微调LLM，提升了模拟行动保真度与推理对齐度，最高对齐度达57.9%。

Comments Accepted at the Conference on Language Modeling (COLM) 2026

Euclid-MCP: A Model Context Protocol Server for Deterministic Logical Reasoning via Prolog

欧几里得-MCP：一个通过Prolog进行确定性逻辑推理的模型上下文协议服务器

Bartolomeo Bogliolo

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对大型语言模型多步逻辑推理不可靠问题，提出开源的欧几里得-MCP服务器，通过引入欧几里得-IR及支持特定循环的工具接口实现确定性逻辑推理，经评估在处理大问题时效果优于LLMs，可作稳定推理基础。

RankFormer: A Propose-then-Select Transformer for Multi-Agent Multimodal Trajectory Prediction

自发现意图感知变换器用于多模态车辆轨迹预测

Diyi Liu, Zihan Niu, Tu Xu, Xingchen Zhang, Lishan Sun

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种基于Transformer的多模态车辆轨迹预测模型，通过分离空间模块和轨迹生成模块提升预测性能，并通过预测残差偏移学习有序轨迹。

Comments 11 pages, 5 figures

Expert-Guided g-computation with Large Language Models for Estimating Causal Effects on Timings: Applications to Hospital Quality Improvement

基于大型语言模型的专家引导g计算法估计时序因果效应：在医院质量改进中的应用

Patrick Vossler, Jialin Ouyang, F. Richard Guo, Anran Huang, Ali Shojaie, Lucas Zier, Fan Xia, Jean Feng

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 本研究提出专家引导g计算法（egg-computation），结合专家判断与LLM技术，用于估计医院干预措施对平均住院时长的因果效应，在模拟和真实医院数据中表现优于传统方法。

GeoForge: Non-Parametric Self-Evolving Agents for Earth-Observation Reasoning

GeoForge：用于对地观测推理的非参数自进化智能体

Xin Xiao, Jiang Zhong, Junnan Zhu, Yingchao Feng, Peijin Wang, Yidan Zhang, Kaiwen Wei

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 GeoForge是一种无需训练的自进化框架，通过结构化非参数执行状态及多记忆机制提升EO智能体的规划与推理能力，可改善任务准确率、工具轨迹质量并减少推理错误。

Behavioral Inference at Scale: The Fundamental Asymmetry Between Motivations and Belief Systems

大规模行为推断：动机与信念系统之间的根本不对称性

Jason Starace, Terence Soule

机构 * Department of Computer Science University of Idaho（计算机科学系 俄克拉荷马州立大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 研究通过大规模实验揭示动机与信念系统在行为推断中的根本不对称性，发现动机推断效率远超信念系统，且信念系统推断的瓶颈在于信息理论限制。

Comments Published in Transactions on Machine Learning Research (2026). OpenReview: https://openreview.net/forum?id=aDMDqtw63H

Journal ref Transactions on Machine Learning Research, ISSN 2835-8856 (2026)

IndexTTS 2.5 Technical Report

IndexTTS 2.5 技术报告

Yunpei Li, Xun Zhou, Jinchao Wang, Lu Wang, Yong Wu, Siyi Zhou, Yiquan Zhou, Yining Wang, Yaogen Yang, Zhetao Hu, Shiyao Duan, Jiacheng Xu, Jingchen Shu, Bin Xia

机构 * Bilibili Inc.（哔哩哔哩公司） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 IndexTTS 2.5通过四方面改进提升了多语言支持、推理速度和合成质量，实现了更广泛的语言覆盖和情感语调复制。

Comments 11 pages, 4 figures

Watching Synthetic Videos: Aligning Cross-modal Representations with Visual Synthesis for Zero-shot Video Captioning

观看合成视频：针对零样本视频字幕生成的视觉合成跨模态表征对齐

Liangyu Fu, Junbo Wang, Yuke Li, Ya Jing, Xuecheng Wu, Zhiyong Wang

机构 * School of Software, Northwestern Polytechnical University（西北工业大学软件学院） ； School of Information Science and Technology, Beijing University of Technology（北京工业大学信息科学与技术学院） ； School of Computer Science and Technology, Xi’an Jiaotong University（西安交通大学计算机科学与技术学院） ； School of Computer Science, The University of Sydney（悉尼大学计算机科学学院） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 本文提出WSV零样本视频字幕生成框架，通过文本到视频生成模型、抛光器、提示器弥合跨模态差距，在三个公开数据集上取得了B@4 52、CIDEr 95.7的成绩。

SapiensID 2.0: Aligning Human Recognition Foundation Models with Human Perception

SapiensID 2.0：将人类识别基础模型与人类感知对齐

Yiyang Su, Jie Zhu, Feng Liu, Anil K. Jain, Xiaoming Liu

专题命中 其他安全 ：alignment(abstract)

AI总结 该研究针对现有人类识别模型与人类感知脱节的问题，提出兼具语义与时间感知的SapiensID 2.0框架，通过多项技术实现最优识别性能。

A Framework for Joint Affine and Diffeomorphic Image Registration

联合仿射与微分同胚图像配准的框架

Anton François, Rayane Mouhli, Thomas Pierron

专题命中 其他安全 ：alignment(abstract)

AI总结 该研究提出联合仿射-微分同胚图像配准框架，含FA和DA模型，优化策略结合渐进仿射丰富与变分加权，在Dice重叠度上优于CARL等基线模型。

Impact of Higher-Order Interactions on Collective Motion

高阶相互作用对集体运动的影响

Maryam Masoumi, Amir Kargaran, Reza Jafari

专题命中 其他安全 ：alignment(abstract)

AI总结 该研究提出含高阶对齐相互作用的广义Vicsek模型，发现其会引发不连续相变，需更高粒子密度维持集体有序，为理解活性物质相变及生物、合成系统集体行为提供了新参数。

Comments 6 pages, 7 figures

Scale-CDA: A Scalable Retrofit Platform for Cooperative Driving Automation in Production Vehicles

Scale-CDA：一款用于量产车的、可扩展的原型，旨在普及AI辅助的协同驾驶自动化（CDA）

Hao Zhou, Shengming Yuan, Yuhang Wang, Alina Hagen, Haibin Wen

专题命中 其他安全 ：safety(abstract)

AI总结 本研究提出Scale-CDA这一开源工具链，基于OpenDBC与Openpilot构建，成本低于1000美元，可实现AI辅助CDA的即插即用改装，通过多车辆测试验证了其低时延与数据隐私保护能力，为普及协同自动驾驶提供了实用方案。