大模型对齐与安全

Mixture of Probes: Learning from Privileged Modalities in Multimodal LLMs Through Probing

混合探针：通过探针在多模态大语言模型中从特权模态学习

Dominick Reilly, Qiyu Wu, Hiromi Wakaki, Srijan Das, Yuki Mistufuji

机构 * Sony Group Corporation（索尼集团公司） ； Sony AI（索尼人工智能） ； University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 研究多模态大语言模型在特权模态设置下的问题，提出混合探针（MoP）框架及MoP跨模态训练（MoP-X），通过结构化探测机制分离模态信号，经评估在多任务中优于基线，有效利用辅助模态训练可提升性能。

Comments Preprint (16 pages)

Promptable Concept Segmentation from Above: Evaluating SAM 3's Zero-Shot and One-Shot Capabilities in Remote Sensing

从上方进行可提示的概念分割：评估SAM 3在遥感中的零样本和单样本能力

Mohammad Dabaja, Turgay Celik

机构 * University of Agder（阿格德大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 研究在严格零样本和单样本约束下，对SAM 3在遥感场景分类等任务中的能力进行评估。核心方法是对SAM 3结构调整并隔离提示模态来诊断对齐机制，还制定代理评估协议。主要贡献是揭示跨模态干扰，表明SAM 3避免过拟合但受分辨率等限制，指明微调方向。

Comments 14 pages, 4 figures

SLBench: Evaluating How LLM Agents Follow Logical Relations in Skills

SLBench：评估大语言模型智能体在技能中遵循逻辑关系的情况

Xuan Chen, Chengpeng Wang, Lu Yan, Xiangyu Zhang

专题命中 安全评测 ：safety(abstract)

AI总结 研究评估大语言模型智能体遵循逻辑关系情况，引入SkillLogic框架，构建SLBench基准，扫描超500个公共技能，评估发现不安全率高，人工审核分析失败原因，还表明SLGuard可减少违规，确立遵循逻辑关系是技能引导智能体的可靠性挑战。

Empowering 9-1-1 Calltaking Training with Generative AI: Experiences and Lessons Learned

赋能 9-1-1 接警培训：生成式 AI 的经验与教训

Zirong Chen, Meiyi Ma

机构 * College of Connected Computing（连接计算学院） ； Vanderbilt University（范德比大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.CY

AI总结 针对紧急接警员培训危机，本文与 Metro Nashville 合作，设计并部署了基于生成式 AI 的培训系统，通过 1120 次培训会话和 98429 次用户交互日志分析，提炼出四个关键教训及相应设计治理实践。

Comments Accepted at IEEE SmartComp 2026

VTaMo: Video-Text Alignment Model for Sign Language Translation

VTaMo：用于手语翻译的视频-文本对齐模型

Junyi Hu, Zhewen He, Haomian Huang, Aoxiang Yang, Yi Fang

机构 * New York University Abu Dhabi（纽约大学阿布扎比分校） ； ChatSign Technology（ChatSign科技） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 研究手语翻译问题，提出VTaMo框架，通过局部、全局对齐及位置对齐对比学习实现多粒度对齐，在多个数据集实验中展现领先性能，各组件贡献互补。

Comments 18 pages, 5 figures, 8 tables. Accepted to ECCV 2026

Every Sample Counts: Supervised Fine-Tuning of Language Models with Pointwise Constraints

每个样本都很重要：基于逐点约束的语言模型监督微调

Ignacio Hounie, Ignacio Boero, Alejandro Ribeiro

专题命中 其他安全 ：alignment(abstract)；safety(abstract)

AI总结 研究语言模型微调中逐点约束问题，提出新对齐框架，通过逐样本约束最小化平均损失，引入学习松弛方法并开发增广拉格朗日方法，在多任务和约束下实例化，减少约束违反且保留模型性能。

Video Generation Models are General-Purpose Vision Learners

视频生成模型是通用视觉学习者

Letian Wang, Chuhan Zhang, Rishabh Kabra, Jasper Uijlings, Steven Waslander, Andrew Zisserman, Joao Carreira, Kaiming He, Misha Andriluka, Eduard Gabriel Bazavan, Andrei Zanfir, Cristian Sminchisescu

机构 * Google DeepMind（谷歌DeepMind） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 研究探讨计算机视觉中实现通用模型的催化剂，提出大规模文本到视频生成是预训练范式。介绍GenCeption模型，利用视频生成扩散主干定义感知模型。实验表明该模型在多任务中性能领先，有数据效率优势且具涌现行为，为通用视觉智能提供基础路径。

Comments ECCV 2026

3D Masked Autoencoders are Robust Learners of Volumetric and Multimodal Cellular Representations for Microscopy

3D掩码自编码器是显微镜体积和多模态细胞表示的鲁棒学习器

Amirhossein Kardoost, Lion Gleiter, Tingying Peng, Carsten Marr

机构 * Institute of AI for Health & Helmholtz AI, Computational Health Center, Helmholtz Munich – German Research Center for Environmental Health（亥姆霍兹慕尼黑中心 - 德国环境健康研究中心，计算健康中心，健康人工智能研究所与亥姆霍兹人工智能） ； Department of Medicine III, Ludwig-Maximilian-University Hospital（路德维希-马克西米利安大学医院第三内科） ； Department of Physics, Ludwig-Maximilian-University（路德维希-马克西米利安大学物理系） ； German Cancer Consortium (DKTK), partner site Munich（德国癌症联盟（DKTK）慕尼黑合作站点） ； Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心（MCML）） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 系统比较2D和3D掩码自编码器在体积显微镜数据上的表现，发现3D模型在下游任务中更优，并通过跨模态对齐和频域正则化进一步提升性能，在蛋白质相互作用和定位任务上达到最先进水平。

Comments Code is available at: https://github.com/marrlab/mae3d-opencell

Latent Thoughts Tuning: Bridging Context and Reasoning with Fused Information in Latent Tokens

潜在思维调整：通过潜在令牌中的融合信息连接上下文与推理

Weihao Liu, Dehai Min, Lu Cheng

机构 * University of Illinois Chicago（伊利诺伊大学芝加哥分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 研究提出潜在思维调整（LT-Tuning）框架，通过重新定义潜在思维构建与部署方式，引入上下文预测融合机制，结合三阶段课程学习，实现潜在与显式思维模式动态切换，优于现有潜在推理基线，有效缓解特征崩溃并提升推理精度。

Comments In Proceedings of the Forty-third International Conference on Machine Learning

Is data-efficient learning feasible with quantum models?

量子模型能否实现数据高效学习？

Alona Sakhnenko, Christian B. Mendl, Jeanette M. Lorenz

机构 * Fraunhofer Institute for Cognitive Systems IKS（弗劳恩霍夫认知系统研究所） ； Technical University of Munich（慕尼黑技术大学） ； Ludwig-Maximilian University（路德维希-马克西米利安大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 研究量子模型能否数据高效学习，引入数据生成工具构建半人工经典数据集，发现QKMs在经典数据集上达可比误差所需训练示例更少，还将谱偏差泛化度量引入QML领域，弥合理论与实践差距，为探索数据集复杂性及理解QKM模型泛化优势铺路。

Comments Added additional experiments, clearer paper scope and implications

NeuroStrata: Harnessing Neurosymbolic Paradigms for Improved Design, Testability, and Verifiability of Autonomous CPS

NeuroStrata：利用神经符号范式提升自主 CPS 的设计、可测试性和可验证性

Xi Zheng, Ziyang Li, Ivan Ruchkin, Ruzica Piskac, Miroslav Pajic

机构 * Macquarie University（麦考瑞大学） ； University of Pennsylvania（宾夕法尼亚大学） ； University of Florida（佛罗里达大学） ； Yale University（耶鲁大学） ； Duke University（杜克大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 NeuroStrata通过神经符号范式提升自主CPS的设计、测试和验证能力，解决不确定性带来的信任和安全认证问题。

Journal ref FSE Companion '25: Companion Proceedings of the 33rd ACM International Conference on the Foundations of Software Engineering, Trondheim, Norway, June 2025

C-GAP: Class-Aware and Online Prompting Improves Vision-Language Models on Imbalanced Classes

C-GAP：类感知与在线提示改进不均衡类上的视觉语言模型

Francis Fernandez, Arash Jahangiri, Salimeh Sekeh

机构 * San Diego State University（圣地亚哥州立大学） 纠错

专题命中 其他安全 ：safety(abstract)

AI总结 研究针对安全关键感知系统检测小标签空间中罕见物体类别的问题，提出C-GAP框架，通过建立复合字幕基线并利用语言模型迭代细化提示，无需更新检测器权重，有效提升少数类检测精度，实验证明其成效显著。

Test-Time Adaptation via Cache Personalization for Facial Expression Recognition in Videos

基于缓存个性化的时间测试适应用于视频面部表情识别

Masoumeh Sharafi, Muhammad Osama Zeeshan, Soufiane Belharbi, Alessandro Lameiras Koerich, Marco Pedersoli, Eric Granger

机构 * LIVIA, Dept. of Systems Engineering, ETS Montreal, Canada（LIVIA系统工程系，蒙特利尔工程学院，加拿大） ； LIVIA, Dept. of Software and IT Engineering, ETS Montreal, Canada（LIVIA软件与信息工程系，蒙特利尔工程学院，加拿大） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 本文提出TTA-CaP方法，通过缓存实现高效视频面部表情识别的模型个性化，减少计算开销并提升跨主体和环境变化的性能。