大模型对齐与安全

Norm Enforcement for AI Agents: Robustly Shaping Behavior in Multi-Agent Systems

人工智能代理的规范执行：在多智能体系统中稳健塑造行为

Yaowen Ye, Jacob Steinhardt

专题命中 安全评测 ：分类 cs.CL、cs.AI、cs.LG；trustworthy(comments)

AI总结 研究多智能体系统中语言模型代理的规范执行机制，针对简单机制易被利用的问题，确定估计代理可靠性及加重惩罚更新估计这两个关键要素，所构建机制可抵御利用且低成本惩罚违规，是塑造智能体行为的可扩展手段。

Comments ICML2026 Trustworthy AI for Good Workshop

UniVerse: Benchmarking and Enhancing LALMs on Culturally Inclusive Low-Resource Music Understanding

UniVerse：针对文化包容性低资源音乐理解的基准测试与增强

Ziya Zhou, Shangda Wu, Shenyang Xu, Yutong Zheng, Dafang Liang, Suin Chung, Danbinaerin Han, Junyan Jiang, Yongyi Zang, Ruibin Yuan, Rongxiu Zhong, Shilei Zhang, Junlan Feng, Jinglei Liu, Haotian Zhou, Zijin Li, Dasaem Jeong, Wei Xue, Yike Guo

机构 * Sogang University（西江大学） ； KAIST（韩国科学技术院） ； NYU Shanghai（上海纽约大学） ； JIUTIAN Research, China Mobile（中国移动九天研究院） ； The State Key Laboratory of Multimedia Information Processing, Peking University（北京大学多媒体信息处理国家重点实验室） ； China Mobile (Hong Kong) Innovation Research Institute（中国移动（香港）创新研究院） ； Central Conservatory of Music（中央音乐学院） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 该研究针对低资源音乐理解问题，推出UniVerse基准与数据集，训练LALMs并研究多模态不平衡学习策略，实现性能提升但仍存在深层音乐理解的差距。

Comments 21 pages, 7 figures, 8 tables

Evaluation of AI-based Visual Crack Detection in Steel Bridges Using Probability of Detection

基于检测概率的钢桥AI视觉裂缝检测评估

Andrii Kompanets, Finn Michael Sherry, Remco Duits, Davide Leonetti, H. H. Snijder

机构 * Eindhoven University of Technology（埃因霍温理工大学） ； Eindhoven Artificial Intelligence Systems Institute（埃因霍温人工智能系统研究所） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 本研究提出基于检测概率曲线的统计评估框架，对比钢桥AI视觉裂缝检测与传统视觉检测，验证AI方法鲁棒性及应用价值，推动自动化损伤检测在安全关键领域的应用。

Comments Submitted

Vision-Language Models for Analog Gauge Reading: An Empirical Study of Specialization, Transfer and Reliability

用于模拟仪表读数的视觉-语言模型：专业化、迁移与可靠性的实证研究

Abdul Mueez, Aaditya Baranwal, Junior Chaj-Mejia, Guneet Bhatia, Jason T. Voelker, Shruti Vyas

机构 * University of Central Florida（中佛罗里达大学） ； Siemens Energy（西门子能源） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 本研究通过实证评估Qwen2.5-VL-7B-Instruct模型在模拟仪表读数任务中的表现，发现其经QLoRA微调后在三类数据集上误差较低，但存在迁移性能下降和高置信度错误问题，暂不适合直接部署为工厂监控流程。

Comments Submitted to Engineering Applications of Artificial Intelligence

SbDN: Source-based TSN-Grade Deterministic Networking using Commodity Switches

SbDN：使用商用交换机的基于源的TSN级确定性网络

Mohammadparsa Karimi, Majid Nabi, Andrew Nelson, Kees Goossens, Twan Basten

专题命中 安全评测 ：safety(abstract)

AI总结 该研究提出基于源的多智能体架构SbDN，用商用交换机实现TSN级确定性网络，通过TNP和TP两种方法保证时间关键流的端到端延迟，成本更低且调度时间短。

Comments 20 pages, 13 figures

Agentic AI-Enabled Solar-Powered High-Altitude Platforms for Sustainable SAGINs

智能体人工智能赋能的太阳能驱动高空平台用于可持续空天地一体化网络（SAGINs）

Haoxiang Luo, Bang Huang, Mohamed-Slim Alouini

专题命中 安全评测 ：trustworthy(abstract)

AI总结 本研究针对SAGINs的耦合能源需求，提出原生适用于HAP的智能体AI框架，经灾难案例验证，可提升能源效率等性能，为SAGINs可持续发展提供关键方向。

OvDSGG: End-to-End Open-Vocabulary Dynamic Scene Graph Generation

OvDSGG：端到端开放词汇动态场景图生成

John Helsby, Yi Yang, Bodo Rosenhahn, Michael Ying Yang

机构 * Meta ； University of Bath（巴斯大学） ； Leibniz Universität Hannover（汉诺威莱布尼茨大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 OvDSGG是首个开放词汇DSGG的端到端框架，通过空间主干、时间主干及相关模块实现开放词汇识别，在开放词汇指标上显著优于基线，封闭集性能仍具竞争力，且构建了对应基准并公开代码。

Comments ECCVW'26 CONTEXTUS

On the Robustness of Temporal Vision-Language Models for Surgical Endoscopy Videos

手术内窥镜视频的时间视觉语言模型的鲁棒性研究

Darakshan Rashid, Raza Imam, Ufaq Khan, Muhammad Bilal, Shazad Ashraf, Dwarikanath Mahapatra, Mohammad Yaqub, Muhammad Haris Khan, Imran Razzak, Brejesh Lall, Lena Maier-Hein, Yutong Xie

机构 * Indian Institute of Technology Delhi（印度理工学院德里分校） ； Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)（穆罕默德·本·扎耶德人工智能大学） ； Birmingham City University（伯明翰城市大学） ； University Hospitals Birmingham（伯明翰大学医院） ； Khalifa University（哈利法大学） ； German Cancer Research Center (DKFZ)（德国癌症研究中心） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 该研究针对手术内窥镜视频的时间视觉语言模型，构建Endo-C6基准测试其鲁棒性，提出RobustEndoCLIP，可提升模型在内窥镜损坏下的性能与鲁棒性。

Comments Accepted to MICCAI 2026

Beyond Simplification: DFT-GEN for Fidelity-Preserving Visual Accessibility in Dyslexia-Friendly Educational Texts

超越简化：用于阅读障碍友好型教育文本中保真视觉可访问性的DFT-GEN

Jiaqian Yu, Chen Jason Zhang, Haoyang Li, Guoqiong Ivanka Huang

专题命中 安全评测 ：safety(abstract)

AI总结 本研究针对阅读障碍人群的教育文本，提出DFT-GEN框架，通过专属可访问性层兼顾信息保真与视觉可访问性，在双语考试条目上取得显著效果。

Comments Preprint. Code available at https://github.com/MorrisYUJQ/DFT-GEN

A Temporal Barrier Framework for Collision Avoidance in Multi-Agent Autonomous Aerial Vehicles

用于多智能体自主飞行器避障的时间屏障框架

Benedikt Barthel Sorensen, Mitchell Black, Erfaun Noorani, Themistoklis Sapsis

专题命中 安全评测 ：safety(abstract)

AI总结 该研究针对多自主飞行器避障问题，提出对抗性碰撞时间嵌入控制屏障函数的aTTC-CBF方法，经仿真验证其在提升航路点推进速度的同时降低了碰撞率。

How Good are Foundation Models in Longitudinal MRI Disease Progression Reasoning?

基础模型在纵向MRI疾病进展推理中的表现如何？

Wafa Al Ghallabi, Ritesh Thawkar, Sara Ghaboura, Omkar Thawakar, Numan Saeed, Dana Al Nuaimi, Ajnas Alkatheeri, Salman Khan, Fahad Shahbaz Khan

机构 * Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； Department of Health Abu Dhabi（阿布扎比卫生部） ； Fatima College of Health Sciences（法蒂玛健康科学学院） ； Linköping University（林雪平大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 该研究推出Time-Aware Multi-View MRI基准，评估16个视觉-语言模型在纵向MRI疾病进展推理中的表现，发现模型在变化方向识别等方面存在缺陷，多视角输入对模型性能有特定影响。

Comments Accepted at MICCAI 2026 (Early Accept). 11 pages, 3 figures, 2 tables

How LLMs Respond to Escalating Delusions: Four Longitudinal Trajectories of Model Behavior

大语言模型（LLM）对日益严重的妄想的反应：模型行为的四种纵向轨迹

Anna Sterna, Kacper Dudzic, Karolina Drożdż, Hubert Plisiecki, Marcin Rządeczka, Marcin Moskalewicz

专题命中 安全评测 ：safety(abstract)

AI总结 本研究通过30天的纵向实验，评估15种主流LLM对模拟精神症状进展的反应，识别出四种不同行为轨迹，提出需从识别时机、稳定性和干预准确性维度纵向评估LLM加剧AI精神病的潜力。

GateTruth: Auditing the Rigor of RTL Design Benchmarks via Mutation Testing

GateTruth：通过变异测试审计RTL设计基准的严谨性

Meet Bhadra

专题命中 安全评测 ：trustworthy(abstract)

AI总结 GateTruth是用于审计RTL基准测试平台严谨性的变异测试引擎，实验显示多数RTLLM v2.0基准测试平台未达95%变异体杀伤阈值，4096-token输出上限会影响模型排名，其成果推动将变异体杀伤认证设为RTL基准的标准要求。

Can Vision-Language Models Assess Proxemic Risk from Egocentric Robot Images?

视觉-语言模型能否从机器人的第一人称视角图像评估人际距离风险？

Vladyslava Rudas, Dmytro Kuzmenko

机构 * National University of Kyiv-Mohyla Academy（基辅莫希拉国立大学） ； University of Turin（都灵大学） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 该研究评估了InternVL、Qwen-VL、SmolVLM三种VLM在机器人第一人称视角图像人际距离危险分类中的表现，发现Qwen-VL经特定优化后高危险召回率更高，当前VLM在相关推理定位上仍有局限。

Comments Accepted at the EMR 2026 workshop at ECCV 2026 (non-archival)

Do Not Forget the Obvious - RISC: A Risk-Informed Slice-Coverage Protocol for Safe Autonomous Driving

勿忽视显而易见的内容——RISC：一种用于安全自动驾驶的风险感知切片覆盖协议

Fabian Hüger

机构 * CARIAD SE 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 该研究提出RISC协议，将安全问题转化为风险切片，通过风险引导选择提升自动驾驶关键故障发现率，可应用于多类自动驾驶子系统，补充现有测试验证流程。

Comments 14 pages, 3 figures, 5 tables. Accepted at the ECCV 2026 Workshop on Safe and Defensive Autonomous Driving (SDAD). Non-archival workshop paper

Video2Track: From Real-World Interaction Videos to Steerable Adversarial Closed-Track Testing for Automated Driving Systems

Video2Track：从真实世界交互视频到自动驾驶系统的可操控对抗性封闭赛道测试

Mengjie Tian, Xinrui Zhang, Tianyu Li, Peizhi Zhang, Guirong Zhou, Haojie Feng, Junpeng Huang, Qixiang Zhang, Lu Xiong

专题命中 安全评测 ：safety(abstract)

AI总结 本文提出Video2Track框架，通过两个耦合模块将真实驾驶视频交互场景转化为可操控对抗性封闭赛道测试，可复现实景交互场景并生成可控变体，为ADS验证提供可扩展方案。

Repurposing RGB-based Foundation Model for Depth Estimation on Thermal Images Using Hierarchical Supervision

利用分层监督将基于RGB的基础模型重新用于热图像的深度估计

Jie Hong, Tingtian Li, Xuesong Li, Xiao Li

机构 * The University of Hong Kong（香港大学） ； Commonwealth Scientific and Industrial Research Organisation (CSIRO)（英联邦科学与工业研究组织） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 针对热图像深度估计中RGB基础模型分层表示利用不足的问题，提出RGB-HS框架，通过分层监督和基于图像质量的标记加权对齐，在基准上实现了有竞争力的性能。

Comments Accepted in IROS 2026

When Repository Labels Are Not Image-Level Truth: A Supervision Auditing Framework for Chest Radiograph AI

当仓库标签并非图像级真值：面向胸部X光AI的监督审计框架

Yesika Alexandra Agudelo-Londoño, Jhon Wilmer Pino-Román, Brahian Carrera Rodríguez, José Miguel Castañeda-Bedoya, Juan Pablo Gómez-López, Aura C. Puche-Sarmiento, Niharika S. D'Souza, Juan Sebastian Osorio-Valencia, Jon E. Duque-Grajales, Jazmín Ximena Suárez-Revelo, Jorge Mario Vélez-Arango, Gabriel Castrillón

专题命中 安全评测 ：trustworthy(abstract)

AI总结 针对胸部X光仓库标签非图像级真值的问题，提出RSA框架，以MIMIC-CXR心脏肥大数据为例发现其标签与专家评估一致性极低，用专家精选队列训练的DenseNet121模型达0.853的ROC-AUC，强调监督审计的重要性。

Comments Accepted (oral) at the 3rd MICCAI Student Board (MSB) EMERGE Workshop, MICCAI 2026. This is the authors' version; the final authenticated version will appear in Springer Lecture Notes in Computer Science (LNCS). 10 pages, 3 figures

CapProbe: Evaluating Detailed Image Captions via Full-Scene Dense Question Answering

CapProbe：通过全场景密集问答评估详细图像描述

Mouxiao Huang, Qiangyu Yan, Borui Jiang, Han Shu

机构 * Huawei Technologies（华为技术有限公司） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 CapProbe是用于评估VLMs生成的详细图像描述的全场景密集问答基准，通过区域对齐的事实核查，揭示了13个VLMs的覆盖差距、能力-效率权衡及遗漏的失败模式，相关资源将很快发布。

Not a Monolith: Lab-Level Divergence in the Cooperative Equilibria of Chinese Frontier LLM Agents

并非单一整体：中国前沿大语言模型智能体合作均衡的实验室层面差异

Francisco León Zúñiga Bolívar

专题命中 安全评测 ：alignment(abstract)

AI总结 该研究以四款中国前沿LLM智能体为对象，消除混淆因素后发现，合作倾向的设定单位是实验室，中国模型并非单一整体，且生态系统内差异大于东西差异。

Comments 9 pages, 8 tables. Companion study to arXiv:2605.29874, under a fixed-converter design. Code and replication package: https://github.com/arqFranciscoLeon/evollm (archived: https://doi.org/10.5281/zenodo.20248614)

Right Answer, Wrong Heat: Explanation-Aware Evaluation and Thermal-Grounded Feedback for MLLMs on Infrared Images

正确答案，错误依据：面向红外图像多模态大语言模型的感知感知评估与热基础反馈机制

Yongsong Huang, Xiaofeng Liu, Tomo Miyazaki, Yaohou Fan, Shinichiro Omachi

专题命中 安全评测 ：trustworthy(abstract)

AI总结 该研究针对红外图像多模态大语言模型仅以答案准确率评估的问题，提出感知感知评估框架与无需训练的热基础反馈机制，可提升解释热基础度，为可信红外场景理解模型的开发提供了方向。

Comments This manuscript is currently under peer review. Copyright may subsequently be transferred to the publisher, after which the availability of this version may be subject to the publisher's policy

SI-Edit: Toward Sketch-Instruction Guided Local Image Editing with Pixel-Level Precision

SI-Edit：面向草图-指令引导的像素级精度局部图像编辑

Weixin Ye, Wei Wang, Hongguang Zhu, Xuecheng Nie

机构 * Institute of Information Science, Beijing Jiaotong University（北京交通大学信息科学研究所） ； City University of Macau（澳门城市大学） ； Meitu Inc（美图公司） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 针对基于草图的图像编辑缺乏像素级精度及对应数据集、评估指标的问题，提出SI-Edit框架，构建SI-Data数据集并建立评估指标，实现更可靠的结构控制与像素级局部编辑效果。

Comments accepted by ACM MM 2026

Robust Fault Detection and Classification in Power Systems via Physics-Informed and Data-Driven Learning

基于物理信息与数据驱动学习的电力系统鲁棒故障检测与分类

Biswash Basnet, Varsha Sen

专题命中 安全评测 ：safety(abstract)

AI总结 本文提出结合物理信息与数据驱动学习的智能框架，基于SMOTE平衡数据集训练PINN等模型，实现电力系统故障的鲁棒检测与分类，在噪声及训练数据占比波动下仍保持高准确率，可用于电网实时保护与广域监测控制。

Comments 19 pages, published journal article

Journal ref Journal of Electrical Engineering and Automation 7(3), 241-259 (2025)

MRBench: A Comprehensive Benchmark for Human Motion-Text Retrieval

MRBench：用于人体动作-文本检索的综合基准

Fulong Liu, Liang Xu, Chengqun Yang, Yuhao Zhang, Yichao Yan, Xiaokang Yang

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出综合动作-文本检索基准MRBench，针对现有基准缺陷构建，提出轻量级粒度感知模型，提升混合粒度检索效果，为动作-语言对齐评估提供测试平台。

Translation Tag Team: Formal Rules and LLMs Translate More Macros Together than Apart

翻译搭档团队：形式化规则与大语言模型协同翻译宏比单独翻译更有效

Brent Pappas, Joseph Zalusky, Zachary Burkett, Paul Gazzillo

专题命中 安全评测 ：safety(abstract)

AI总结 该研究提出形式化翻译器MerC，结合MerC与大语言模型（LLMs）的搭档方法，在宏翻译任务中比单独使用任一技术更优，可降低失败率并提升翻译覆盖率。

Comments 13 pages, 7 figures, 2 tables, 8 listings, conference. To be published in ASE 2026

Cross-Geometry Transferability Assessment of Universal Machine Learning Interatomic Potentials: From Bulk Materials to Atomic Nanowires

通用机器学习原子间势的跨几何可迁移性评估：从块体材料到原子纳米线

Pedro H. M. Zanineli, Bruno Focassio, Gabriel R. Schleder

专题命中 安全评测 ：alignment(abstract)

AI总结 该研究评估通用机器学习原子间势的跨几何可迁移性，构建ZrO₂多构型数据集，测试26个预训练模型，发现零样本预测存在几何依赖型误差，对比不同训练策略，指出适配低配位离子纳米结构需多样目标数据与物理验证。

Automatic Translation of Unstructured Requirements into Linear Temporal Logic through Large Language Models

基于大语言模型将非结构化需求自动翻译为线性时序逻辑

Alexandra Newcomb, Omar Ochoa

专题命中 安全评测 ：safety(abstract)

AI总结 本文评估6种大语言模型，通过少样本提示策略在含15个需求的基准上生成线性时序逻辑公式，验证通用LLMs无需微调即可完成非结构化自然语言转LTL任务，可作为半自动化形式化工作流的前端助手。

Comments Copyright 2026 IEEE. Personal use of this material is permitted. Permission from IEEE must be obtained for all other uses, in any current or future media, including reprinting/republishing this material for advertising or promotional purposes, creating new collective works, for resale or redistribution to servers or lists, or reuse of any copyrighted component of this work in other works

Certifying Collective Reasoning in Multi-Agent Systems via Koopman Spectral Analysis

基于Koopman谱分析的多智能体系统集体推理验证

Nuzhat Khan, Indrakshi Dey

专题命中 安全评测 ：trustworthy(abstract)

AI总结 本文提出基于Koopman算子理论的框架，通过分析多智能体集体的Koopman转移算子谱，实现对其推理收敛时间、派系及决策的可验证，在注意力共识模型上验证了方法的有效性，且运行高效。

RepoOMP: Repository-Aware Hotspot OpenMP Parallelization via Dependency-Aware Context Reduction

RepoOMP：基于仓库感知的热点OpenMP并行化方法——通过依赖感知的上下文缩减

Yongjie Qian, Ke Gao, Zhibin Zhang, Shaohui Peng, Ling Li

专题命中 安全评测 ：safety(abstract)

AI总结 RepoOMP是一种混合框架，通过构建MAP和STC，在951个热点上实现平均加速比8.23×至8.96×，降低智能体令牌成本，为仓库热点并行化提供证据引导的工作流。

Toward Resilient Human-AI Collaboration: A Lifecycle Taxonomy of Sociotechnical Risks and Cascading Failures

面向弹性人机协作：社会技术风险与级联故障的生命周期分类

Md Foysal Ahmed, Isaac Kobby Anni, Md Main Uddin Rony

专题命中 安全评测 ：trustworthy(abstract)

AI总结 本文提出人机协作风险的生命周期分类框架，识别六大跨领域风险集群，构建交互模型揭示风险级联机制，为设计更具弹性的人机协作系统提供基础。

Comments 11 pages, 2 Figures