大模型对齐与安全

Map-Agnostic And Interactive Safety-Critical Scenario Generation via Multi-Objective Tree Search

基于多目标树搜索的无地图交互式安全关键场景生成

Wenyun Li, Zejian Deng, Chen Sun

机构 * Department of Mathematics, The University of Hong Kong (HKU)（香港大学数学系） ； Department of Data and Systems Engineering, HKU（香港大学数据与系统工程系） 纠错

专题命中 安全评测 ：safety(title,abstract)

AI总结 本文提出一种基于多目标树搜索的无地图交互式安全关键场景生成方法，通过统一评估函数平衡探索与风险，生成真实且多样化的碰撞事件以提升自动驾驶系统的鲁棒性。

Robust LLM-based Audio-Visual Speech Recognition with Sparse Modality Alignment and Visual Unit-Guided Refinement

鲁棒的基于大语言模型的音频视觉语音识别与稀疏模态对齐和视觉单元引导的细化

Fei Su, Cancan Li, Juan Liu, Wei Ju, Hongbin Suo, Ming Li

机构 * School of Computer Science, Wuhan University, China（武汉大学计算机学院） ； School of Artificial Intelligence, Wuhan University, China（武汉大学人工智能学院） ； School of Artificial Intelligence, The Chinese University of Hong Kong, Shenzhen, China（香港中文大学（深圳）人工智能学院） ； AI Center, OPPO, China（OPPO人工智能中心） ； Digital Innovation Research Center, Duke Kunshan University, China（杜克大学昆山数字创新研究中心） 纠错

专题命中 安全评测 ：alignment(title,abstract)

AI总结 本文提出AVUR-LLM，通过稀疏模态对齐和视觉单元引导细化，提升音频视觉语音识别的鲁棒性，在LRS3数据集上取得显著性能提升。

Comments submitted to Interspeech 2026

The Science Data Lake: A Unified Open Infrastructure Integrating 293 Million Papers Across Eight Scholarly Sources with Embedding-Based Ontology Alignment

科学数据湖：整合29300万篇论文的统一开放基础设施

Jonas Wilinski

专题命中 安全评测 ：alignment(title,abstract)

AI总结 科学数据湖通过整合29300万篇论文，利用嵌入本体对齐技术实现跨来源数据统一，提升学术数据整合与分析效率。

Comments 18 pages, 8 figures, 7 tables. Dataset DOI: 10.57967/hf/7850. Code: https://github.com/J0nasW/science-datalake

GeoMCP: A Trustworthy Framework for AI-Assisted Analytical Geotechnical Engineering

GeoMCP：一种可信的AI辅助分析土木工程框架

Yared W. Bekele

专题命中 安全评测 ：trustworthy(title)；safety(abstract)

AI总结 GeoMCP通过将工程方法表示为结构化数据，构建了一个可信的AI辅助分析土木工程框架，确保计算透明性和安全性。

Comments 15 pages

Enhancing CLIP Robustness via Cross-Modality Alignment

通过跨模态对齐增强CLIP鲁棒性

Xingyu Zhu, Beier Zhu, Shuo Wang, Kesen Zhao, Hanwang Zhang

机构 * University of Science and Technology of China（中国科学技术大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 安全评测 ：alignment(title,abstract)

AI总结 COLA通过跨模态对齐提升CLIP对抗鲁棒性，有效缓解对抗扰动导致的特征不一致问题，提升零样本分类性能。

Comments NeurIPS 2025 Spotlight

SPOC: Safety-Aware Planning Under Partial Observability And Physical Constraints

SPOC：在部分可观测性和物理约束下安全意识的规划

Hyungmin Kim, Hobeom Jeon, Dohyung Kim, Minsu Jang, Jeahong Kim

机构 * 1 ETRI School, University of Science ； Technology, South Korean 2 Social Robotics Laboratory, Electronics 纠错

专题命中 安全评测 ：safety(title,abstract)

AI总结 SPOC是一个用于评估安全意识具身任务规划的基准测试，通过整合部分可观测性、物理约束和逐步规划，解决现实环境中安全与可行性评估的问题。

Comments Accepted to IEEE ICASSP 2026

Hierarchical Multi-Agent MCTS for Safety-Critical Coordination in Mixed-Autonomy Roundabouts

分层多智能体MCTS用于混合自主性环形路口的安全协调

Zhihao Lin, Jianglin Lan, Shuo Liu, Zhen Tian, Dezong Zhao, Chongfeng Wei

专题命中 安全评测 ：safety(title,abstract)

AI总结 本文提出了一种分层多智能体MCTS框架，用于混合自主性环形路口的安全协调，通过车道特定不确定性模型和安全意识修剪，有效降低轨迹偏移和PET违规率。

Comments 13 pages, 11 figures

REVEALER: Reinforcement-Guided Visual Reasoning for Element-Level Text-Image Alignment Evaluation

REVEALER: 基于强化引导的视觉推理的元素级文本-图像对齐评估

Fulin Shi, Wenyi Xiao, Bin Chen, Liang Din, Leilei Gan

机构 * Zhejiang University（浙江大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 安全评测 ：alignment(title,abstract)

AI总结 REVEALER通过强化引导的视觉推理实现元素级文本-图像对齐评估，提升模型对齐判断的可解释性和效率。

FRAPPE: Infusing World Modeling into Generalist Policies via Multiple Future Representation Alignment

FRAPPE：通过多未来表示对齐将世界建模注入通用策略

Han Zhao, Jingbo Wang, Wenxuan Song, Shuai Chen, Yang Liu, Yan Wang, Haoang Li, Donglin Wang

机构 * Zhejiang University（浙江大学） ； Westlake University（西湖大学） ； South China University of Technology（华南理工大学） ； ShanghaiTech University（上海科技大学） ； Tsinghua University（清华大学） 纠错

专题命中 安全评测 ：alignment(title,abstract)

AI总结 FRAPPE通过多未来表示对齐提升通用机器人策略的世界建模能力，提高微调效率并减少数据依赖，实验证明其在长时序和未见场景中的泛化性能优于现有方法。

Comments Project Website: https://h-zhao1997.github.io/frappe

NESSiE: The Necessary Safety Benchmark -- Identifying Errors that should not Exist

NESSiE: 必要安全基准 -- 识别不应存在的错误

Johannes Bertram, Jonas Geiping

专题命中 安全评测 ：safety(title,abstract)

AI总结 NESSiE提出了一种轻量级安全基准，用于检测大型语言模型中不应存在的安全故障，揭示模型在帮助与安全之间的偏差。

Comments 13 pages, 6 figures

Safety with Agency: Human-Centered Safety Filter with Application to AI-Assisted Motorsports

安全与代理：以人为中心的安全过滤器及其在AI辅助赛车中的应用

Donggeon David Oh, Justin Lidard, Haimin Hu, Himani Sinhmar, Elle Lazarski, Deepak Gopinath, Emily S. Sumner, Jonathan A. DeCastro, Guy Rosman, Naomi Ehrich Leonard, Jaime Fernández Fisac

机构 * Department of Electrical and Computer Engineering, Princeton University（普林斯顿大学电气与计算机工程系） ； Department of Mechanical and Aerospace Engineering, Princeton University（普林斯顿大学机械与航空航天工程系） ； Toyota Research Institute（丰田研究院） 纠错

专题命中 安全评测 ：safety(title,abstract)

AI总结 本文提出了一种以人为中心的安全过滤器，通过神经安全价值函数和状态-动作控制障碍函数，提升AI辅助赛车中的安全性和用户体验。

Comments Accepted to Robotics: Science and Systems (R:SS) 2025, 22 pages, 16 figures, 7 tables Updates for v4: typos in Appendix Subsection A revised

Journal ref Proceedings of Robotics: Science and Systems (RSS), 2025

SOMA-1M: A Large-Scale SAR-Optical Multi-resolution Alignment Dataset for Multi-Task Remote Sensing

SOMA-1M: 一种大规模SAR-光学多分辨率对齐数据集用于多任务遥感

Peihao Wu, Yongxiang Yao, Yi Wan, Wenfei Zhang, Ruipeng Zhao, Jiayuan Li, Yongjun Zhang

机构 * School of Remote Sensing Information Engineering, Wuhan University（遥感信息工程学院，武汉大学） ； Hubei LuoJia Laboratory（湖北珞珈实验室） ； Technology Innovation Center for Collaborative Applications of Natural Resources Data in GBA, Ministry of Natural Resources（粤港澳大湾区自然资源数据协同应用技术创新中心，自然资源部） 纠错

专题命中 安全评测 ：alignment(title,abstract)

AI总结 SOMA-1M是首个大规模SAR-光学多分辨率对齐数据集，用于提升多任务遥感图像处理的性能和准确性。

Language Models and Logic Programs for Trustworthy Tax Reasoning

语言模型与逻辑程序用于可信的税务推理

William Jurayj, Nils Holzenberger, Benjamin Van Durme

专题命中 安全评测 ：trustworthy(title)；分类 cs.CL、cs.AI、cs.CY

AI总结 本文提出结合语言模型与符号求解器的方法，用于提升税务推理的准确性与经济可行性。

Comments Accepted to AAAI 2026

The SAGES Critical View of Safety Challenge: A Global Benchmark for AI-Assisted Surgical Quality Assessment

SAGES关键安全视角挑战：人工智能辅助手术质量评估的全球基准

Deepak Alapatt, Jennifer Eckhoff, Zhiliang Lyu, Yutong Ban, Jean-Paul Mazellier, Sarah Choksi, Kunyi Yang, Po-Hsing Chiang, Noemi Zorzetti, Samuele Cannas, Daniel Neimark, Omri Bar, Amine Yamlahi, Jakob Hennighausen, Xiaohan Wang, Rui Li, Long Liang, Yuxian Wang, Saurabh Koju, Binod Bhattarai, Tim Jaspers, Zhehua Mao, Anjana Wijekoon, Jun Ma, Yinan Xu, Zhilong Weng, Ammar M. Okran, Hatem A. Rashwan, Boyang Shen, Kaixiang Yang, Yutao Zhang, Hao Wang, 2024 CVS Challenge Consortium, Quanzheng Li, Filippo Filicori, Xiang Li, Pietro Mascagni, Daniel A. Hashimoto, Guy Rosman, Ozanan Meireles, Nicolas Padoy

机构 * University of Strasbourg（斯特拉斯堡大学） ； CNRS（法国国家科学研究中心） ； INSERM（法国国家医学研究院） ； ICube（ICube研究中心） ； UMR7357（法国国家科研机构（UMR7357）） ； Massachusetts General Hospital（麻省总医院） ； Harvard Medical School（哈佛医学院） ； University Hospital Cologne（科隆大学医院） ； Global College（全球学院） ； Shanghai Jiao Tong University（上海交通大学） ； Chang Gung Memorial Hospital（长庚纪念医院） ； A. Costa Hospital（A. Costa医院） ； Maggiore Hospital - AUSL Bologna（马吉奥医院 - 玛格丽特医院） ； Institute for Research against Digestive Cancer (IRCAD)（消化道癌症研究机构（IRCAD）） ； Lenox Hill Hospital（Lenox Hill医院） ； Northwell Health（Northwell健康系统） ； Albany Medical Center（阿尔巴尼医疗中心） ； German Cancer Research Center (DKFZ)（德国癌症研究中心（DKFZ）） ； Stanford University（斯坦福大学） ； MultiModal Learning Lab（多模态学习实验室） ； NAAMII ； University of Aberdeen（阿伯丁大学） ； Eindhoven University of Technology（埃因霍温理工大学） ； UCL Hawkes Institute（UCL Hawkes研究所） ； Dept of Computer Science, University College London（计算机科学系，伦敦大学学院） ； University Health Network（大学健康网络） ； Institute for Biomedical Informatics（生物医学信息研究所） ； Rovira i Virgili University（罗维拉-维吉里大学） ； Huazhong University of Science（华中科技大学） ； Hefei University of Technology（合肥工业大学） ； University of Pennsylvania（宾夕法尼亚大学） ； Duke University（杜克大学） 纠错

专题命中 安全评测 ：safety(title,abstract)

AI总结 SAGES关键安全视角挑战通过全球协作和AI技术，提升手术质量评估的性能和鲁棒性，推动临床应用。

Comments 21 pages, 10 figures

"Do I Trust the AI?" Towards Trustworthy AI-Assisted Diagnosis: Understanding User Perception in LLM-Supported Reasoning

我是否信任AI？：迈向可信的AI辅助诊断：理解用户在LLM支持推理中的感知

Yuansong Xu, Yichao Zhu, Haokai Wang, Yuchen Wu, Yang Ouyang, Hanlu Li, Wenzhe Zhou, Xinyu Liu, Chang Jiang, Quan Li

专题命中 安全评测 ：trustworthy(title,abstract)

AI总结 本文研究医生对LLM临床推理能力的感知，通过实验揭示医生对LLM诊断能力的评估，并探讨提升医生与LLM协作可信度的方法。

Comments Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems (CHI'26), April 13--17, 2026, Barcelona, Spain

Evaluating Nova 2.0 Lite model under Amazon's Frontier Model Safety Framework

在亚马逊前沿模型安全框架下评估Nova 2.0 Lite模型

Satyapriya Krishna, Matteo Memelli, Tong Wang, Abhinav Mohanty, Claire O'Brien Rajkumar, Payal Motwani, Rahul Gupta, Spyros Matsoukas

专题命中 安全评测 ：safety(title,abstract)

AI总结 本文在亚马逊前沿模型安全框架下评估了Nova 2.0 Lite模型，分析其在高风险领域的安全性和性能表现。

Comments Arxiv preprint

SGCR: A Specification-Grounded Framework for Trustworthy LLM Code Review

SGCR：一种基于规范的可信大语言模型代码审查框架

Kai Wang, Bingcheng Mao, Shuai Jia, Yujie Ding, Dongming Han, Tianyi Ma, Bin Cao

专题命中 安全评测 ：trustworthy(title,abstract)

AI总结 SGCR通过规范引导LLMs实现可信代码审查，其双路径架构在工业环境中提升了42%的开发者采纳率。

Comments Accepted at ASE 2025

Towards Safety-Compliant Transformer Architectures for Automotive Systems

面向汽车系统的安全合规Transformer架构

Sven Kirchner, Nils Purschke, Chengdong Wu, Alois Knoll

专题命中 安全评测 ：safety(title,abstract)

AI总结 本文提出了一种安全合规的Transformer架构，通过多模态基础模型提升汽车系统的容错性和鲁棒性，实现自动驾驶中的可认证AI系统。

TASU: Text-Only Alignment for Speech Understanding

TASU：用于语音理解的纯文本对齐

Jing Peng, Yi Yang, Xu Li, Yu Xi, Quanwei Tang, Yangui Fang, Junjie Li, Kai Yu

专题命中 安全评测 ：alignment(title,abstract)

AI总结 TASU通过纯文本数据实现语音理解的跨模态对齐，提升了零样本语音识别性能，并在多个基准测试中优于现有模型。

Comments Accepted to ICASSP 2026

GAMMA: Generalizable Alignment via Multi-task and Manipulation-Augmented Training for AI-Generated Image Detection

GAMMA: 通过多任务和操控增强训练实现通用对齐的AI生成图像检测

Haozhen Yan, Yan Hong, Suning Lang, Jiahui Zhan, Yikun Ji, Yujie Gao, Huijia Zhu, Jun Lan, Jianfu Zhang

机构 * Shanghai Jiao Tong University（上海交通大学） ； Ant Group（蚂蚁集团） 纠错

专题命中 安全评测 ：alignment(title,abstract)

AI总结 GAMMA通过多任务和操控增强训练，提升AI生成图像检测的泛化能力与鲁棒性。

Towards Trustworthy Dermatology MLLMs: A Benchmark and Multimodal Evaluator for Diagnostic Narratives

迈向可信的皮肤科多模态大语言模型：一种基准和多模态评估器用于诊断叙述

Yuhao Shen, Jiahe Qian, Shuping Zhang, Zhangtianyi Chen, Tao Lu, Juexiao Zhou

机构 * School of Data Science, The Chinese University of Hong Kong, Shenzhen（数据科学学院，香港中文大学（深圳）） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Department of Dermatology, The First Affiliated Hospital, Shantou University Medical College（皮肤科，汕头大学医学院第一附属医院） 纠错

专题命中 安全评测 ：trustworthy(title)；alignment(abstract)

AI总结 本文提出DermBench和DermEval用于评估皮肤科多模态大语言模型的诊断叙述，通过结合基准和自动评估器，实现临床意义的可重复评估，验证模型性能与专家评分的一致性。

Multimodal Interpretation of Remote Sensing Images: Dynamic Resolution Input Strategy and Multi-scale Vision-Language Alignment Mechanism

遥感图像的多模态解释：动态分辨率输入策略与多尺度视觉-语言对齐机制

Siyu Zhang, Lianlei Shan, Runhe Qiu

机构 * Tsinghua University（清华大学） 纠错

专题命中 安全评测 ：alignment(title,abstract)

AI总结 本文提出动态分辨率输入策略与多尺度视觉-语言对齐机制，提升遥感图像多模态解释的准确性和效率。

SDEval: Safety Dynamic Evaluation for Multimodal Large Language Models

SDEval: 多模态大语言模型的安全动态评估

Hanqing Wang, Yuan Tian, Mingyu Liu, Zhenhao Zhang, Xiangyang Zhu

专题命中 安全评测 ：safety(title,abstract)

AI总结 SDEval通过动态调整安全基准分布和复杂度，提升多模态大语言模型的安全评估效果，缓解数据污染并揭示模型安全局限。

Comments AAAI 2026 poster

Quantifying True Robustness: Synonymity-Weighted Similarity for Trustworthy XAI Evaluation

量化真实鲁棒性：基于同义词加权的相似性用于可信XAI评估

Christopher Burger

机构 * The University of Mississippi（密苏里大学） 纠错

专题命中 安全评测 ：trustworthy(title)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出基于同义词加权的相似性方法，用于更准确评估XAI系统的鲁棒性，防止攻击成功率的高估。

Comments 10 pages, 2 figures, 6 tables. Changes to title, abstract and minor edits to the content as a result of acceptance to the 59th Hawaii International Conference on System Sciences

On the dynamic evolution of CLIP texture-shape bias and its relationship to human alignment and model robustness

CLIP纹理-形状偏倚的动态演变及其与人类对齐和模型鲁棒性的关系

Pablo Hernández-Cámara, Jose Manuel Jaén-Lorites, Alexandra Gómez-Villa, Jorge Vila-Tomás, Valero Laparra, Jesus Malo

机构 * Image Processing Lab, Universitat de Valencia, Spain（瓦伦西亚大学图像处理实验室） ； Centro de Biomateriales e Ingenieria Tisular, Universitat Politecnica de Valencia, Spain（瓦伦西亚理工大学生物材料与组织工程中心） ； Computer Vision Center, Spain（西班牙计算机视觉中心） ； Universitat Autònoma de Barcelona, Spain（巴塞罗那自治大学） 纠错

专题命中 安全评测 ：alignment(title,abstract)

AI总结 本文研究CLIP模型在训练过程中纹理-形状偏倚的演变，揭示其与人类感知对齐及模型鲁棒性的关系。

Trustworthy and Controllable Professional Knowledge Utilization in Large Language Models with TEE-GPU Execution

在大语言模型中实现可信且可控的专业知识利用：TEE-GPU执行

Yifeng Cai, Zhida An, Yuhan Meng, Houqian Liu, Pengli Wang, Hanwen Lei, Yao Guo, Ding Li

专题命中 安全评测 ：trustworthy(title,abstract)

AI总结 本文提出PKUS系统，通过将专业知识作为可分离的制品，实现大语言模型中可信且可控的专业知识利用，提升模型性能并降低延迟。

Do MLLMs Exhibit Human-like Perceptual Behaviors? HVSBench: A Benchmark for MLLM Alignment with Human Perceptual Behavior

多模态大语言模型是否表现出类人感知行为？HVSBench：一个用于多模态大语言模型对齐人类视觉行为的基准测试

Jiaying Lin, Shuquan Ye, Dan Xu, Wanli Ouyang, Rynson W. H. Lau

专题命中 安全评测 ：alignment(title,abstract)

AI总结 HVSBench通过测试多模态大语言模型与人类视觉行为的对齐性，揭示了其在感知任务上的显著差距，并强调了开发更符合人类认知的AI的重要性。

Comments Project page: https://jiaying.link/HVSBench/

Semantic-Metric Bayesian Risk Fields: Learning Robot Safety from Human Videos with a VLM Prior

语义-度量贝叶斯风险场：从人类视频中学习机器人安全性的方法

Timothy Chen, Marcus Dominguez-Kuhne, Aiden Swann, Xu Liu, Mac Schwager

机构 * Stanford University（斯坦福大学） ； California Institute of Technology（加州理工学院） 纠错

专题命中 安全评测 ：safety(title,abstract)

AI总结 本文提出基于贝叶斯框架的语义-度量风险场，通过人类视频学习机器人安全风险模型，实现类人风险评估与规划。

Flowing Backwards: Improving Normalizing Flows via Reverse Representation Alignment

反向流动：通过反向表征对齐改进规范化流

Yang Chen, Xiaowei Xu, Shuai Wang, Chenhui Zhu, Ruxue Wen, Xubin Li, Tiezheng Ge, Limin Wang

专题命中 安全评测 ：alignment(title,abstract)

AI总结 通过反向表征对齐改进规范化流，提升生成质量和分类准确性，训练速度提升3.3倍，实现ImageNet新state-of-the-art结果。

Comments Accepted by AAAI 2026

SRAM: Shape-Realism Alignment Metric for No Reference 3D Shape Evaluation

SRAM：无参考3D形状评估的形状现实对齐度量

Sheng Liu, Tianyu Luan, Phani Nuney, Xuelu Feng, Junsong Yuan

专题命中 安全评测 ：alignment(title,abstract)

AI总结 SRAM提出了一种基于大型语言模型的无参考3D形状评估度量，通过网格编码和现实感解码器实现与人类感知的对齐，优于现有方法并具有良好的泛化能力。

Comments Accepted by AAAI2026