大模型对齐与安全

PICon: A Multi-Turn Interrogation Framework for Evaluating Persona Agent Consistency

PICon: 一种用于评估人设代理一致性的多轮询问框架

Minseo Kim, Sujeong Im, Junseong Choi, Junhee Lee, Chaeeun Shim, Hwajung Hong, Edward Choi

机构 * KAIST（韩国科学技术院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出PICon框架，通过逻辑链式的多轮提问评估人设代理的一致性，发现即使之前被认为高度一致的系统在三个维度上也未能达到人类基准水平，揭示了矛盾和逃避回应。

Comments 20 pages, 6 figures

Self-Filtered Distillation with LLMs-generated Trust Indicators for Reliable Patent Classification

基于LLM生成信任指标的自过滤蒸馏用于可靠专利分类

Yongmin Yoo, Xu Zhang, Longbing Cao

机构 * Frontier AI Research Centre, School of Computing, Faculty of Science and Engineering, Macquarie University（前沿人工智能研究中心，计算机学院，科学与工程学院，麦考瑞大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出自过滤蒸馏方法，通过将LLM生成的推理作为信任指标而非真实标签，提升专利分类的可靠性，实验显示在USPTO-2M数据集上宏F1指标提升了38.7%。

Less is More: Efficient Black-box Attribution via Minimal Interpretable Subset Selection

少即是多：通过最小可解释子集选择实现高效的黑盒属性分析

Ruoyu Chen, Siyuan Liang, Jingzhi Li, Shiming Liu, Li Liu, Hua Zhang, Xiaochun Cao

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； University of Chinese Academy of Sciences（中国科学院大学） ； College of Computing and Data Science, Nanyang Technological University（南洋理工大学计算机与数据科学学院） ； School of Artificial Intelligence, University of Science and Technology Beijing（北京科技大学人工智能学院） ； Department of Mechanical Engineering, Imperial College London（伦敦帝国理工学院机械工程系） ； Center for Machine Vision and Signal Analysis (CMVS), University of Oulu（奥卢大学机器视觉与信号分析中心） ； School of Cyber Science and Technology, Shenzhen Campus of Sun Yat-sen University（中山大学深圳校区计算机科学与技术学院） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文提出了一种高效的黑盒属性分析方法LiMA，通过将重要区域的属性分析转化为子模函数子集选择的优化问题，以更少的区域提供更准确的解释，并在多个基准模型上展示了显著的改进。

SpecX: A Large-Scale Benchmark for Multi-Modal Spectroscopy and Cross-Paradigm Evaluation

SpecX：多模态光谱的大规模基准及跨范式评估

Chengrui Xiang, Tengfei Ma, Yujie Chen, Tong Wang, Haowen Chen, Xiangxiang Zeng

机构 * College of Computer Science and Technology, Hunan University（湖南大学计算机科学与技术学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出SpecX，一个用于多模态光谱的大规模基准，通过不同层级的数据集支持分子解析、光谱模拟和理解任务，揭示了专用光谱模型和多模态语言模型在光谱智能中的不同优势。

Comments 9 pages,1 figures

PixVerve: Advancing Native UHR Image Generation to 100MP with a Large-Scale High-Quality Dataset

PixVerve：通过大规模高质量数据集将原生超高清图像生成推至100MP

Haojun Chen, Haoyang He, Chengming Xu, Qingdong He, Junwei Zhu, Yabiao Wang, Zhucun Xue, Xianfang Zeng, Zhennan Chen, Xiaobin Hu, Hao Zhao, Yong Liu, Jiangning Zhang, Dacheng Tao

机构 * Zhejiang University（浙江大学） ； Fudan University（复旦大学） ； Nanjing University（南京大学） ； National University of Singapore（新加坡国立大学） ； Tsinghua University（清华大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出PixVerve-95K数据集，通过精心设计的数据管道构建，包含95K张高分辨率图像和七维标注，用于推动超高清图像生成技术，通过三种训练方案将T2I基础模型扩展到100MP生成，并建立PixVerve-Bench评估协议。

Comments Project page is available at https://haojunchen663.github.io/projects/PixVerve/

BiRD: A Bidirectional Ranking Defense Mechanism for Retrieval Augmented Generation

BiRD: 一种用于检索增强生成的双向排序防御机制

Chengcai Gao, Zhihong Sun, Xiaochuan Shi, Qiufeng Wang, Chao Liang

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出BiRD，一种基于双向排序的防御机制，通过双信号框架提升检索增强生成系统的效率和鲁棒性，有效降低对抗攻击成功率并提高任务准确性。

Comments 17 pages, 10 figures and 8 tables

RECIPE: Procedural Planning via Grounding in Instructional Video

RECIPE: 通过指令视频中的 grounding 实现过程规划

Luigi Seminara, Antonino Furnari, Lorenzo Torresani

机构 * Khoury College of Computer Sciences, Northeastern University, Boston（东北大学北斯托顿学院计算机科学学院） ； Department of Mathematics and Computer Science, University of Catania, Italy（卡塔尼亚大学数学与计算机科学系） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 该研究提出RECIPE方法，通过利用指令视频中的grounding信息来改进过程规划任务，通过利用预计算的文本嵌入实现大规模视频数据的验证，从而提升规划的准确性和鲁棒性。

Rapid patient-specific neural networks for intraoperative X-ray to volume registration

快速的患者特异性神经网络用于术中X射线到体积的配准

Vivek Gopalakrishnan, David-Dimitris Chlorogiannis, Andrew Abumoussa, Anna M. Larson, Nazim Haouchine, Darren B. Orbach, Sarah Frisken, Neel Dey, Polina Golland

机构 * Harvard-MIT Health Sciences and Technology, Massachusetts Institute of Technology（哈佛-麻省理工健康科学与技术, 麻省理工学院） ； Computer Science and Artificial Intelligence Laboratory, Massachusetts Institute of Technology（计算机科学与人工智能实验室, 麻省理工学院） ； Department of Radiology, Harvard Medical School（哈佛医学院放射科） ； Saint Luke’s Marion Bloch Neuroscience Institute（圣路易斯马里恩布洛克神经科学研究所） ； Department of Critical Care Medicine, Shriners Children’s Hospital（谢尔曼儿童医院重症医学科） ； Department of Interventional Neuroradiology, Boston Children’s Hospital（波士顿儿童医院介入神经放射科） ； Athinoula A. Martinos Center for Biomedical Imaging, Massachusetts General Hospital（阿提努拉A·马丁诺斯生物医学成像中心, 麻省总医院） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出了一种自监督框架xvr，结合患者特异性神经网络和梯度优化，实现了快速且准确的2D到3D配准，通过物理模拟生成训练数据，无需手动标注，提升了临床和研究社区的广泛应用能力。

Real-World On-Vehicle Evaluation of Embedding-Based Anomaly Detection

车载场景中基于嵌入的异常检测实测

Albert Schotschneider, Daniel Bogdoll, Svetlana Pavlitska, Ahmed Abouelazm, Johann Marius Zoellner

机构 * FZI Research Center for Information Technology（FZI信息科技研究中心） ； KIT Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 本文提出了一种适应性强的实时异常检测方法，利用预训练视觉变换器嵌入来检测潜在异常，通过在潜在语义特征空间中使用最近邻相似性检测偏差，并在真实世界场景中评估了该方法的性能。

Comments Accepted at CVPR 2026 Workshop AUTOPILOT-NA

Aero-World: Action-Conditioned Aerial Video Generation from Inertial Controls

Aero-World: 从惯性控制生成动作条件的空中视频

Abdul Mohaimen Al Radi, Kunyang Li, Yuzhang Shang, Mubarak Shah, Yu Tian

机构 * Institute of Artificial Intelligence, University of Central Florida（中央佛罗里达大学人工智能研究所） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出Aero-World，一种将预训练图像到视频扩散模型转换为可控空中视频生成器的方法，通过注入加速度和角速度序列，利用冻结的物理探测器提供惯性一致性监督，从而提高生成视频对低级动作信号的符合度和时间稳定性。

MetaRA: Metamorphic Robustness Assessment for Multimodal Large Language Model-based Visual Question Answering Systems

MetaRA: 多模态大语言模型基于视觉问答系统的元形态鲁棒性评估

Quanxing Xu, Yuhao Tian, Ling Zhou, Xian Zhong, Xiaohua Huang, Rubing Huang, Chia-Wen Lin

机构 * School of Computer Science and Engineering, Macau University of Science and Technology, Macao SAR（澳门科学技术大学计算机科学与工程学院） ； Hubei Key Laboratory of Transportation Internet of Things, School of Computer Science and Artificial Intelligence, Wuhan University of Technology（湖北省交通物联网重点实验室，武汉理工大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)

AI总结 本文提出MetaRA，一种基于元形态测试的框架，用于评估多模态大语言模型基于视觉问答系统的鲁棒性，通过生成受控的图像-问题输入变体，揭示模型在语言扰动、视觉线索依赖和多模态推理中的弱点。

iGSP:Implicit Gradient Subspace Projection for Efficient Continual Learning of Vision-Language Models

iGSP：隐式梯度子空间投影用于高效视觉-语言模型的持续学习

Xuezhi Cui, Dongbo Zhou, Wang Guo, Zeyuan Wang, Ziyu Li, Gaozhi Zhou, Xian Li, Ling Zhao, Wentao Yang, Chao Tao, Haifeng Li

机构 * School of Geosciences and Info-Physics, Central South University（地质科学与信息物理学院，中南大学） ； School of Earth Sciences and Spatial Information Engineering, Hunan University of Science and Technology（地球科学与空间信息工程学院，湖南科技大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出iGSP框架，通过隐式梯度子空间投影实现视觉-语言模型的高效持续学习，解决了传统方法在参数效率和任务间对齐一致性上的不足，显著提升了训练效率和知识重用率。

EduVQA: Towards Concept-Aware Assessment of Educational AI-Generated Videos

EduVQA: 向概念感知的教育AI生成视频评估迈进

Baoliang Chen, Xinlong Bu, Hanwei Zhu, Lingyu Zhu, Jieyu Zhan

机构 * College of Computing and Data Science, Nanyang Technological University（南洋理工大学计算与数据科学学院） ； Department of Computer Science, South China Normal University, China（华南师范大学计算机学院） ； School of Computer Science, City University of Hong Kong（香港城市大学计算机科学学院） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 本研究提出EduVQA框架，通过引入结构化2D混合专家架构，实现了对教育AI生成视频中概念正确性的感知评估，解决了传统方法在教育场景中忽略概念正确性的不足。

AI-Driven Security Alert Screening and Alert Fatigue Mitigation in Security Operations Centers: A Survey

基于人工智能的安全警报筛选与缓解警报疲劳在安全运营中心中的研究：综述

Samuel Ndichu, Tao Ban, Seiichi Ozawa, Takeshi Takahashi, Daisuke Inoue

专题命中 安全评测 ：trustworthy(abstract)

AI总结 本文综述了从2015年到2026年利用人工智能驱动的安全警报筛选和警报疲劳缓解方法，总结了四个阶段的工作流程分类，并指出了在操作验证、对抗鲁棒性、跨环境泛化和评估实践方面的持续差距。

Comments 34 pages, 3 figures, 12 tables. Submitted to ACM Computing Surveys. v2: title shortened to "A Survey"; restructured taxonomy section; captions and acronym handling aligned with ACM CSUR style; bibliography updated to 174 entries

VERA-MH: Validation of Ethical and Responsible AI in Mental Health

VERA-MH：心理健康领域伦理和负责任AI的验证

Luca Belli, Kate H. Bentley, Josh Gieringer, Emily Van Ark, Nilu Zhao, Pradip Thachile, Matt Hawrilenko, Millard Brown, Adam M. Chekroud

机构 * Spring Health ； Yale University（耶鲁大学） 纠错

专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI

AI总结 本研究提出VERA-MH，一种用于评估心理健康支持聊天机器人安全性的新型临床验证方法，重点评估聊天机器人在识别自杀倾向风险方面的表现。

Distributional AGI Safety

分布式AGI安全

Nenad Tomašev, Matija Franklin, Julian Jacobs, Sébastien Krier, Simon Osindero

机构 * Google DeepMind（谷歌DeepMind） 纠错

专题命中 其他安全 ：safety(title,abstract)；alignment(abstract)；AI safety(abstract)；分类 cs.AI

AI总结 本文提出了一种分布式的AGI安全框架，旨在通过设计和实现虚拟代理沙盒经济来应对群体代理协调带来的安全风险，强调市场机制、可审计性和监管的重要性。

HELLoRA: Hot Experts Layer-Level Low-Rank Adaptation for Mixture-of-Experts Models

HELLoRA: Hot Experts Layer-Level Low-Rank Adaptation for Mixture-of-Experts Models

Jia Wei, Zhonghao Zhang, Ping Chen, Qianyang li, Yancheng Pan, Shaoxun Wang, Ziyi Qiu, Longxiang Wang

机构 * Department of Computer Science and Technlogy（计算机科学与技术系） ； Tsinghua University（清华大学） ； School of Computer Science and Technlogy（计算机科学与技术系） ； Xi’an Jiaotong University（西安交通大学） ； The State Key Laboratory of Blockchain and Data Security, Zhejiang University（区块链与数据安全国家重点实验室，浙江大学） ； Hangzhou High-Tech Zone (Binjiang) Institute of Blockchain and Data Security（杭州高科技区（滨江）区块链与数据安全研究院） 纠错

专题命中 其他安全 ：alignment(abstract,abstract_cn)；safety(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 本文提出HELLoRA，一种针对混合专家模型的层级低秩适应方法，通过仅对最活跃的专家添加LoRA模块，减少可训练参数和计算量，同时提升下游任务性能。

Brain alignment of reasoning and action representations from vision-language and action models during naturalistic gameplay

在自然主义游戏过程中，视觉语言和动作模型的推理与动作表示的脑部对齐

Subba Reddy Oota, Anant Khandelwal, Khushbu Pahwa, Satya Sai Srinath Namburi, Tanmoy Chakraborty, Bapi S. Raju, Manish Gupta

机构 * Independent（独立） ； Microsoft Research（微软研究院） ； AWS AI Labs（AWS人工智能实验室） ； GE HealthCare（通用电气医疗） ； IIT Delhi（德里理工学院） ； IIIT-Hyderabad（海得拉巴理工学院） ； Microsoft（微软） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文研究了在自然主义游戏过程中，视觉语言模型和大动作模型的推理与动作表示在脑部活动中的对齐情况，发现动作聚焦和推理聚焦的提示影响模型内部表示与fMRI脑活动的对齐程度。

Comments 21 pages, 11 figures

Tango3D: Towards Alignment for Global and Local 2D-3D Correspondence

Tango3D: 向全局和局部2D-3D对应关系对齐迈进

Zebin He, Mingxin Yang, Shuhui Yang, Hanxiao Sun, Xintong Han, Chunchao Guo, Wenhan Luo

机构 * HKUST（香港科技大学） ； Tencent Hunyuan（腾讯混元） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文提出Tango3D，一种统一密集对应和全局检索的3D基础模型，通过几何感知的2D视觉骨干网络和预训练的3D VAE将图像编码为2D片段，点云编码为3D标记，并映射到共享空间以实现局部像素-点对齐和全局语义对齐。

Quantifying the Pre-training Dividend: Generative versus Latent Self-Supervised Learning for Time Series Foundation Models

量化预训练红利：生成与潜在自监督学习在时间序列基础模型中的应用

Noam Major, Kathy Razmadze, Yoli Shavit

机构 * Faculty of Engineering, Bar-Ilan University（巴伊兰大学工程学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文研究了自监督学习在时间序列中的应用，比较了生成范式与潜在对齐架构，发现预训练红利在异常检测和分类任务中显著提升，但在预测任务中效果有限，同时表明表示质量与数据来源无关，且在适度的架构深度下趋于稳定。

Concept-Guided Noisy Negative Suppression for Zero-Shot Classification and Grounding of Chest X-Ray Findings

基于概念的噪声负样本抑制用于零样本分类和胸片发现的 grounding

Chenyu Lian, Hong-Yu Zhou, Chun-Ka Wong, Jing Qin

机构 * The Center for Smart Health, School of Nursing, the Hong Kong Polytechnic University, Hong Kong, China（香港理工大学智能健康中心，护理学院，中国香港） ； Research Institute for Smart Ageing, the Hong Kong Polytechnic University, Hong Kong, China（香港理工大学智能老龄化研究 institute，中国香港） ； School of Biomedical Engineering, Tsinghua Medicine, Tsinghua University, Beijing, China（清华大学生物医学工程学院，清华大学，北京，中国） ； Queen Mary Hospital, LKS Faculty of Medicine, The University of Hong Kong, Hong Kong, China（香港大学李嘉诚医学院Queen Mary医院，中国香港） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种基于概念的噪声负样本抑制框架CoNNS，通过构建层次化概念本体，解决不同患者间相似发现导致的噪声负样本问题，提升零样本理解任务的性能。

Comments Early accepted by MICCAI 2026

Be Kind, Rewrite: Benign Projections via Rewriting Defend Against LLM Data Poisoning Attacks

仁者重写：通过重写实现良性投影以防御大语言模型数据中毒攻击

John T. Halloran, Noopur S. Bhatt

机构 * Leidos ； University of Pennsylvania（宾夕法尼亚大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种基于重写的良性投影方法（OBBR），通过利用开放书本的良性样本来提高大语言模型对数据中毒攻击的防御能力，实验表明OBBR在多种已知攻击模式中表现出更高的安全性能，并且在计算效率和模型性能方面具有优势。

Comments 15 pages, 2 Figures, 5 Tables

RLFTSim: Realistic and Controllable Multi-Agent Traffic Simulation via Reinforcement Learning Fine-Tuning

RLFTSim: 通过强化学习微调实现逼真且可控的多智能体交通仿真

Ehsan Ahmadi, Hunter Schofield, Behzad Khamidehi, Fazel Arasteh, Jinjun Shan, Lili Mou, Dongfeng Bai, Kasra Rezaee

机构 * University of Alberta（阿尔伯塔大学） ； Huawei Technologies Canada（华为加拿大技术有限公司） ； York University（约克大学） ； Canada CIFAR AI Chair, Amii（加拿大 CIFAR 人工智能主席，Amii） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出RLFTSim框架，通过强化学习微调提升交通仿真场景的真实感，并通过目标条件化方法实现对交通仿真可控性的提炼，实验表明其在真实感和可控性方面均优于其他启发式搜索方法。

Comments CVPR 2026 Highlight; Project page at https://ehsan-ami.github.io/rlftsim

How does longer temporal context enhance multimodal narrative video processing in the brain?

更长的时间上下文如何增强大脑对多模态叙事视频的处理？

Prachi Jindal, Anant Khandelwal, Manish Gupta, Bapi S. Raju, Subba Reddy Oota, Tanmoy Chakraborty

机构 * Technische Universität Berlin（柏林技术大学） ； Microsoft Research（微软研究院） ； IIT Delhi（德里理工学院） ； Microsoft（微软） ； IIIT-Hyderabad（海得拉巴理工学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本研究探讨了视频片段时长和叙事任务提示如何影响自然电影观看过程中大脑模型对多模态大语言模型（MLLMs）的对齐情况，发现增加片段持续时间显著提高了大脑对齐程度，而单模态视频模型则无明显提升。

Comments 22 pages, 15 figures

Tracing Moral Foundations in Large Language Models

在大型语言模型中追溯道德基础

Chenxiao Yu, Bowen Yi, Farzan Karimi-Malekabadi, Suhaib Abdurahman, Jinyi Ye, Shrikanth Narayanan, Yue Zhao, Morteza Dehghani

机构 * Department of Computer Science, University of Southern California（南加州大学计算机科学系） ； Department of Psychology, University of Southern California（南加州大学心理学系） ； Center for Computational Language Sciences, University of Southern California（南加州大学计算语言科学中心） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了大型语言模型中道德基础的编码、组织和表达，通过多层方法分析道德基础与人类道德感知的一致性，并发现道德结构在预训练和微调过程中自然形成，且部分解耦。

STABLE: Simulation-Ready Tabletop Layout Generation via a Semantics-Physics Dual System

STABLE: 通过语义-物理双系统生成仿真准备的桌面布局

Zhen Luo, Yixuan Yang, Xudong Xu, Jinkun Hao, Zhaoyang Lyu, Feng Zheng, Jiangmiao Pang, Yanwei Fu

机构 * Shanghai AI Laboratory（上海人工智能实验室） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 本文提出STABLE，一种通过语义-物理双系统生成仿真准备的桌面布局的方法，通过语义推理模块生成粗略布局，物理校正模块校正布局以确保物理合理性，从而提升场景的物理有效性。

Comments ICML 2026

HOI-PAGE: Zero-Shot Human-Object Interaction Generation with Part Affordance Guidance

HOI-PAGE：基于部分可及性的零样本人类-物体交互生成

Lei Li, Angela Dai

机构 * University of Virginia（弗吉尼亚大学） ； Technical University of Munich（慕尼黑技术大学） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 本文提出HOI-PAGE，一种通过部分可及性推理生成高保真4D人类-物体交互的零样本方法，利用大语言模型进行部分级机械推理，并通过结构化部分可及性图（PAG）引导三阶段合成，生成复杂多物体或多人物交互序列。

Comments ICML 2026. Project page: https://craigleili.github.io/projects/hoipage/ Video: https://www.youtube.com/watch?v=gwXjOffCFyk