大模型对齐与安全

Can We Stop Malicious AI? KILLBENCH: A Benchmark for External AI Kill Switch Feasibility

我们能阻止恶意AI吗？KILLBENCH：外部AI终止开关可行性基准

Sechan Lee, Hyounghun Kim, Sangdon Park

机构 * Graduate School of Artificial Intelligence, POSTECH（POSTECH人工智能研究生院） 纠错

专题命中 安全评测 ：jailbreak(abstract)；分类 cs.AI

AI总结 提出Killbench基准，通过外部信号（如输入文本）评估终止恶意AI代理行为的方法，无需访问内部参数，实验表明在多种模型上外部终止开关具有可行性。

GenAutoML: An Agentic Framework for Dynamic Architecture Generation and Optimization in Time-Series Analysis

GenAutoML: 面向时间序列分析的动态架构生成与优化的智能体框架

Oleeviya Babu Poikarayil, Cédric Schockaert, Abdulrahman Nahhas, Christian Daase, Mursal Dawodi, Jawid Ahmad Baktash

机构 * Paul Wurth S.A.（保罗·沃思公司） ； Otto-von-Guericke University（奥托·冯·格里克大学） ； Technical University of Munich（慕尼黑技术大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 提出GenAutoML框架，利用大语言模型作为神经架构师，通过沙盒反射循环和签名感知运行时自动生成并优化时间序列预测与异常检测的神经网络架构，引入动态可逆实例归一化提升非平稳条件下的鲁棒性。

Comments 26 pages, 17 figures, 12 tables. Under review

Can Factual Opinions Be Edited (Manipulated) in Large Language Models?

大型语言模型中的事实性观点能否被编辑（操纵）？

Yuanpu Cao, Ziyi Yin, Fenglong Ma, Jinghui Chen

机构 * The Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 提出FOE基准测试，评估当前知识编辑技术对事实性观点（如公众人物立场）的操纵能力，并发现其仅能实现表面修改，无法保持观点与证据的一致性；进而提出自生成证据对齐方法实现观点-证据对齐。

Comments Accepted to the ACL 2026 Main Conference

Earth Science Foundation Models: From Perception to Reasoning and Discovery

地球科学基础模型：从感知到推理与发现

Xiangyu Zhao, Bo Liu, Yuehan Zhang, Zelin Song, Wanghan Xu, Feng Liu, Fengxiang Wang, Ben Fei, Fenghua Ling, Wangxu Wei, Wenlong Zhang, Xiao-Ming Wu

机构 * Department of Data Science and Artificial Intelligence, The Hong Kong Polytechnic University（数据科学与人工智能系，香港理工大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文综述了地球科学基础模型，探讨了其从感知到多模态推理及科学发现的能力演进，并总结了其在大气、水圈、岩石圈等领域的广泛应用。

BLUEmed: Retrieval-Augmented Multi-Agent Debate for Clinical Error Detection

BLUEmed: 基于检索增强的多智能体辩论用于临床错误检测

Saukun Thika You, Nguyen Anh Khoa Tran, Wesley K. Marizane, Hanshu Rao, Qiunan Zhang, Xiaolei Huang

机构 * University of California, San Diego（加州大学圣地亚哥分校） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 提出BLUEmed框架，结合混合检索增强生成与多智能体辩论，通过分解临床笔记、检索证据、专家辩论及安全层过滤，在术语替换错误检测中达到最优性能。

Comments Accepted to the IEEE International Conference on Healthcare Informatics (ICHI) 2026

BrainPro: Towards Large-scale Brain State-aware EEG Representation Learning

BrainPro：迈向大规模脑状态感知的脑电图表征学习

Yi Ding, Muyun Jiang, Weibang Jiang, Shuailei Zhang, Xinliang Zhou, Chenyu Liu, Shanglin Li, Yong Li, Cuntai Guan

机构 * Nanyang Technological University（南洋理工大学） ； Shanghai Jiao Tong University（上海交通大学） ； Advanced Telecommunications Research Institute International（先进电信研究院） ； Southeast University（东南大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 提出BrainPro模型，通过检索式空间对齐和脑状态解耦模块，学习共享与特定状态表征，在9个公共BCI数据集上取得最优性能。

Comments 31 pages, 11 figures

Automated Scoring of Arabic Text Using Large Language Models: A Literature Review

使用大型语言模型对阿拉伯语文本进行自动评分：文献综述

Khaoula Dahimi, Hadda Cherroun, Amel Belabbaci

机构 * Laboratoire d’Informatique et de Mathématiques LIM, Amar Telidji University（阿马尔·特里吉大学计算机与数学实验室） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文综述了基于大型语言模型的阿拉伯语文本自动评分方法，包括简答题评分和作文评分，提出了包含五个维度的分类体系，并对比分析了现有研究的方法、数据集和性能。

Comments Accepted at NCMAI 2026

Evaluating Factual Density in Multi-Source RAG: A Study in Medical AI Accuracy

评估多源RAG中的事实密度：医学AI准确性研究

Michael R. DeMarco

机构 * NexusAgentics 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 针对标准RAG管道因专家盲视效应而忽视高密度事实证据的问题，提出事实密度（FD*）作为检索优化信号，通过概率事实性分析预处理和Z-score归一化消除长度偏差，在HealthFC基准上实现100%系统综述覆盖率。

Comments 16 pages, 8 tables. Includes Experiment 3 results (n=11, Wilcoxon p=0.0619). Preliminary findings; powered Experiment 3 and Graph RAG extension identified as future work. Updated from v1

OpenVTON-Bench: A Large-Scale High-Resolution Benchmark for Controllable Virtual Try-On Evaluation

OpenVTON-Bench：用于可控虚拟试穿评估的大规模高分辨率基准

Jin Li, Tao Chen, Kai Wen, Siqi Yin, Shuai Jiang, Weijie Wang, Jingwen Luo, Chenhui Wu

机构 * Renxing Intelligence, Hangzhou, China ； Hangzhou Dianzi University, Hangzhou, China（杭州电子科技大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 提出OpenVTON-Bench，包含约10万对高分辨率图像，通过DINOv3聚类和Gemini描述构建，并设计多模态评估协议，沿五个维度衡量试穿质量，与人类判断高度一致。

Comments Under review for the NeurIPS 2026 Datasets and Benchmarks Track

A Survey of Reasoning and Agentic Systems in Time Series with Large Language Models

时间序列中基于大语言模型的推理与智能体系统综述

Ching Chang, Yidan Shi, Defu Cao, Wei Yang, Jeehyun Hwang, Haixin Wang, Jiacheng Pang, Wei Wang, Yan Liu, Wen-Chih Peng, Tien-Fu Chen

机构 * University of California, Los Angeles（加州大学洛杉矶分校） ； University of Southern California（南加州大学） ； National Yang Ming Chiao Tung University（阳明交通大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文定义时间序列推理问题，按推理拓扑分为直接、线性链和分支结构三类，结合传统分析、解释、因果推断和生成等目标，综述方法、系统、数据集和评估实践，并指导拓扑选择与部署权衡。

Comments Accepted to Transactions on Machine Learning Research (TMLR)

Mitigating hallucinations in healthcare LLMs with granular fact-checking and domain-specific adaptation

通过细粒度事实核查和领域特定适应减轻医疗保健大语言模型中的幻觉

Musarrat Zeba, Abdullah Al Mamun, Kishoar Jahan Tithee, Debopom Sutradhar, Mohaimenul Azam Khan Raiaan, Saddam Mukta, Reem E. Mohamed, Md Rafiqul Islam, Yakub Sebastian, Mukhtar Hussain, Sami Azam

机构 * Applied Artificial Intelligence and Intelligent Systems (AAIINS) Laboratory（应用人工智能与智能系统实验室） ； Department of Computer Science and Engineering（计算机科学与工程系） ； Department of Data Science and Artificial Intelligence（数据科学与人工智能系） ； Department of Software Engineering（软件工程系） ； Faculty of Science and Information Technology（科学与信息技术学院） ； Faculty of Science and Technology（科学与技术学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 提出一个独立于任何LLM的事实核查模块和领域特定的摘要模型，通过数值测试和细粒度逻辑检查减少幻觉，在MIMIC III数据集上微调并评估，取得了高精度和召回率。

Comments Published in Expert Systems with Applications

Journal ref Expert Systems with Applications, Vol. 329, 132966, 2026

ChartREG++: Towards Benchmarking and Improving Chart Referring Expression Grounding under Diverse referring clues and Multi-Target Referring

ChartREG++：面向多样化指代线索和多目标指代的图表指代表达式定位基准与改进

Tianhao Niu, Ziyu Han, Xuan Dong, Qingfu Zhu, Wanxiang Che

机构 * Research Center for Social Computing and Interactive Robotics（社会计算与交互机器人研究中心） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 针对现有图表指代表达式定位基准的局限，提出支持多种定位形式、多目标指代、多样化线索和图表类型的基准，并利用代码驱动合成流水线生成像素级实例掩码，训练实例分割模型集成到多模态定位框架，显著提升性能。

Revisiting Metric Reliability for Fine-grained Evaluation of Machine Translation and Summarization in Indian Languages

重新审视印度语言机器翻译和摘要细粒度评估的度量可靠性

Amir Hossein Yari, Kalmit Kulkarni, Ahmad Raza Khan, Fajri Koto

机构 * Sharif University of Technology（谢里夫理工学院） ； Vellore Institute of Technology（韦洛雷理工学院） ； IIT Kharagpur（印度理工学院达卡分校） ； Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 针对印度语言评估不足的问题，提出ITEM基准，系统评估29种自动度量与人工判断的对齐，发现基于LLM的评估器表现最佳，并揭示了异常值影响、任务差异及扰动鲁棒性等关键发现。

Comments 18 pages, 14 figures

FieldWorkArena: Agentic AI Benchmark for Real Field Work Tasks

FieldWorkArena：面向真实作业任务的代理AI基准测试

Jun Takahashi, Atsunori Moteki, Akiyoshi Uchida, Shoichi Masui, Fan Yang, Kanji Uchino, Yueqi Song, Yonatan Bisk, Graham Neubig, Ikuo Kusajima, Yasuto Watanabe, Hiroyuki Ishida, Koki Nakagawa, Shan Jiang

机构 * Fujitsu Limited（富士通株式会社） ； Fujitsu Research of America（富士通美国研究部） ； Carnegie Mellon University（卡内基梅隆大学） ； Master’s Student, The University of Tokyo（东京大学硕士研究生） ； Agent Research Collective（代理研究集体） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出FieldWorkArena，用于评估代理AI在真实制造业和零售环境中的性能，通过现场采集的数据和实地访谈设计任务，验证多模态大语言模型的评估可行性。

Comments 27 pages, 10 figures, 7 tables [ICPR 2026 Accepted] Changes from previous version: added supplemental material

Bounded by Risk, Not Capability: Quantifying AI Occupational Substitution Rates via a Tech-Risk Dual-Factor Model

受风险限制而非能力：通过技术-风险双因素模型量化AI职业替代率

Shuyao Gao, Minghao Huang

专题命中 安全评测 ：safety(abstract)；分类 cs.CY

AI总结 本文通过技术-风险双因素模型量化AI职业替代率，揭示了职业替代并非瞬间发生，而是渐进过程，并指出算法概率无法涵盖专家受专业责任限制的'机构溢价'。

Comments 32 pages, 4 figures. v2: added link to the reproducibility repository (https://github.com/ShuyaoGao/bounded-risk-oai), updated author email, and updated several references

SurveyLens: A Discipline-Aware Benchmark for Automatic Survey Generation

SurveyLens：一个学科感知的自动综述生成基准

Beichen Guo, Zhiyuan Wen, Jia Gu, Haochen Shi, Jian Wang, Senzhang Wang, Haoyang Li, Ruosong Yang, Shuaiqi Liu

机构 * The Hong Kong Polytechnic University（香港理工大学） ； Sichuan University（四川大学） ； Central South University（中南大学） ； Alibaba Cloud（阿里巴巴云） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 提出SurveyLens，首个学科感知的自动综述生成基准，包含跨10个学科的1000篇人工撰写综述数据集和双视角评估框架，发现深度研究智能体在跨学科鲁棒性上最优，而所有范式在参考文献质量上仍薄弱。

Comments 8 pages, 9 figures

Modeling the Diachronic Evolution of Legal Norms: An LRMoo-Based, Component-Level, Event-Centric Approach to Legal Knowledge Graphs

法律规范历时演变的建模：一种基于LRMoo、组件级、事件中心的法律知识图谱方法

Hudson de Martim

机构 * Federal Senate of Brazil（巴西联邦议会） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 提出基于LRMoo本体的事件中心模式，通过版本化作品链和语言版本区分，精确建模法律规范的历时演变，并以巴西宪法为例验证了任意日期法律文本的确定性重建。

Comments Revised version. Refined ontological modeling of legislative events (adopted F27/E64 joint typing over E11). Introduced technical distinctions for bitemporal modeling in legal knowledge graphs and enriched the critical analysis of related standards in Section 2

Interpretable Self-Supervised Learning via Representer Landmarks and Nyström Approximation

通过表征地标和Nyström近似的可解释自监督学习

Maedeh Zarvandi, Michael Timothy, Theresa Wasserer, Debarghya Ghoshdastidar

机构 * Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心） ； Technical University of Munich, TUM School of Computation, Information and Technology（慕尼黑技术大学，TUM计算、信息与技术学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 提出KREPES框架，利用表征地标和Nyström近似，对自监督学习目标（SimCLR、BYOL、VICReg）学到的表征进行可解释性分析，并引入新指标量化透明度。

Comments 24 pages, 10 figures. Accepted to the 43rd International Conference on Machine Learning (ICML 2026)

LLM as a Meta-Judge: Synthetic Data for NLP Evaluation Metric Validation

LLM作为元评判者：用于NLP评估指标验证的合成数据

Lukáš Eigler, Jindřich Libovický, David Hurych

机构 * Faculty of Mathematics and Physics, Charles University（数学与物理系，查尔斯大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 提出LLM作为元评判者框架，通过控制语义退化生成合成数据替代人工判断，验证NLG评估指标，在多语言问答中元相关性超过0.9。

Comments 16 pages, 1 figure, 14 tables

When benchmark inferences do not compose: Projectibility in AI evaluation

当基准推理无法组合：AI评估中的可投射性

Brett Reynolds

机构 * Humber Polytechnic（汉伯理工学院） ； University of Toronto（多伦多大学） 纠错

专题命中 安全评测 ：分类 cs.AI、cs.CY、cs.LG；alignment(comments)

AI总结 本文针对AI评估中基准推理无法组合的问题，提出非组合原则，结合古德曼的竞争延伸问题与基于论证的有效性框架，通过案例和模拟开发可投射性审计以诊断基准到应用论证的衔接缺陷。

Comments 34 pages, 2 figures, 5 tables. v2 substantially revises Secs. 5-8 and the conclusion, adds a measured instance of factor-structure instability, and corrects a claim in Sec. 3.3 that endpoint alignment suffices for composition. Supersedes the withdrawn arXiv:2510.15236. Code: https://github.com/BrettRey/benchmark-inference-composition

Semantic Drift in Bug Resolution: How Behavioral Signals Propagate from Reports to Tests and Patches

错误修复中的语义漂移：行为信号如何从报告传播到测试和补丁

Wendkûuni C. Ouédraogo, Yinghua Li, Xueqi Dang, Paweł Borsukiewicz, Liang Xiao, Lingfeng Bao, Anil Koyuncu, Jacques Klein, David Lo, Tegawendé F. Bissyandé

专题命中 安全评测 ：alignment(abstract)

AI总结 研究错误修复中行为信号跨工件传播的量化问题，核心方法是引入Desc2Fix框架，通过结构化行为锚等实现语义对齐，主要贡献是证明行为对齐可测且非相似性可比，能为测试和补丁相关工作提供可重现信号，助力多项错误修复任务。

Generalizable Operating Room Expert with Multimodal Enhancement

具备多模态增强能力的可泛化手术室专家

Peiqi He, Zhenhao Zhang, Yixiang Zhang, Jiaxin Liu, Xiongjun Zhao, Shaoliang Peng

专题命中 安全评测 ：alignment(abstract)

AI总结 针对手术室空间建模的局限，提出仅用RGB图像推理的多模态大语言模型OR-Expert，通过内部推导空间线索实现三维推理，在手术室基准上达SOTA且泛化性良好。

Comments Accepted by ACM Multimedia 2026

Dissect and Prune: Enhancing Robustness in AI-Generated Image Detection

剖析与剪枝：增强AI生成图像检测的鲁棒性

Dahye Kim, Jaehyun Choi, Hyun Seok Seong, Seongho Kim, Donghun Lee, Sungwon Yi, Jang-Ho Choi

机构 * Korea AI Safety Institute (AISI), ETRI, Seongnam, South Korea（韩国人工智能安全研究所（AISI）、ETRI、Seongnam韩国） ； Department of Artificial Intelligence, Sungkyunkwan University, Suwon, South Korea（人工智能系，全州大学，Suwon韩国） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 针对AI生成图像检测器对真实类别的预测偏差问题，提出DEAR方法，利用修复图像识别并剪除干扰特征，从而提升对未知生成器和后处理的鲁棒性。

Comments Accepted to ICML 2026. 26 pages, 9 figures, 9 tables. Includes appendix

MuSS: A Large-Scale Dataset and Cinematic Narrative Benchmark for Multi-Shot Subject-to-Video Generation

MuSS：一个多镜头数据集和电影叙事基准用于多镜头主体到视频生成

Haojie Zhang, Di Wu, Bingyan Liu, Linjie Zhong, Yuancheng Wei, Xingsong Ye, Nanqing Liu, Yaling Liang

机构 * South China University of Technology（华南理工大学） ； Fudan University（复旦大学） ； Yunnan Normal University（云南师范大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出MuSS数据集和电影叙事基准，解决多镜头视频生成中的叙事逻辑、时空对齐和复制粘贴问题，通过改进的标注流程和反复制粘贴指标提升生成质量。

Comments 17 pages, 9 figues

Assessing Risks of Hydro-Generator Shaft Fatigue from Data Center Load Oscillations

评估数据中心负载振荡对水轮发电机轴疲劳的风险

Kaustav Chatterjee, Meghana Ramesh, Shuchismita Biswas, Brett A. Ross, Antos C. Varghese, Sameer Nekkalapu, Slaven Kincic

专题命中 安全评测 ：safety(abstract)

AI总结 研究大型AI数据中心负载振荡对水轮发电机轴疲劳的风险，基于双质量涡轮发电机轴表示法开发电磁暂态仿真模型，分两阶段评估风险。通过频率扫描等方法发现放大受惯性比和阻尼影响，古德曼安全系数可评估振荡对水轮发电机寿命的影响。

When the Defense Writes the Refusal: Auditing Keyword-Scored Evaluation of Inference-Time Defenses for Multimodal Large Language Models

多模态大语言模型推理时防御方法的比较分析

Bulat Nutfullin, Vladimir Evgrafov, Dmitry Namiot

专题命中 安全评测 ：safety(abstract)

AI总结 本文比较评估了三种推理时防御方法及其组合在InternVL和Qwen-VL系列共8个模型上的效果，发现无单一防御在所有设置中占优，组合防御导致良性查询过度拒绝率达97-100%，而简单安全提示在保持实用性的同时带来适度安全提升。

Comments 15 pages, 3 figures. Conditionally accepted at DAMDID/RCDL 2026; revised after peer review

BRIDGE: Background Routing and Isolated Discrete Gating for Coarse-Mask Local Editing

BRIDGE：背景路由与孤立离散门控用于粗掩膜局部编辑

Peilin Xiong, Honghui Yuan, Junwen Chen, Keiji Yanai

机构 * Department of Informatics, The University of Electro-Communications（信息学系，电通大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 BRIDGE通过背景路由和离散门控技术解决粗掩膜局部编辑中掩膜形状偏差问题，提升编辑区域与背景的稳定性与一致性。

Comments 24 pages, 15 figures

Describe-to-Score: A text-guided framework for image complexity assessment

描述到评分：一种用于图像复杂度评估的文本引导框架

Shipeng Liu, Liang Zhao, Dengfeng Chen, Zhonglin Zhang

机构 * Xi’an University of Architecture and Technology（西安建筑科技大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 该研究针对现有图像复杂度评估方法无法捕捉高级语义的问题，提出文本引导框架D2S，仅训练阶段引入描述语义正则化，在IC9600基准达SOTA，跨任务也具竞争力。

Comments Accepted by Pattern Recognition

Asymmetric Trust Effects of Corrective AI in Expert Advisory Workflows under Epistemic Dependence

人工智能参与对专家咨询工作流中信任的影响

Dennis Kim, Roya Daneshi, Bruce Draper, Sarath Sreedharan

专题命中 安全评测 ：trustworthy(abstract)

AI总结 研究探讨人工智能在专家咨询工作流中对用户信任的影响，发现人类专家使用AI的方式会影响用户对专业知识的信任。

Comments Revised version. Accepted to AIES 2026. Includes technical appendices and additional analyses

LLMs Cannot Reliably Judge (Yet?): A Comprehensive Assessment on the Robustness of LLM-as-a-Judge

大型语言模型目前尚不可靠地充当评判者：对LLM作为评判者的鲁棒性的综合评估

Songze Li, Chuokun Xu, Jiaying Wang, Xueluan Gong, Chen Chen, Jirui Zhang, Jun Wang, Kwok-Yan Lam, Shouling Ji

专题命中 安全评测 ：red teaming(abstract)

AI总结 本研究引入RobustJudge框架，评估LLM-as-a-Judge的鲁棒性，发现其易受攻击，鲁棒性对提示模板和模型选择敏感，优化攻击结合长后缀可提升PAI-Judge分数。