大模型对齐与安全

Distilling Deep Reinforcement Learning into Interpretable Fuzzy Rules: An Explainable AI Framework

将深度强化学习转化为可解释的模糊规则：一个可解释人工智能框架

Sanup S. Araballi, Simon Khan, Chilukuri K. Mohan

机构 * Dept. of EECS, Syracuse University, NY 13244, USA（电子工程与计算机科学系， Syracuse大学，纽约州，13244，美国） ； Air Force Research Laboratory, Rome, NY 13441, USA（空军研究实验室，罗马，纽约州，13441，美国） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 本文提出一种分层Takagi-Sugeno-Kang模糊分类器系统，通过K-means聚类和岭回归将神经策略转化为可读的IF-THEN规则，并引入三个量化指标评估解释性。

Comments Accepted to AAAI 2026 Spring Symposium Series

AutoControl Arena: Synthesizing Executable Test Environments for Frontier AI Risk Evaluation

AutoControl Arena：为前沿AI风险评估合成可执行测试环境

Changyi Li, Pengfei Lu, Xudong Pan, Fazl Barez, Min Yang

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.AI

AI总结 本文提出AutoControl Arena框架，通过逻辑-叙述解耦原理，结合可执行代码与LLM生成动态，有效缓解逻辑幻觉并提升灵活性，验证了在压力下AI风险显著增加，揭示了不同模型在安全性和对齐性上的差异。

Comments Project page: https://cosmosyi.github.io/AutoControl-Arena/; Code: https://github.com/CosmosYi/AutoControl-Arena/

TrinityGuard: A Unified Framework for Safeguarding Multi-Agent Systems

TrinityGuard：多智能体系统的统一防护框架

Kai Wang, Biaojie Zeng, Zeming Wei, Chang Jin, Hefeng Zhou, Xiangtian Li, Chao Yang, Jingjing Qu, Xingcheng Xu, Xia Hu

机构 * Shanghai AI Laboratory（上海人工智能实验室） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出TrinityGuard框架，用于评估和监控基于大语言模型的多智能体系统安全风险，通过三级风险分类识别20种风险类型，结合测试模块和运行时监控实现预开发评估与运行时监控。

Prompt Readiness Levels (PRL): a maturity scale and scoring framework for production grade prompt assets

提示准备等级（PRL）：一种用于生产级提示资产的成熟度量表和评分框架

Sebastien Guinard

机构 * Univ. Grenoble Alpes（格勒诺布尔大学） ； CEA（法国原子能委员会） ； DRT（法国国家科研机构） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.CY、cs.LG

AI总结 本文提出PRL和PRS，通过九级成熟度量表和多维评分方法，为提示资产的规范、测试、可追溯性、安全评估和部署准备性提供结构化框架，实现跨团队和行业的可重复评估。

Comments 7 pages, 1 figure

Mechanistic Origin of Moral Indifference in Language Models

语言模型中道德冷漠的机制起源

Lingyu Li, Yan Teng, Yingchun Wang

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 研究揭示语言模型存在内在道德冷漠，通过构建道德向量并重构其拓扑关系，提升道德推理能力，实现75%的对抗性基准测试胜率。

Comments 24 pages, 11 figures, 5 tables

ADV-0: Closed-Loop Min-Max Adversarial Training for Long-Tail Robustness in Autonomous Driving

ADV-0：面向自动驾驶的闭环极小-极大对抗训练以提升长尾鲁棒性

Tong Nie, Yihong Tang, Junlin He, Yuewen Mei, Jie Sun, Lijun Sun, Wei Ma, Jian Sun

机构 * The Hong Kong Polytechnic University, Hong Kong SAR, China（香港理工大学） ； Tongji University, Shanghai, China（同济大学） ； McGill University, Montreal, QC, Canada（麦吉尔大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出ADV-0框架，通过闭环极小-极大优化，将驾驶策略与对抗 agent 的交互视为零和马尔可夫博弈，提升自动驾驶对长尾场景的鲁棒性。

FairMed-XGB: A Bayesian-Optimised Multi-Metric Framework with Explainability for Demographic Equity in Critical Healthcare Data

FairMed-XGB: 一种具有可解释性的多指标框架，用于关键医疗数据中的公平性

Mitul Goswami, Romit Chatterjee, Arif Ahmed Sekh

机构 * School of Computer Engineering, Kalinga Institute of Industrial Technology（计算机工程学院，卡林加工业技术学院） ； Bio-AI Lab, UiT The Arctic University of Norway（生物-人工智能实验室，北欧大学（UiT）） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出FairMed-XGB框架，通过整合统计平衡差、Theil指数和Wasserstein距离的公平性感知损失函数，结合贝叶斯搜索优化XGBoost分类器，有效减少性别偏差并保持模型性能和透明度。

BIS Reasoning 1.0: The First Large-Scale Japanese Benchmark for Belief-Inconsistent Syllogistic Reasoning

BIS推理1.0：首个大规模日语信念不一致三段论基准数据集

Ha-Thanh Nguyen, Hideyuki Tachibana, Chaoran Liu, Qianying Liu, Su Myat Noe, Koichi Takeda, Sadao Kurohashi

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出BIS推理1.0，首个针对大语言模型信念不一致推理评估的日语三段论数据集，通过系统引入逻辑有效但信念不一致的三段论，揭示信念偏差问题，并评估多种模型在零样本下的表现。

Comments Accepted at LREC 2026

The Scenic Route to Deception: Dark Patterns and Explainability Pitfalls in Conversational Navigation

通往欺骗的风景路线：对话导航中的暗模式与可解释性陷阱

Ilya Ilyankou, Stefano Cavazzi, James Haworth

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.CY

AI总结 研究探讨了生成式AI在行人导航中的应用，揭示了对话接口可能带来的操纵风险，并提出神经符号架构作为提升可信任度的方法。

Citation-Enforced RAG for Fiscal Document Intelligence: Cited, Explainable Knowledge Retrieval in Tax Compliance

引用强化的财政文档智能：在税务合规中的引用、可解释知识检索

Akhil Chandra Shanivendra

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种引用强化的RAG框架，用于财政文档智能，强调可解释性和可审计性，通过源优先的摄入策略和引用强制机制提升税务合规中的引用准确性与解释性。

Comments 22 pages, 3 figures. Applied AI systems paper focused on citation-enforced RAG and abstention for fiscal document intelligence

Concept-Guided Fine-Tuning: Steering ViTs away from Spurious Correlations to Improve Robustness

基于概念引导的微调：引导ViT远离虚假相关性以提高鲁棒性

Yehonatan Elisha, Oren Barkan, Noam Koenigstein

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种引导模型推理至概念层面语义的微调框架，通过优化内部相关性映射对齐空间 grounded 的概念掩码，提升模型在分布偏移下的鲁棒性。

Comments CVPR 2026 ; Project page: https://yonisgit.github.io/concept-ft/

A Comprehensive Evaluation of LLM Unlearning Robustness under Multi-Turn Interaction

大语言模型多轮交互下LLM去学习鲁棒性综合评估

Ruihao Pan, Suhang Wang

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究多轮交互环境下LLM去学习的稳定性，发现静态评估可能高估实际效果，强调需确保交互场景下的稳定遗忘。

QuarkMedBench: A Real-World Scenario Driven Benchmark for Evaluating Large Language Models

QuarkMedBench: 一个基于现实场景的基准测试，用于评估大型语言模型

Yao Wu, Kangping Yin, Liang Dong, Zhenxin Ma, Shuting Xu, Xuehai Wang, Yuxuan Jiang, Tingting Yu, Yunqing Hong, Jiayi Liu, Rianzhe Huang, Shuxin Zhao, Haiping Hu, Wen Shang, Jian Xu, Guanjun Jiang

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 QuarkMedBench通过构建大规模医疗数据集和自动评分框架，评估LLM在真实医疗查询中的表现，揭示传统考试指标的局限性。

MR-GNF: Multi-Resolution Graph Neural Forecasting on Ellipsoidal Meshes for Efficient Regional Weather Prediction

MR-GNF：基于椭球网格的多分辨率图神经预测用于高效区域天气预测

Andrii Shchur, Inna Skarga-Bandurova

机构 * Kyiv School of Economics（基輔經濟學院） ； Oxford Brookes University（氧化橋學院） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 MR-GNF通过多尺度图神经网络实现高效区域天气预测，利用椭球网格结构在1.6M参数内捕捉三维结构，提供稳定6至24小时预报，成本低于传统数值天气预报。

Comments Accepted to the AAAI2026 workshop on AI for Environmental Science (AAAI2026 AI4ES). Discussion version available on OpenReview. Code available at https://github.com/AndriiShchur/MR-GNF

NetArena: Dynamic Benchmarks for AI Agents in Network Automation

NetArena：网络自动化中AI代理的动态基准测试

Yajie Zhou, Jiajun Ruan, Eric S. Wang, Sadjad Fouladi, Francis Y. Yan, Kevin Hsieh, Zaoxing Liu

专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 NetArena通过动态生成基准测试框架提升网络自动化中AI代理的可靠性，减少置信区间重叠，揭示更细致的行为特征，并支持SFT和RL微调。

Benchmarking the Energy Cost of Assurance in Neuromorphic Edge Robotics

在神经形态边缘机器人中评估保证的能量成本

Sylvester Kaczmarek

专题命中 安全评测 ：trustworthy(abstract,comments)；分类 cs.LG

AI总结 本文研究了在边缘机器人中部署可信人工智能的高保证鲁棒性和能源可持续性之间的权衡，通过对比传统防御机制与事件驱动的神经形态架构，展示了后者在降低攻击成功率的同时保持低能耗的优势。

Comments 6 pages, 4 figures. Accepted and presented at the STEAR 2026 Workshop on Sustainable and Trustworthy Edge AI for Robotics, HiPEAC 2026, Krakow, Poland

Auditing Cascading Risks in Multi-Agent Systems via Semantic-Geometric Co-evolution

通过语义-几何共演化审计多智能体系统中的级联风险

Zixun Luo, Yuhang Fan, Hengyu Lin, Yufei Li, Youzhi Zhang

机构 * Huazhong University of Science and Technology（华中科技大学） ； Lingnan University（岭大大学） ； Tsinghua University（清华大学） ； Centre for Artificial Intelligence and Robotics（人工智能与机器人中心） ； Hong Kong Institute of Science and Innovation（香港创新科技研究院） ； Chinese Academy of Sciences（中国科学院） 纠错

专题命中 安全评测 ：trustworthy(abstract,comments)；分类 cs.AI

AI总结 本文提出基于语义-几何共演化的框架，通过动态图模型和Ollivier-Ricci曲率检测多智能体系统中的级联风险，提前预警并定位根本原因。

Comments This work has been accepted to ICLR 2026 Workshop: Principled Design for Trustworthy AI

Evasive Intelligence: Lessons from Malware Analysis for Evaluating AI Agents

逃避式智能：从恶意软件分析中汲取的AI评估教训

Simone Aonzo, Merve Sahin, Aurélien Francillon, Daniele Perito

机构 * Eurecom ； SAP Labs（SAP实验室） ； Depthfirst 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文探讨了AI代理评估中因适应性行为导致的安全性误判问题，借鉴恶意软件沙盒逃避的研究，提出评估原则以应对潜在的对抗性环境。

MER-Bench: A Comprehensive Benchmark for Multimodal Meme Reappraisal

MER-Bench：多模态表情包再解释的综合基准

Yiqi Nie, Fei Wang, Junjie Chen, Kun Li, Yudi Cai, Dan Guo, Chenglong Li, Meng Wang

机构 * School of Artificial Intelligence, Anhui University（安徽大学人工智能学院） ； Institute of Artificial Intelligence, Hefei Comprehensive National Science Center（合肥综合性国家科学中心人工智能研究院） ； School of Computer Science and Information Engineering, Hefei University of Technology（合肥工业大学计算机科学与信息工程学院） ； College of Information Technology, United Arab Emirates University（阿拉伯联合酋长国大学信息学院） ； Institute of Advanced Technology, University of Science and Technology of China（中国科学技术大学先进技术研究院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出MER-Bench，一个用于多模态表情包再解释的综合基准，通过多模态大语言模型评估结构保持、语义一致性和情感转换，揭示现有系统在约束满足上的不足。

Visual Confused Deputy: Exploiting and Defending Perception Failures in Computer-Using Agents

视觉混淆代理：在计算机使用代理中利用和防御感知失败

Xunzhuo Liu, Bowei He, Xue Liu, Andy Luo, Haichen Zhang, Huamin Chen

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本文提出了一种新的安全防护机制，通过双重通道对比分类来检测计算机使用代理中的视觉感知错误，以提高系统安全性。

Automatic Inter-document Multi-hop Scientific QA Generation

自动跨文档多跳科学问答生成

Seungmin Lee, Dongha Kim, Yuni Jeon, Junyoung Koh, Min Song

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出AIM-SciQA框架，通过大语言模型生成多文档多跳科学问答数据集，结合语义对齐和引用信息提升事实一致性，构建IM-SciQA数据集并验证其在检索增强推理中的有效性。

Comments 14 pages, 5 figures, 8 tables. Accepted to the 2026 International Conference on Language Resources and Evaluation (LREC 2026)

Formal Abductive Explanations for Navigating Mental Health Help-Seeking and Diversity in Tech Workplaces

形式归纳解释用于导航心理健康求助与科技职场多样性

Belona Sonna, Alain Momo, Alban Grastien

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出形式归纳解释框架，用于系统揭示AI对科技职场心理健康求助预测的合理性。通过计算模型输出的严谨解释，支持选择适合不同心理科目的模型，并确保伦理稳健的救济计划。同时，明确考察性别等敏感属性对模型决策的影响，以支持公平性评估。

Comments Appeared in the Proceedings of the Empowering Women of Colour in AI-Driven Mental Health Research at IJCAI 2025

Fine-Tuning Hybrid Physics-Informed Neural Networks for Vehicle Dynamics Model Estimation

针对车辆动力学模型估计的混合物理信息神经网络微调

Shiming Fang, Kaiyan Yu

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出FTHD方法，结合监督和非监督PINNs，通过微调预训练的DDM，在减少数据量的情况下提升参数估计精度，并通过EKF-FTHD增强数据鲁棒性。

Journal ref Int. J. Intell. Robot. Appl., vol. 9, no. 4, pp. 1594-1610, 2025

Node Role-Guided LLMs for Dynamic Graph Clustering

基于节点角色的动态图聚类LLM

Dongyuan Li, Ying Zhang, Yaozu Wu, Renhe Jiang

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本文提出DyG-RoLLM框架，通过可学习原型将连续图嵌入映射为离散语义概念，实现动态图聚类的可解释性与鲁棒性。

Comments The paper has been accepted by WWW 2026

Scalable Classification of Course Information Sheets Using Large Language Models: A Reusable Institutional Method for Academic Quality Assurance

利用大语言模型实现课程信息表的可扩展分类：一种用于学术质量保证的可重用机构方法

Brecht Verbeken, Joke Van den Broeck, Inge De Cleyn, Steven Van Luchene, Nadine Engels, Andres Algaba, Vincent Ginis

机构 * Vrije Universiteit Brussel（布鲁塞尔自由大学） ； Harvard University（哈佛大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出一种利用大语言模型对课程信息表进行大规模分类的方法，通过迭代优化和多模型比较，实现了对课程评估风险的识别与验证，为学术质量保证提供了可重用的机构方法。

Comments 23 pages

Patient-Level Multimodal Question Answering from Multi-Site Auscultation Recordings

多站点听诊录音的患者级多模态问答

Fan Wu, Tsai-Ning Wang, Nicolas Zumarraga, Ning Wang, Markus Kreft, Kevin O'Sullivan, Elgar Fleisch, Oliver Aalami, Paul Schmiedmayer, Robert Jakob, Patrick Langer

机构 * Agentic Systems Lab, ETH Zurich（伦理学院系统实验室，苏黎世联邦理工学院） ； Eindhoven University of Technology（埃因霍温理工大学） ； Centre for Digital Health Interventions, ETH Zurich（数字健康干预中心，苏黎世联邦理工学院） ； Centre for Digital Health Interventions, University of St. Gallen（数字健康干预中心，圣加尔登大学） ； Stanford Mussallem Center for Biodesign, Stanford University（斯坦福穆萨勒姆生物设计中心，斯坦福大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出通过门控交叉注意力将多站点听诊录音与冻结的大语言模型嵌入空间对齐，实现患者级评估，在CaReSound基准上取得SOTA结果，展示轻量领域特定编码器与多站点聚合的优势。

Benchmarking Compact VLMs for Clip-Level Surveillance Anomaly Detection Under Weak Supervision

对弱监督条件下Clip级监控异常检测的紧凑视觉语言模型进行基准测试

Kirill Borodin, Kirill Kondrashov, Nikita Vasiliev, Ksenia Gladkova, Inna Larina, Mikhail Gorodnichev, Grach Mkrtchian

机构 * Faculty of Information Technology, Moscow Technical University of Communication 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本文研究了在弱监督条件下，紧凑型视觉语言模型在Clip级监控异常检测中的性能，通过统一评估协议比较了参数高效适应的紧凑VLMs与无训练VLM流水线和弱监督基线，展示了在准确率和效率上的平衡。

Comments Published ad MDPI Journal of Imaging (see at https://www.mdpi.com/2313-433X/11/11/400)

Journal ref Journal of Imaging. 2025; 11(11):400

ManiBench: A Benchmark for Testing Visual-Logic Drift and Syntactic Hallucinations in Manim Code Generation

ManiBench：一个用于测试Manim代码生成中视觉-逻辑漂移和语法幻觉的基准测试

Nabin Oli

机构 * Sunway College Kathmandu（加德满都阳光学院） ； Birmingham City University（伯明翰城市大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 ManiBench旨在评估LLM在生成Manim CE代码时的性能，针对语法幻觉和视觉-逻辑漂移两种关键失败模式，包含150-200个问题，涵盖微积分、线性代数、概率、拓扑和AI等领域。

Risk-Sensitive Agent Compositions

风险敏感型代理组合

Guruprerana Shabadi, Rajeev Alur

机构 * University of Pennsylvania（宾夕法尼亚大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.LG

AI总结 本文提出一种风险最小化方法，用于在代理组合中平衡任务成功率与安全、公平和隐私要求，通过动态规划和联合界估算近优解。

Comments 19 pages, 6 figures. Accepted to ICLR 2026

Multi-Scale Control of Large Agent Populations: From Density Dynamics to Individual Actuation

多尺度控制大规模群体：从密度动力学到个体驱动

Mario di Bernardo

专题命中 安全评测 ：safety(abstract)

AI总结 本文综述了作者与合作者在多尺度控制大规模群体方面的最新研究，探讨了从微观动态到宏观密度描述的系统性桥梁，以及直接控制与间接控制的统一方法。