大模型对齐与安全

Invariant Gradient Alignment for Robust Reasoning Distillation

不变梯度对齐用于鲁棒推理蒸馏

Zehua Cheng, Wei Dai, Jiahao Sun

机构 * University of Oxford（牛津大学） ； FLock.io 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出不变梯度对齐（IGA）框架，通过逻辑同构集、连续梯度冲突掩码和截断SVD投影，对齐不同语义域但逻辑结构相同的梯度更新，提升大语言模型在分布外输入上的鲁棒性。

Comments 30 Pages

Journal ref In Proceedings of European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases 2026

Listening to the Workforce: Measuring Construction Worker Safety Attitudes from Social Media Discourse Using LLMs

倾听劳动力：使用LLMs从社交媒体话语中测量建筑工人安全态度

Farouq Sammour, Yuxin Zhang, Zhenyu Zhang

机构 * Texas A&M University（德克萨斯A&M大学） 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.CL、cs.CY

AI总结 提出并验证了建筑安全态度框架（CSAF），通过LLM分类器从Reddit社区话语中测量工人安全态度，实现高精度多维分析。

Test-time reward-guided alignment of language models by importance sampling on pre-logit space

基于预逻辑空间重要性采样的测试时奖励引导语言模型对齐

Sekitoshi Kanai, Tsukasa Yoshida, Hiroshi Takahashi, Haru Kuroki, Kazumune Hashimoto

机构 * NTT, Inc.（NTT公司） ； Toyohashi University of Technology（东邦大学） ； The University of Osaka（大阪大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出一种基于预逻辑空间自适应重要性采样的测试时对齐方法AISP，通过高斯扰动和重要性采样优化奖励期望，在样本效率上优于最佳-of-n采样和其他测试时对齐方法。

Comments 24 pages, 10 figures

Multi-Agent Distributed Coordination Control: Developments and Directions

多智能体分布式协调控制：发展与方向

Xiangke Wang, Xun Li, Yirui Cong, Zhiwen Zeng, Zhiqiang Zheng

专题命中 其他安全 ：alignment(summary_cn,abstract)

AI总结 本文综述了分布式协调控制的发展，重点讨论了共识与编队控制，结合图论分析，并简要回顾了 rendezvous/alignment、swarming/flocking 和 containment control 等相关问题，最后探讨了实际应用中的研究方向。

Comments 28 pages, 8 figures

Beyond Symmetric Alignment: Spectral Diagnostics of Modality Imbalance in Vision-Language Models in the Medical Domain

超越对称对齐：医学领域视觉-语言模型中模态不平衡的光谱诊断

Alessandro Gambetti, Qiwei Han, Cláudia Soares, Hong Shen

机构 * NOVA School of Science and Technology（诺瓦科学与技术学校） ； Nova School of Business and Economics（诺瓦商业与经济学校） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 提出非对称光谱对齐分数（SAS），通过特征值加权的特征模态相关性量化模态信息不平衡，并在医学图像-文本数据集上评估15个VLM，发现医学图像比临床报告保留更丰富的结构信息，且SAS与检索性能的相关性最强。

Comments 10 pages, 3 figures, 9 tables

KODA: Contrastive Representation Comparison and Alignment for Vision-Language Foundation Models

KODA: 视觉-语言基础模型的对比表示比较与对齐

Youqi Wu, Mohammad Jalali, Farzan Farnia

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 提出KODA框架，通过核优化方法对比分析视觉-语言基础模型的表示差异，并识别弱聚类与强聚类的样本子集，实现表示对齐。

Geometry-Preserving Unsupervised Alignment for Heterogeneous Foundation Models

保持几何结构的异质基础模型无监督对齐

Shuwen Yu, Zhanxuan Hu, Yi Zhao, Yonghang Tai, Huafeng Li

机构 * Yunnan Normal University, Kunming, China（云南师范大学，昆明，中国） ； Kunming University of Science and Technology, Kunming, China（昆明理工大学，昆明，中国） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 提出GPUA框架，通过正交映射将视觉基础模型特征对齐到视觉语言模型语义空间，无需标签或参数更新，提升跨模型兼容性并在零样本识别与分割任务中取得显著增益。

Comments Accepted at ICML 2026

Reachability Analysis and Safety Verification for Neural Network Control Systems

神经网络控制系统可达性分析与安全性验证

Weiming Xiang, Taylor T. Johnson

专题命中 其他安全 ：safety(title,abstract)

AI总结 本文提出利用线性规划算法对神经网络控制器的可达集进行过近似，并结合常微分方程模型进行闭环系统可达集估计，最终通过检查估计可达集与不安全区域的交集实现神经网络控制系统的安全性验证。

Comments 21 pages, 6 figures

Reachability-Based Safety and Goal Satisfaction of Unmanned Aerial Platoons on Air Highways

基于可达性的无人机编队安全性和目标满足性研究

Mo Chen, Qie Hu, Jaime Fisac, Kene Akametalu, Casey Mackin, Claire Tomlin

专题命中 其他安全 ：safety(title,abstract)

AI总结 本文提出利用空气高速路结构对无人机编队进行 tractable 分析，通过混合系统模型和 Hamilton-Jacobi 可达性方法，确保编队在不同模式转换中的安全性和目标满足性，同时通过仿真验证了该方法的有效性。

Comments American Institute of Aeronautics and Astronautics Journal of Guidance, Control, and Dynamics, January 30, 2017

SafeGuardPF: Safety Guaranteed Reactive Potential Fields for Mobile Robots in Unknown and Dynamic Environments

SafeGuardPF: 保障安全的反应势场用于未知和动态环境中的移动机器人

Rafael Rodrigues da Silva, Samuel Silva, Grigoriy Dubrovskiy, Hai Lin

专题命中 其他安全 ：safety(title,abstract)

AI总结 本文提出SafeGuardPF方法，通过将反应势场运动控制器建模为混合自动机，并利用微分动态逻辑形式化验证其安全性，确保机器人在动态环境中避免碰撞。

Comments 8 pages, 9 figures, Submitted for publication in 2017 American Control Conference (ACC2017)

Sparse Control of Alignment Models in High Dimension

高维中对齐模型的稀疏控制

Mattia Bongini, Massimo Fornasier, Oliver Junge, Benjamin Scharf

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文提出在高维空间中通过随机线性映射降低维度，实现对共识涌现模型的稀疏控制，以高效引导系统趋近共识。

Comments 39 pages

Robust Distance-Based Formation Control of Multiple Rigid Bodies with Orientation Alignment

多刚体鲁棒距离基形成控制

Alexandros Nikou, Christos K. Verginis, Dimos V. Dimarogonas

专题命中 其他安全 ：alignment(title)

AI总结 本文研究了在3D空间中，针对第二类非线性多智能体系统，设计了去中心化无模型控制协议，实现距离和方向基的形成控制，并通过仿真验证了控制器性能。

Comments IFAC Word Congress 2017

Unpredictability of AI

AI的不可预测性

Roman V. Yampolskiy

机构 * Computer Engineering and Computer Science University of Louisville（计算机工程与计算机科学路易斯维尔大学） 纠错

专题命中 其他安全 ：safety(abstract)；AI safety(abstract)；分类 cs.AI

AI总结 本文研究了AI安全领域中一个核心问题，即智能系统的行为预测难题，证明了即使知道终端目标，也无法准确预测超人类智能系统的行为，对AI安全产生了深远影响。

Geometry-Aware Distillation for Prompt Tuning Biomedical Vision-Language Models

几何感知蒸馏用于提示调优生物医学视觉-语言模型

Tran Dinh Tien, Zhiqiang Shen

机构 * Department of Machine Learning（机器学习系） ； Mohamed bin Zayed University of Artificial Intelligence（Mohamed bin Zayed人工智能大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 提出Omni-Geometry知识蒸馏（OGKD）框架，通过注入类别关系结构到教师模型，生成保留真实标签同时尊重类间几何的方向性目标，并设计全局几何感知蒸馏（GAD）和标签引导几何蒸馏（LGD）损失，在11个医学数据集上平均提升准确率1.7%-2.8%。

Comments Preprint. Code is available at https://github.com/tientrandinh/OGKD

MM-BizRAG: Rethinking Multimodal Retrieval-Augmented Generation for General Purpose Enterprise Q&A

MM-BizRAG：面向通用企业问答的多模态检索增强生成再思考

Hanoz Bhathena, Parin Rajesh Jhaveri, Rohan Mittal, Prateek Singh, Aymen Kallala, Rachneet Kaur, Yiqiao Jin, Zhen Zeng, Adwait Ratnaparkhi, Denis Kochedykov

机构 * JPMorgan Chase & Co.（摩根大通公司） ； Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出MM-BizRAG框架，通过文档结构感知分割和布局感知解析，结合统一LLM驱动的工件转换与推理时多模态组装，无需微调即可提升企业文档问答性能，在异构企业数据集和两个公开基准上超越基线最多32个百分点。

Comments Accepted at ACL 2026 (Industry Track)

Curated Synthetic Data Doesn't Have to Collapse: A Theoretical Study of Generative Retraining with Pluralistic Preferences

策展合成数据不会崩溃：具有多元偏好的生成式再训练的理论研究

Ali Falahati, Mohammad Mohammadi Amiri, Kate Larson, Lukasz Golab

机构 * University of Washington（华盛顿大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 通过理论分析证明，基于多个奖励函数进行策展的递归训练可以避免生成模型崩溃，并收敛到满足加权纳什议价解的稳定分布。

Comments Proceedings of the 43rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026

Value Entanglement: Conflation Between Different Kinds of Good In (Some) Large Language Models

价值纠缠：大型语言模型中不同种类好的混淆

Seong Hah Cho, Junyi Li, Anna Leshinskaya

机构 * Independent Department of Cognitive Sciences, UC Irvine（独立认知科学系，加州大学 Irvine 分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 通过探测模型行为、嵌入和残差流激活，发现大型语言模型普遍存在价值纠缠，即道德、语法和经济三种价值被混淆，其中语法和经济价值过度受道德价值影响，通过选择性消融与道德相关的激活向量可修复此问题。

From Graph Retrieval to Schema Realization: Counterfactual Validation for Text-to-SPARQL over Heterogeneous Knowledge Graphs

从图检索到模式实现：面向异构知识图谱的文本到SPARQL的反事实验证

Chengxiao Dai, Yue Xiu, Dusit Niyato

机构 * University of Bristol（布里斯托大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出SchemaForge框架，通过问题条件化的模式切片对齐和反事实验证，在异构知识图谱上提升文本到SPARQL查询生成的执行准确率。

An Analysis of ISO 26262: Using Machine Learning Safely in Automotive Software

ISO 26262分析：在汽车软件中安全使用机器学习

Rick Salay, Rodrigo Queiroz, Krzysztof Czarnecki

机构 * University of Waterloo（滑铁卢大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文分析了在汽车软件中使用机器学习对ISO 26262安全生命周期的影响，并提出适应该标准以容纳机器学习的建议。

Comments 6 pages, 3 figures

RePercENT: Scaling Disentangled Representation Learning Beyond Two Modalities

RePercENT：将解耦表示学习扩展到两种模态之外

Vasiliki Rizou, Pascal Frossard, Dorina Thanou

机构 * EPFL（瑞士联邦理工学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 提出RePercENT框架，通过多模态即插即用架构和联合优化目标，实现超过两种模态的可扩展成对解耦，无需联合预训练并降低计算复杂度。

Towards Pretraining Text Encoders for TabPFN

面向TabPFN的文本编码器预训练

Mustafa Tajjar, Alexander Pfefferle, Lennart Purucker, Frank Hutter

机构 * University of California, Berkeley（加州大学伯克利分校） ； DeepMind（深度思维） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 提出TabPFN文本适配器，通过轻量级适配器将文本嵌入映射到TabPFN的嵌入空间，避免PCA瓶颈，保留TabPFN数值优势，训练效率更高。

PersonaTree: Structured Lifecycle Memory for Person Understanding in LLM Agents

PersonaTree: 面向LLM智能体人物理解的结构化生命周期记忆

Yubo Hou, Jingwei Song, Hongbo Zhang, Zhisheng Chen, Bang Xiao, Tao Wan, Zengchang Qin

机构 * School of ASEE, Beihang University, Beijing, China（北京航空航天大学航空科学与工程学院） ； The University of Hong Kong, Hong Kong, China（香港大学） ； Peking University, Beijing, China（北京大学） ； University of Chinese Academy of Sciences, Beijing, China（中国科学院大学） ； School of BME, Beihang University, Beijing, China（北京航空航天大学生物医学工程学院） ； CAIR and CECS, VinUniversity, Hanoi, Vietnam（越南河内 Vin 大学 CAIR 和 CECS） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 提出PersonaTree，一种结构化生命周期记忆框架，通过三级人物树和显式支持路径，将交互证据抽象为人物理解，在多个基准上取得领先性能。

Plan First, Judge Later, Run Better: A DMAIC-Inspired Agentic System for Industrial Anomaly Detection

先计划，后评判，更优运行：一种受DMAIC启发的工业异常检测智能体系统

Yongzi Yu, Ao Li, Le Wang, Ziyue Li, Fugee Tsung, Yuxuan Liang, Man Li

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； The Hong Kong University of Science and Technology（香港科技大学） ； Shanghai University of Finance and Economics（上海财经大学） ； Technische Universität München（慕尼黑技术大学） ； Southwestern University of Finance and Economics（西南财经大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 提出受DMAIC启发的多智能体系统DMAIC-IAD，通过先制定标准化操作程序（SOP）再生成策略，并引入预训练的无执行评判模型来排序候选策略，无需昂贵运行时试验，在四种模态上平均检测性能提升37.76%。

The Saturation Trap and the Subjectivity of Intervention Timing: Why Affect-Based Triggers and LLM Judges Fail to Time Interventions on Autonomous Agents

饱和陷阱与干预时机的主观性：为什么基于情感的触发器和LLM评判者无法在自主智能体上把握干预时机

Manvendra Modgil

机构 * manvendramodgil.ai 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 本研究通过18维情感动力学引擎HEART诊断自主智能体干预时机问题，发现状态饱和陷阱、LLM评判者的能力与上下文门槛，以及人类标注者之间极低的干预时机一致性，表明干预时机是一个低可靠性构念。

Comments 11 pages, 5 tables. Code and data:https://github.com/2025eb1100268-tech/intervention-timing-saturation-trap

veriFIRE: an Industrial Case Study in Verifying Consistency Properties for a DNN-Based Wildfire Detection System

veriFIRE：基于DNN的野火检测系统一致性属性验证的工业案例研究

Idan Refaeli, Maya Swisa, Itay Buchnik, Alon Zada, Guy Amir, Elad Mandelbaum, Ziv Freund, Guy Katz

机构 * The Hebrew University of Jerusalem（海法大学） ； Elbit Systems - ISTAR & EW - Elisra L.T.D ； Cornell University（康奈尔大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.LG

AI总结 本文提出一种端到端方法，通过将应用需求编码为求解器兼容查询，利用现有神经网络验证器验证野火检测系统中的单调性和有界响应等一致性属性，并在真实背景样本上评估，展示了工业系统可获得有意义的领域特定保证。

Comments To appear in The 9th International Symposium on AI Verification (SAIV)

Denoise First, Orthogonalize Later: Understanding Momentum in Muon via Spectral Filtering

先降噪，后正交：通过谱滤波理解Muon中的动量

Xianliang Li, Zihan Zhang, Weiyang Liu, Han Bao

机构 * The Institute of Statistical Mathematics（统计数学研究所） ； The Graduate Institute for Advanced Studies, SOKENDAI（SOKENDAI高级研究院） ； National Institute of Informatics（国家信息研究所） ； The Chinese University of Hong Kong（香港中文大学） ； Tohoku University（东北大学） ； RIKEN AIP（理化学研究所AIP） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 本文通过谱滤波理论证明Muon优化器中的动量能抑制梯度扰动、扩大谱间隙，从而稳定正交化步骤，并证明先动量后正交化比相反顺序或去除动量更优。

CR-Seg: Attention-Guided and CoT-Enhanced Coarse-to-Refined Reasoning Segmentation

CR-Seg：注意力引导与CoT增强的由粗到精推理分割

Yifan Cao, Xiaocui Yang, Faxian Wan, Shi Feng, Daling Wang, Yifei Zhang

机构 * School of Computer Science and Engineering, Northeastern University（东北大学计算机科学与工程学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 提出CR-Seg两阶段框架，通过注意力图提取和全局到局部思维链，实现由粗到精的推理分割，解决跨模态对齐和推理-答案不一致问题。

Retrieval and competition: how a protein foundation model starts a protein

检索与竞争：蛋白质基础模型如何启动蛋白质

Piotr Jedryszek, Oliver M. Crook

机构 * Department of Biology, University of Oxford, Oxford, UK（牛津大学生物学系） ； Kavli Institute for Nanoscience Discovery, University of Oxford, Oxford, UK（牛津大学纳科学发现研究所） ； Department of Chemistry, University of Oxford, Oxford, UK（牛津大学化学系） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 通过追踪ESM2-8M预测蛋白质起始甲硫氨酸的计算路径，发现模型依赖位置先验检索而非直接识别，揭示了模型置信度与生物学证据之间的脱节。

Comments updated figure 4

Towards A Generative Protein Evolution Machine with DPLM-Evo

迈向生成式蛋白质进化机器：DPLM-Evo

Xinyou Wang, Liang Hong, Jiasheng Ye, Zaixiang Zheng, Yu Li, Shujian Huang, Quanquan Gu

机构 * Nanjing University（南京大学） ； CUHK（香港大学） ； Fudan University（复旦大学） ； ByteDance（字节跳动） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 提出DPLM-Evo，一种显式建模替换、插入和删除操作的进化离散扩散框架，在单序列设置下实现蛋白质突变效应预测的最优性能，并支持变长模拟进化与蛋白质编辑优化。

Comments A peer-reviewed version was accepted to ICML 2026

Hint Tuning: Less Data Makes Better Reasoners

Hint Tuning：更少的数据造就更好的推理者

Siqi Fan, Minghao Li, Xiaoqian Ma, Xiusheng Huang, Zhuo Chen, Bowen Qin, Liujie Zhang, Shuo Shang, Weihang Chen

机构 * University of Electronic Science and Technology of China（电子科技大学） ； Xiaohongshu Inc.（小红书公司） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 提出Hint Tuning方法，通过自动构建三种提示状态（无提示、稀疏提示、完整提示）的训练数据，使推理模型根据问题难度校准推理深度，仅用1K样本即可在多个主流推理模型上平均减少31.5%的token生成，同时保持竞争性准确率。