大模型对齐与安全

Emergent Misalignment Can Be Induced by Sycophancy and Reversed via Alignment Gating

由谄媚诱导的突现性失调可通过对齐门控逆转

Sicheng Wang, Xiangyang Zhu, Han Wang, Zongrui Wang, Yuan Tian, Kaiwei Zhang, Kaiyuan Ji, Qi Jia, Guangtao Zhai

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 发现谄媚微调（被动同意用户错误观点）可诱导广泛且严重的突现性失调，并提出对齐门控方法，通过插入可学习门控来识别并抑制不安全表示，从而高效逆转失调。

Comments Code is available at https://github.com/stay1to0/Sycophancy_Emergent_Misalignment_and_Gated_attention_FT

Causal Semantic Alignment for LLM-based Time Series Forecasting

基于大语言模型的时间序列预测的因果语义对齐

Kexuan Zhang, Xiaobei Zou, Cesare Alippi, Gary G. Yen, Yang Tang

机构 * University of Science and Technology of China（中国科学技术大学） ； University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 提出CVAformer框架，通过因果干预解耦变量中的动态和不变成分，消除对齐中的混杂偏差，在多种预测场景下达到或超越最先进性能。

Safety is Contextual, LLM-Judges Are Not: Navigating the Rigid Priors of Evaluators

安全是上下文相关的，而LLM评判者不是：应对评估者的刚性先验

Anissa Alloula, Federico Licini, Ava Batchkala, Seraphina Goldfarb-Tarrant

机构 * University of Oxford（牛津大学） ； Cohere 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.AI

AI总结 研究LLM作为安全评判者时，对上下文信息的依赖性和对不同安全定义的可引导性，发现它们难以在上下文或安全定义与自身先验矛盾时调整评估。

Operationalising the Superficial Alignment Hypothesis via Task Complexity

通过任务复杂度操作化浅层对齐假设

Tomás Vergara-Browne, Darshan Patil, Ivan Titov, Siva Reddy, Tiago Pimentel, Marius Mosbach

机构 * University of Maryland（马里兰大学） ； University of California, Berkeley（加州大学伯克利分校） ； University of Washington（华盛顿大学） ； University of Toronto（多伦多大学） ； University of Edinburgh（爱丁堡大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 提出任务复杂度指标（达到目标性能的最短程序长度）来量化浅层对齐假设，实验表明预训练大幅降低任务复杂度，而微调可将复杂度降低数个数量级。

Comments ICML 2026

Modality Gap-Driven Subspace Alignment Training Paradigm For Multimodal Large Language Models

模态间隙驱动的子空间对齐训练范式用于多模态大语言模型

Xiaomin Yu, Yi Xin, Yuhui Zhang, Wenjie Zhang, Chonghan Liu, Hanzhen Zhao, Chen Liu, Xiaoxing Hu, Ziyue Qiao, Hao Tang, Xiaobin Hu, Chengwei Qin, Hui Xiong, Yu Qiao, Shuicheng Yan

机构 * HKUST(GZ)（香港科技大学（广州）） ； NUS（新加坡国立大学） ； sh AILab ； SII ； Stanford（斯坦福大学） ； UCLA（加州大学洛杉矶分校） ； Yale（耶鲁大学） ； SJTU（上海交通大学） ； GBU（国防大学） ； PKU（北京大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 针对多模态对比学习中的模态间隙问题，提出固定帧模态间隙理论，并基于该理论设计无训练的对齐策略ReAlign和可扩展训练范式ReVision，利用无配对数据实现视觉与语言表示的高效对齐。

The Rlign Algorithm for Enhanced Electrocardiogram Analysis through R-Peak Alignment for Explainable Classification and Clustering

通过R峰对齐提升心电图分析的Rlign算法：用于可解释分类和聚类

Lucas Plagwitz, Lucas Bickmann, Michael Fujarski, Alexander Brenner, Warnes Gobalakrishnan, Lars Eckardt, Antonius Büscher, Julian Varghese

机构 * IMI Medical Systems GmbH（IMI医疗系统 GmbH） ； University of Freiburg（弗赖堡大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 本文提出Rlign算法，通过R峰对齐重构心电图信号，提升分类、聚类和可解释性，优于传统方法和CNN。

Journal ref European Heart Journal - Digital Health, Volume 7, Issue 5, June 2026, ztag067

Optimal CO2 storage management considering safety constraints in multi-stakeholder multi-site CCS projects: a Markov game perspective

考虑安全约束的多利益相关者多地点碳捕集与封存项目最优存储管理：从马尔可夫博弈视角

Jungang Chen, Seyyed A. Hosseini

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.LG

AI总结 本文基于马尔可夫博弈方法，研究多利益相关者多地点碳捕集与封存项目中不同联盟结构对利益相关者目标的影响，提出一种考虑安全约束的多智能体强化学习框架，以实现多利益相关者的最优存储管理。

Comments 58 pages

Journal ref Int. J. Greenh. Gas Control 149 (2026) 104683

Beyond Symmetric Alignment: Spectral Diagnostics of Modality Imbalance in Vision-Language Models in the Medical Domain

超越对称对齐：医学领域视觉-语言模型中模态不平衡的光谱诊断

Alessandro Gambetti, Qiwei Han, Cláudia Soares, Hong Shen

机构 * NOVA School of Science and Technology（诺瓦科学与技术学校） ； Nova School of Business and Economics（诺瓦商业与经济学校） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 提出非对称光谱对齐分数（SAS），通过特征值加权的特征模态相关性量化模态信息不平衡，并在医学图像-文本数据集上评估15个VLM，发现医学图像比临床报告保留更丰富的结构信息，且SAS与检索性能的相关性最强。

Comments 10 pages, 3 figures, 9 tables

KODA: Contrastive Representation Comparison and Alignment for Vision-Language Foundation Models

KODA: 视觉-语言基础模型的对比表示比较与对齐

Youqi Wu, Mohammad Jalali, Farzan Farnia

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 提出KODA框架，通过核优化方法对比分析视觉-语言基础模型的表示差异，并识别弱聚类与强聚类的样本子集，实现表示对齐。

Learning Concepts, Not Tokens: Self-Supervised Semantic Alignment for Language Models

学习概念，而非词元：语言模型的自我监督语义对齐

Christine Zhang, Dan Jurafsky, Chen Shani

机构 * Stanford University（斯坦福大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 提出一种自我监督框架，通过预测语义等价词元集合（概念）替代下一个词元预测，提升语言模型的语义对齐能力，并在分类、聚类、重排序及下游推理任务中取得更优性能。

MTA: Multi-Granular Trajectory Alignment for Large Language Model Distillation

MTA：面向大型语言模型蒸馏的多粒度轨迹对齐

Pham Khanh Chi, Quoc Phong Dao, Thuat Nguyen, Linh Ngo Van, Trung Le, Thanh Hong Nguyen

机构 * Hanoi University of Science and Technology（河内理工大学） ； Monash University（墨尔本大学） ； University of Oregon（俄勒冈大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 提出多粒度轨迹对齐（MTA）框架，通过层自适应策略对齐师生模型的层间变换轨迹，结合动态结构对齐损失和隐藏表示对齐损失，提升知识蒸馏效果。

Comments ACL 2026

SRA: Span Representation Alignment for Large Language Model Distillation

SRA: 面向大型语言模型蒸馏的跨度表示对齐

Quoc Phong Dao, Hoang Son Nguyen, Pham Khanh Chi, Tung Nguyen, Linh Ngo Van, Nguyen Thi Ngoc Diep, Trung Le

机构 * Hanoi University of Science and Technology（河内科学技术大学） ； VNU University of Engineering and Technology（VNU工程大学） ； Monash University（莫纳什大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 提出SRA框架，通过将蒸馏对齐单元从token转为跨度的质心表示，并引入几何正则化和对齐跨度logit蒸馏，显著提升跨分词器知识蒸馏性能。

Comments ACL 2026

Language, Place, and Social Media: Geographic Dialect Alignment in New Zealand

语言、地点与社交媒体：新西兰的地理方言对齐

Sidney Wong

机构 * Computer Science and Software Engineering, University of Canterbury（坎特伯雷大学计算机科学与软件工程系） ； Department of Linguistics, University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校语言学系） ； School of Psychology, Speech and Hearing, University of Canterbury（坎特伯雷大学心理学、语音与听力学校） ； Department of Linguistics, University of Canterbury（坎特伯雷大学语言学系） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 本研究通过整合用户感知的定性分析与计算方法，探究新西兰Reddit社区中地理方言对齐现象，发现地点相关社区形成连续言语社区，且高级语言建模揭示了语义变异与变化。

Comments PhD thesis

Edge-Aware and Content-Adaptive Infrared Gas Leak Detection for Industrial Safety Monitoring

边缘感知与内容自适应的工业安全监控红外气体泄漏检测

Dongsheng Li, Tianli Ma, Siling Wang, Beibei Duan, Song Gao

机构 * School of Mechatronic Engineering, Xi’an Technological University（机械电子工程学院，西安理工大学） ； School of Electronic Information Engineering, Xi’an Technological University（电子信息工程学院，西安理工大学） ； Shaanxi Shanhua Coal Chemical Co., Ltd.（陕西神华化工有限公司） 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.AI

AI总结 针对红外气体羽流微弱、半透明且边界模糊的检测难题，提出一种边缘感知与内容自适应特征融合检测器（ECAF-Det），通过羽流导向的局部-全局特征增强、多尺度边缘感知模块和内容自适应稀疏路由路径聚合网络，在IIG和LangGas数据集上显著提升了检测精度。

Align-KD: Distilling Cross-Modal Alignment Knowledge for Mobile Vision-Language Model Enhancement

Align-KD：为移动视觉语言模型增强提取跨模态对齐知识

Qianhan Feng, Wenshuo Li, Tong Lin, Xinghao Chen

机构 * State Key Laboratory of General Artificial Intelligence, School of Intelligence Science and Technology, Peking University, China（通用人工智能国家重点实验室，智能科学与技术学院，北京大学，中国） ； Huawei Noah’s Ark Lab, China（华为诺亚方舟实验室，中国） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 提出Align-KD方法，通过蒸馏教师模型浅层跨模态对齐知识，指导1.7B学生模型学习视觉-文本匹配，在6个基准上平均提升2.0分。

Comments CVPR 2025 Paper

An NLP-Driven Framework for Curriculum-Labor Market Alignment: Schema-Constrained LLM Extraction, ESCO-Anchored Semantic Matching, and Multi-Dimensional Gap Quantification

一种基于NLP的课程-劳动力市场对齐框架：模式约束的LLM抽取、ESCO锚定的语义匹配和多维差距量化

Sherzod Turaev, Mary John, Mamoun Awad, Nazar Zaki, Khaled Shuaib

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 提出一个四阶段NLP框架，通过模式约束的LLM抽取、ESCO语义匹配、仲裁协议和验证机制，实现课程与劳动力市场的对齐，并量化多维供需差距。

Comments 53 pages, 9 figures, 4 tables

ANDES: Agent Native Data Evolving Synthesis Tool for Autonomous Instruction Alignment

ANDES：用于自主指令对齐的智能体原生数据演化合成工具

Zhengyang Zhao, Shengjie Ye, Lu Ma, Hao Liang, Hengyi Feng, Wentao Zhang

机构 * Peking University（北京大学） ； Sichuan University, Chengdu（四川大学，成都） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 提出ANDES框架，通过自进化世界树路由和可操作诊断报告，将数据生成重构为即插即用的智能体技能，使基础较弱的智能体在严格计算约束下实现自动对齐，在PostTrainBench上取得最先进性能。

Feature Alignment Determines Fusion Strategy: A Comparative Study of Cross-Attention and Concatenation in Multimodal Learning

特征对齐决定融合策略：多模态学习中交叉注意力与拼接的比较研究

Zhiqiang Zhou, Xuezhen Xie

机构 * Hunan Chemical Industry Vocational and Technical College（湖南化学工业职业技术学院） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 通过实验和理论分析，证明特征对齐质量而非数据规模是决定多模态融合策略优劣的关键因素，当特征预对齐时拼接优于交叉注意力。

Comments 8 pages,6 figures,4 tables

PATRA: Pattern-Aware Alignment and Balanced Reasoning for Time Series Question Answering

PATRA: 面向时间序列问答的模式感知对齐与平衡推理

Junkai Lu, Peng Chen, Xingjian Wu, Yang Shu, Chenjuan Guo, Christian S. Jensen, Bin Yang

机构 * East China Normal University, Shanghai, China（华东师范大学） ； Aalborg University, Aalborg, Denmark（奥胡斯大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 针对现有LLM方法在时间序列推理中忽略模式提取和简单任务主导学习的问题，提出模式感知对齐与平衡推理模型PATRA，通过提取趋势和季节模式实现深度对齐，并设计任务感知平衡奖励以协调不同难度任务的学习，在多种时间序列问答任务中优于强基线。

Comments Accepted By ICML 2026

Bridging What the Model Thinks and How It Speaks: Expressive Speech Generation via Self-Aware Intent-Realization Alignment

弥合模型所想与所言之间的鸿沟：通过自我意识意图-实现对齐的富有表现力的语音生成

Kuang Wang, Lai Wei, Ping Lin, Qibing Bai, Wenkai Fang, Li Zhou, Feng Jiang, Zhongjie Jiang, Jun Huang, Yannan Wang, Haizhou Li

机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Tencent Ethereal Audio Lab（腾讯虚实音频实验室） ； Southeast University（东南大学） ； Zhejiang University（浙江大学） ； Shenzhen University of Advanced Technology（深圳先进技术大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 提出SASLM框架，通过自蒸馏意图和自奖励优化，无需外部标注即可弥合语义理解与声学实现之间的差距，实现富有表现力的语音生成。

Comments Submitted to EMNLP 2026. Project page: https://wangkevin02.github.io/SASLM/

Controllable Value Alignment in Large Language Models through Neuron-Level Editing

大语言模型中通过神经元级编辑的可控价值对齐

Yonghui Yang, Yihui Wang, Junwei Li, Jilong Liu, Fengbin Zhu, Weibiao Huang, Le Wu, Richang Hong, Tat-Seng Chua

机构 * National University of Singapore（新加坡国立大学） ； Hefei University of Technology（合肥工业大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； ST Engineering Ltd.（ST工程有限公司） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 提出NeVA框架，通过识别稀疏价值相关神经元并进行推理时激活编辑，实现细粒度可控价值对齐，减少价值泄漏并保持通用能力。

From Evidence to Design: Developing an AI-Augmented UX Research Point of View for Digital Wellbeing in Emergency and Public Safety Contexts

从证据到设计：开发面向紧急与公共安全情境下数字福祉的AI增强用户体验研究视角

Olumuyiwa Ayorinde, Huseyin Dogan, Festus Adedoyin, Nan Jiang, Emmanuel Oluokun, Abiodun Adedeji, Melike Akca

机构 * School of Computing and Engineering, Bournemouth University（伯恩茅斯大学计算与工程学院） 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.AI

AI总结 本研究结合用户体验研究方法与AI支持分析，针对紧急与公共安全人员开发数字福祉干预措施的设计方向，通过文献分析识别模式并整合行为改变技术与说服性设计原则，最终产出UXR PoV金字塔、九张UXR游戏卡和利益相关者叙事。

Skill is Not One-Size-Fits-All: Model-Aware Skill Alignment for LLM Agents

技能并非一刀切：面向 LLM 智能体的模型感知技能对齐

Jianxiang Yu, Jiapeng Zhu, Bochen Lin, Qier Cui, Zichen Ding, Xiang Li

机构 * East China Normal University（华东师范大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 提出 MASA 框架，通过层次化技能进化管道和轻量级条件重写器，为不同能力的 LLM 主干网络自适应调整技能，显著提升长时交互任务性能。

CellBRIDGE: Learning Cellular Trajectories via Interaction-Aware Alignment

CellBRIDGE：通过交互感知对齐学习细胞轨迹

Silas Ruhrberg Estévez, Nicolas Huynh, Tennison Liu, Roderik M. Kortlever, Gerard I. Evan, David L. Bentley, Mihaela van der Schaar

机构 * DAMTP, University of Cambridge（剑桥大学应用数学与理论物理系） ； Francis Crick Institute（弗朗西斯·克里克研究所） ； University of Colorado Anschutz Medical Campus（科罗拉多大学安舒茨医学校区） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 提出CellBRIDGE方法，通过将配体-受体介导的细胞间通信成本融入最优传输框架，改进了单细胞RNA测序数据中的轨迹推断和跨快照耦合。

Journal ref ICML 2026

IsoCLIP: Decomposing CLIP Projectors for Efficient Intra-modal Alignment

IsoCLIP: 分解CLIP投影器以实现高效的模态内对齐

Simone Magistri, Dipam Goswami, Marco Mistretta, Bartłomiej Twardowski, Joost van de Weijer, Andrew D. Bagdanov

机构 * Media Integration and Communication Center (MICC), University of Florence, Italy（意大利佛罗伦萨大学媒体集成与通信中心） ； Department of Computer Science, Universitat Autònoma de Barcelona, Spain（西班牙巴塞罗那自治大学计算机科学系） ； Computer Vision Center, Barcelona, Spain（西班牙巴塞罗那计算机视觉中心） ； IDEAS Research Institute, Warsaw, Poland（波兰华沙IDEAS研究所） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 本文通过分析CLIP投影器的谱特性，发现模态间对齐子空间和各向异性方向，提出无训练方法IsoCLIP去除各向异性方向以改善模态内对齐，在模态内检索和分类任务上降低延迟并超越现有方法。

Comments Accepted at CVPR2026

Review Arcade: On the Human Alignment and Gameability of LLM Reviews

Review Arcade: 关于LLM评审的人类对齐与可博弈性

Hans Ole Hatzel, Sebastian Steindl, Jan Strich

机构 * Language Technology Group, University of Hamburg, Germany（汉堡大学语言技术小组） ； Hub of Computing and Data Science (HCDS), University of Hamburg, Germany（汉堡大学计算与数据科学中心） ； OTH Amberg-Weiden, Germany（阿姆伯-魏登工业大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 通过实验评估LLM生成论文评审与人类评审的对齐程度，并发现作者可根据LLM评审迭代修改论文以提升评分（最多35%的论文显著提高），揭示了LLM评审的可博弈性。

Comments Under Review EMNLP 26

GS-FUSE: Granger-Supervised Gated Fusion and Multi-Granularity Alignment for Event-Driven Financial Forecasting

GS-FUSE: 格兰杰监督的门控融合与多粒度对齐用于事件驱动的金融预测

Yang Zhang, En Chun, Ziyun Mao, Yulu Wu, Jun Wang

机构 * Southwestern University of Finance and Economics（西南财经大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 提出GS-Fuse框架，通过格兰杰因果监督的门控融合模块和多粒度对齐机制，选择性利用事件文本与价格信号，提升金融事件对市场影响的预测精度。

Decoupling Skeleton and Flesh: Efficient Multimodal Table Reasoning with Disentangled Alignment and Structure-aware Guidance

解耦骨架与血肉：基于解缠对齐和结构感知引导的高效多模态表格推理

Yingjie Zhu, Xuefeng Bai, Kehai Chen, Yang Xiang, Youcheng Pan, Xiaoqiang Zhou, Min Zhang

机构 * Harbin Institute of Technology, Shenzhen, China（哈尔滨工业大学（深圳）） ； Peng Cheng Laboratory, Shenzhen, China（鹏城实验室） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 提出DiSCo解缠结构-内容对齐框架和Table-GLS全局到局部结构引导推理框架，高效增强LVLM的表格理解与推理能力，无需昂贵监督或外部工具。

Comments Accepted as a Spotlight Paper at ICML 2026

FAST-GOAL: Fast and Efficient Global-local Object Alignment Learning

FAST-GOAL: 快速高效的全局-局部对象对齐学习

Hyungyu Choi, Young Kyun Jang, Chanho Eom

机构 * Department of Virtual Convergence, Graduate School of Advanced Imaging Science, Multimedia & Films (GSAIM), Chung-Ang University（虚拟融合系，高级影像科学研究生院，多媒体与电影系（GSAIM）， Chung-Ang 大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 提出FAST-GOAL微调方法，通过全局-局部语义对齐增强CLIP处理长文本的能力，包括快速局部图像-句子匹配和基于token相似性的学习，并在GLIT100k数据集上训练，在长/短描述数据集上均取得显著提升。

Comments 21 pages, 8 figures, IEEE/TIP 2026 accepted

RecGOAT: Graph Optimal Adaptive Transport for LLM-Enhanced Multimodal Recommendation with Dual Semantic Alignment

RecGOAT: 用于LLM增强多模态推荐的图最优自适应传输与双语义对齐

Yuecheng Li, Hengwei Ju, Zeyu Song, Wei Yang, Chi Lu, Peng Jiang, Kun Gai

机构 * Fudan University（复旦大学） ； University of Southern California（南加州大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 针对生成式语言模型表示与ID协同信号之间的语义异质性，提出基于图神经网络和最优传输理论的双粒度语义对齐框架RecGOAT，通过实例级和分布级对齐实现统一特征空间，理论证明其表示误差更低，实验达到最优性能。

Comments Under Review