大模型对齐与安全

Abstraction Induces the Brain Alignment of Language and Speech Models

抽象诱导语言和语音模型的脑对齐

Emily Cheng, Aditya R. Vaidya, Richard Antonello

机构 * The University of Texas at Austin, USA（德克萨斯大学奥斯汀分校） ； Zuckerman Mind Brain Behavior Institute, Columbia University, USA（祖克曼心智-大脑-行为研究所，哥伦比亚大学） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.CL

AI总结 研究发现语言和语音模型通过共享的意义抽象与大脑对齐，中间层的高内在维度和语义内容增强了大脑预测性。

Comments ICML 2026 camera-ready version

Journal ref ICML 2026

Improving LLMs via Validator-to-Generator Alignment

通过验证器与生成器对齐改进大语言模型

Juan Diego Rodriguez, Jocelyn Zhang, Katrin Erk, Greg Durrett

机构 * Department of Computer Science, The University of Texas at Austin（德克萨斯大学奥斯汀分校计算机科学系） ； Departments of Linguistics and Computer Science, University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校语言学与计算机科学系） ； Department of Computer Science & Center for Data Science, New York University（纽约大学计算机科学系及数据科学中心） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.CL

AI总结 研究大语言模型不一致问题，提出基于话语频率的生成器-验证器一致性新公式，介绍\FCPA方法，实验表明该方法能提升生成器性能及两者一致性，且保持验证器质量。

Node-to-Neighborhood Semantic Consistency: Text-Topology Alignment for TAGs Anomaly Detection

节点到邻域语义一致性：文本属性图异常检测中的文本-拓扑对齐

Bochen Lin, Jianxiang Yu, Jiayi Wu, Lin Qi, Huang Lu, Xiang Li

机构 * School of Data Science and Engineering, East China Normal University（东华大学数据科学与工程学院） ； WeChat, Tencent（微信、腾讯） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.CL

AI总结 针对文本属性图异常检测中文本语义与拓扑关系不对齐的问题，提出N2NSC框架，通过双融合路径捕获节点与邻域的语义一致性，在八个数据集上超越现有方法。

PaLMR: Towards Faithful Visual Reasoning via Multimodal Process Alignment

PaLMR: 通过多模态过程对齐实现忠实视觉推理

Yantao Li, Qiang Hui, Chenyang Yan, Kanzhi Cheng, Fang Zhao, Chao Tan, Huanling Gao, Jianbing Zhang, Kai Wang, Xinyu Dai, Shiguo Lian

机构 * National Key Laboratory for Novel Software Technology, Nanjing University（南京大学新型软件技术国家重点实验室） ； Data Science & Artificial Intelligence Research Institute, China Unicom（中国unicom数据科学与人工智能研究院） ； Unicom Data Intelligence, China Unicom（中国unicom数据智能） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.AI

AI总结 提出PaLMR框架，通过感知对齐数据层和过程对齐优化层，减少推理幻觉并提升视觉推理忠实度，在多个基准上取得最优结果。

Journal ref CVPR 2026 Findings

GRASP: Geometry-aware Residual Alignment for Scalable Pretraining Data Attribution

GRASP：面向可扩展预训练数据归因的几何感知残差对齐

Yue Min, Ruining Chen, Yujun Li

机构 * Wizard Quant ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.LG

AI总结 提出GRASP方法，通过二次几何惩罚建模子集交互，结合低维特征草图与有限置信度选择协议，实现可扩展的预训练数据归因，显著提升反事实子集保真度并降低计算成本。

Multi-Stakeholder LLM Alignment: Decomposing Estimation from Aggregation

多方利益相关者LLM对齐：从聚合中分解估计

Lulu Zheng, Wenjin Yang, Xiangwen Zhang, Rong Yin, Yulan Hu, Zheng Pan, Xin Li

机构 * AMAP, Alibaba Group（阿里集团AMAP） ； Beihang University（北京航空航天大学） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.AI

AI总结 针对多方利益相关者任务中用户偏好冲突的问题，提出DecompR方法，通过反事实校准权重固定查询结构，独立估计角色效用，消除候选依赖的权重漂移并降低估计噪声。

MAGIC: Multimodal Alignment & Grounding-aware Instruction Coreset for Vision-Language Models

MAGIC: 面向视觉语言模型的多模态对齐与接地感知指令核心集

Shristi Das Biswas, Kaushik Roy

机构 * Purdue University（普渡大学） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.CL

AI总结 提出MAGIC方法，利用预训练VLM中的多模态增益、桥接相关性和技能神经元签名三种内在信号，通过无训练、前向传播的核心集选择，构建紧凑且行为保真的子集用于多模态指令微调，在20%预算下达到甚至超越全微调性能。

OmniRefine: Alignment-Aware Cooperative Compression for Efficient Omnimodal Large Language Models

OmniRefine: 一种面向对齐的协作压缩方法以提高多模态大语言模型的效率

Yuchen Deng, Zidang Cai, Hai-Tao Zheng, Jie Wang, Feidiao Yang, Yuxing Han

机构 * Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院，清华大学） ； Pengcheng Laboratory（鹏城实验室） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.AI

AI总结 本文提出OmniRefine，一种无需训练的两阶段框架，通过跨模态对齐和协作压缩提升多模态大语言模型的推理效率与性能稳定性。

ViTaPEs: Visuotactile Position Encodings for Cross-Modal Alignment in Multimodal Transformers

ViTaPEs: 视觉触觉位置编码用于多模态转换器中的跨模态对齐

Fotios Lygerakis, Ozan Özdenizci, Elmar Rückert

机构 * Chair of Cyber-Physical Systems（感知系统教授席位） ； Institute of Machine Learning and Neural Computation（机器学习与神经计算研究所） ； Technical University of Leoben（莱比锡技术大学） ； Graz University of Technology（格拉茨技术大学） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.LG

AI总结 ViTaPEs通过两阶段位置注入学习任务无关的视觉触觉表示，提升多模态对齐性能，实验证明其在多种任务和领域中的优越表现。

Adaptive Multi-Subspace Representation Steering for Attribute Alignment in Large Language Models

自适应多子空间表示引导用于大语言模型中的属性对齐

Xinyan Jiang, Lin Zhang, Jiayi Zhang, Qingsong Yang, Guimin Hu, Di Wang, Lijie Hu

机构 * Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)（莫扎德·本·泽德人工智能大学） ； Data Analytics (PRADA) Lab（数据分析（PRADA）实验室） ； King Abdullah University of Science（卡瓦尔大学） ； Shanghai Advanced Research Institute, Chinese Academy of Sciences, Shanghai, China（上海先进研究院，中国科学院，上海，中国） ； University of Chinese Academy of Sciences, Beijing, China（中国科学院大学，北京，中国） ； University of Copenhagen, Copenhagen, Denmark（哥本哈根大学，哥本哈根，丹麦） ； University of Science（科学大学） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.AI

AI总结 本文提出MSRS框架，通过子空间表示微调实现多属性引导，减少属性干扰并提升行为控制精度。

Discovering a Shared Logical Subspace: Steering LLM Logical Reasoning via Alignment of Natural-Language and Symbolic Views

发现共享的逻辑子空间：通过自然语言和符号视角的对齐来引导LLM逻辑推理

Feihao Fang, My T. Thai, Yuanyuan Lei

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Computer & Information Science and Engineering, University of Florida（佛罗里达大学计算机与信息科学与工程系） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.CL

AI总结 本文提出通过对齐自然语言和符号视角的逻辑子空间来提升LLM的多步逻辑推理能力，通过实验验证该方法在四个基准测试中提升了准确率并具备良好的泛化能力。

Comments Accepted to ACL 2026

Reasoning-Aware AIGC Detection via Alignment and Reinforcement

基于对齐与强化的学习的推理感知AIGC检测

Zhao Wang, Max Xiong, Jianxun Lian, Zhicheng Dou

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学北京校区人工智能学院） ； Duke University（杜克大学） ； Microsoft Research Asia（微软亚洲研究院） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.AI

AI总结 本文提出REVEAL框架，通过生成可解释的推理链实现AIGC检测，采用两阶段训练策略提升准确性和逻辑一致性，实验显示其在多个基准上表现优异。

Context Sensitivity Improves Human-Machine Visual Alignment

上下文敏感性提升人机视觉对齐

Frieda Born, Tom Neuhäuser, Lukas Muttenthaler, Brett D. Roads, Bernhard Spitzer, Andrew K. Lampinen, Matt Jones, Klaus-Robert Müller, Michael C. Mozer

机构 * Technische Universität Berlin（技术大学柏林） ； BIFOLD ； Max Planck Institute for Human Development（人类发展马克斯·普朗克研究所） ； Aignostics ； Helmholtz Munich（慕尼黑海德堡研究所） ； Technical University of Munich（慕尼黑技术大学） ； University College London（伦敦大学学院） ； Technische Universität Dresden（德累斯顿技术大学） ； Google DeepMind（谷歌DeepMind） ； University of Colorado Boulder（科罗拉多大学博尔德分校） ； Korea University（韩国大学） ； Max Planck Institute for Informatics（信息马克斯·普朗克研究所） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.LG

AI总结 本文提出一种基于神经网络嵌入的上下文敏感相似性计算方法，用于解决三元组异类识别任务，通过锚图提供同时上下文，使模型在异类识别准确率上提升15%。

CLIP Architecture for Abdominal CT Image-Text Alignment and Zero-Shot Learning: Investigating Batch Composition and Data Scaling

CLIP架构用于腹部CT图像-文本对齐和零样本学习：研究批量组成和数据缩放

Shivika, Kartik Bose, Pankaj Gupta

机构 * Department of Radiodiagnosis（放射诊断部门） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.AI

AI总结 本文研究了CLIP架构在腹部CT图像-文本对齐和零样本学习中的效果，探讨了训练批量组成和数据缩放的影响，发现随机采样和交替批次比人工类平衡更有效。

SPARD: Self-Paced Curriculum for RL Alignment via Integrating Reward Dynamics and Data Utility

SPARD：通过整合奖励动态和数据效用实现强化学习对齐的自适应课程

Xuyang Zhi, Peilun zhou, Chengqiang Lu, Hang Lv, Yiwei Liang, Rongyang Zhang, Yan Gao, YI WU, Yao Hu, Hongchao Gu, Defu Lian, Hao Wang, Enhong Chen

机构 * University of Science and Technology of China（中国科学技术大学） ； Xiaohongshu Inc.（小红书） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.AI

AI总结 SPARD通过动态调整多目标奖励权重和数据重要性，提升强化学习对齐效果，实验显示在多个基准上显著增强模型能力。

Universal Sparse Autoencoders: Interpretable Cross-Model Concept Alignment

通用稀疏自编码器：可解释的跨模型概念对齐

Harrish Thasarathan, Julian Forsyth, Thomas Fel, Matthew Kowal, Konstantinos G. Derpanis

机构 * York University（约克大学） ； University of Toronto（多伦多大学） ； Kempner Institute, Harvard University（哈佛大学凯姆纳研究所） ； Vector Institute（向量研究所） ； Samsung AI Centre（三星人工智能中心） ； Trajectory Labs（轨迹实验室） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.LG

AI总结 本文提出通用稀疏自编码器（USAEs），用于揭示并对齐多个预训练深度神经网络中的可解释概念。通过训练一个能重构多个模型内部激活的稀疏自编码器，USAEs发现跨任务、架构和数据集的共同因素概念，为多模型AI系统提供新的可解释分析方法。

Make LoRA Great Again: Boosting LoRA with Adaptive Singular Values and Mixture-of-Experts Optimization Alignment

让LoRA更出色：通过自适应奇异值和专家混合优化对齐提升LoRA

Chenghao Fan, Zhenyi Lu, Sichen Liu, Chengfeng Gu, Xiaoye Qu, Wei Wei, Yu Cheng

机构 * School of Computer Science \& Technology, Huazhong University of Science ； The Chinese University of Hong Kong ； Zhejiang University 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.CL

AI总结 GOAT通过自适应奇异值和专家混合优化对齐提升LoRA性能，实现在多个任务上的最优表现。

Comments Accepted by ICML 2025

Towards LLM-Empowered Knowledge Tracing via LLM-Student Hierarchical Behavior Alignment in Hyperbolic Space

基于大语言模型的知识追踪：通过超几何空间中的LLM-学生层次行为对齐

Xingcheng Fu, Shengpeng Wang, Yisen Gao, Xianxian Li, Chunpei Li, Qingyun Sun, Dongran Yu

专题命中 其他安全 ：alignment(title)；分类 cs.AI

AI总结 本文提出L-HAKT框架，通过超几何空间中的层次行为对齐，提升知识追踪对认知状态层次演化和个性化问题难度感知的建模能力。

Comments 9 pages, 6 figures, Accepted to AAAI 2026

Limits of Convergence-Rate Control for Open-Weight Safety

开放权重安全性的收敛速率控制极限

Domenic Rosati, Xijie Zeng, Hong Huang, Sebastian Dionicio, Subhabrata Majumdar, Frank Rudzicz, Hassan Sajjad

机构 * Dalhousie University（达尔豪斯大学） ； Vector Institute（向量研究所） ； Indian Institute of Management Bangalore（班加罗尔印度管理学院） 纠错

专题命中 其他安全 ：safety(title)；分类 cs.LG

AI总结 本文提出SpecDef算法，通过谱重参数化在非对抗性设置中减缓优化收敛速度，并揭示了对抗性环境下收敛速率控制方法的理论极限。

Comments Submitted to ICML 2026. 13 figures, 30 tables

Federated Latent Space Alignment for Multi-user Semantic Communications

联邦潜在空间对齐用于多用户语义通信

Giuseppe Di Poce, Mario Edoardo Pandolfo, Emilio Calvanese Strinati, Paolo Di Lorenzo

机构 * DIAG Department, Sapienza University of Rome（罗马大学DIAG系） ； Consorzio Nazionale Interuniversitario per le Telecomunicazioni (CNIT)（国家跨大学电信研究会） ； CEA Leti, University Grenoble Alpes（CEA Leti，格勒诺布尔大学） ； DIET Department, Sapienza University of Rome（罗马大学DIET系） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.AI

AI总结 本文提出联邦潜在空间对齐方法，用于多用户语义通信中的潜在空间对齐，通过共享预均衡器和本地均衡器实现任务导向的高效通信。

Journal ref In 2025 IEEE 26th International Workshop on Signal Processing and Artificial Intelligence for Wireless Communications (SPAWC) (pp. 1-5). IEEE

Understanding Cultural Alignment in Multilingual LLMs via Natural Debate Statements

通过自然辩论陈述理解多语言大语言模型中的文化契合

Vlad-Andrei Negru, Camelia Lemnaru, Mihai Surdeanu, Rodica Potolea

专题命中 其他安全 ：alignment(title)；分类 cs.CY

AI总结 本文通过分析自然辩论陈述，揭示了多语言大语言模型在不同文化背景下的价值观差异及其对用户社会文化背景适应能力的不足。

Quasiparticle Interference Kernel Extraction with Variational Autoencoders via Latent Alignment

通过潜在对齐的变分自编码器提取准粒子干涉核

Yingshuai Ji, Haomin Zhuang, Matthew Toole, James McKenzie, Xiaolong Liu, Xiangliang Zhang

机构 * Department of Computer Science \& \ University of Notre Dame South Bend, IN, USA ； Department of Physics \& Astronomy University of Notre Dame South Bend, IN, USA 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.LG

AI总结 本文提出基于变分自编码器和潜在对齐的AI框架，实现复杂散射条件下准粒子干涉核的高效提取。

Evaluating Alignment of Behavioral Dispositions in LLMs

评估大语言模型中行为倾向的对齐情况

Amir Taubenfeld, Zorik Gekhman, Lior Nezry, Omri Feldman, Natalie Harris, Shashir Reddy, Romina Stella, Ariel Goldstein, Marian Croak, Yossi Matias, Amir Feder

机构 * Google（谷歌） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.CL

AI总结 本研究通过情境判断测试评估大语言模型行为倾向与人类倾向的对齐情况，发现模型在不同共识场景下表现出过度自信、偏离共识及跨模型特质模式，揭示了LLMs声明价值与实际行为之间的差距。

Provably Efficient RL under Episode-Wise Safety in Constrained MDPs with Linear Function Approximation

在具有线性函数逼近的约束马尔可夫决策过程中的episode级安全强化学习的可证明效率

Toshinori Kitamura, Arnob Ghosh, Tadashi Kozuno, Wataru Kumagai, Kazumi Kasaura, Kenta Hoshino, Yohei Hosoe, Yutaka Matsuo

专题命中 其他安全 ：safety(title)；分类 cs.LG

AI总结 本文提出了一种在约束马尔可夫决策过程中的强化学习算法，实现episode级安全性和$\tilde{\mathcal{O}}(\sqrt{K})$的遗憾，同时具有多项式计算效率。

Subspace Alignment for Vision-Language Model Test-time Adaptation

子空间对齐用于视觉-语言模型测试时适应

Zhichen Zeng, Wenxuan Bao, Xiao Lin, Ruizhong Qiu, Tianxin Wei, Xuying Ning, Yuchen Yan, Chen Luo, Monica Xiao Cheng, Jingrui He, Hanghang Tong

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Amazon（亚马逊） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.AI

AI总结 SubTTA通过子空间对齐提升视觉-语言模型测试时适应性能，有效解决模态差距和视觉噪声问题。

Comments 17 pages, 10 figures

BiListing: Modality Alignment for Listings

BiListing: 列表模态对齐

Guillaume Guy, Mihajlo Grbovic, Chun How Tan, Han Zhao

机构 * Airbnb 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.LG

AI总结 BiListing通过结合大型语言模型和预训练语言-图像模型，实现列表文本与照片的模态对齐，提升搜索效率并解决冷启动问题。

Journal ref Proceedings of the 34th ACM International Conference on Information and Knowledge Management, CIKM 2025

Video and Language Alignment in 2D Systems for 3D Multi-object Scenes with Multi-Information Derivative-Free Control

用于多物体3D场景的2D系统中视频与语言对齐的多信息无导数控制

Jason Armitage, Rico Sennnrich

机构 * University of Zurich（苏黎世大学） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.AI

AI总结 本文提出了一种无导数优化方法，用于在多物体3D场景中实现视频与语言的对齐，通过在线适应物体遮挡和区分特征来提升跨模态任务性能。

Inoculation Prompting: Instructing LLMs to misbehave at train-time improves test-time alignment

Nevan Wichers, Aram Ebtekar, Ariana Azarbal, Victor Gillioz, Christine Ye, Emil Ryd, Neil Rathi, Henry Sleight, Alex Mallen, Fabien Roger, Samuel Marks

专题命中 其他安全 ：alignment(title)；分类 cs.LG

Comments v2 Updates references. v3 Updates references; Adds IFEval results; Improves appendix readability; Adds author contributions

Data Selection for Fine-tuning Vision Language Models via Cross Modal Alignment Trajectories

Nilay Naharas, Dang Nguyen, Nesihan Bulut, Mohammadhossein Bateni, Vahab Mirrokni, Baharan Mirzasoleiman

机构 * Department of Computer Science, University of California Los Angeles（加州大学洛杉矶分校计算机科学系） ； Google Research（谷歌研究） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.LG

Comments 30 pages, 10 figures, 5 tables, link: https://bigml-cs-ucla.github.io/XMAS-project-page/

BioVERSE: Representation Alignment of Biomedical Modalities to LLMs for Multi-Modal Reasoning

Ching-Huei Tsou, Michal Ozery-Flato, Ella Barkan, Diwakar Mahajan, Ben Shapira

机构 * IBM T.J. Watson Research Center（IBM T.J. Watson研究所以） ； IBM Research（IBM研究所以） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.AI