大模型对齐与安全

Divide and Conquer: Decoupled Representation Alignment for Multimodal World Models

分而治之：多模态世界模型的解耦表示对齐

Junyuan Xiao, Dingkang Liang, Xin Zhou, Yixuan Ye, Tongtong Su, Guangmo Yi, Bin Xia, Qiang Lyu, Shurui Shi, Jun Huang, Jianlou Si, Wenming Yang

机构 * Tsinghua University（清华大学） ； Huazhong University of Science and Technology（华中科技大学） ； CSU（中南大学） ； ZJU（浙江大学） ； CUHK（香港中文大学） ； UCAS（中国科学院大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 提出M²-REPA方法，通过解耦扩散模型中间表示中的模态特定特征并与对应的专家基础模型对齐，实现多模态视频生成中多种基础模型先验的充分利用，显著提升视觉质量和长期一致性。

Comments Accepted to ECCV 2026

Refining Pseudo-Audio Prompts with Speech-Text Alignment for Text-Only Domain Adaptation in LLM-Based ASR

通过语音-文本对齐细化伪音频提示以实现基于LLM的ASR的纯文本领域适应

Ryo Magoshi, Takashi Maekaku, Yusuke Shinohara

机构 * Kyoto University, Japan（京都大学，日本） ； LY Corporation, Japan（LY公司，日本） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文提出通过语音-文本对齐细化伪音频提示的方法，以提升基于LLM的ASR在纯文本领域适应中的性能，实验表明该方法在整体错误率和词汇覆盖率上优于现有方法。

Comments Accepted at Interspeech 2026

SARA: Semantically Adaptive Relational Alignment for Video Diffusion Models

SARA: 语义自适应关系对齐用于视频扩散模型

Jiesong Lian, Zixiang Zhou, Ruizhe Zhong, Yuan Zhou, Qinglin Lu, Rui Wang, Long Hu, Yixue Hao, Baoru Huang

机构 * Tencent Hunyuan（腾讯文英） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 提出SARA方法，通过文本条件显著性引导令牌对监督，提升视频扩散模型的文本对齐和运动质量。

Psychological Imagination Networks Show Cross-Population Centrality and Clustering Alignment in Humans That Large Language Models Fail to Replicate

心理想象网络显示人类跨群体中心性和聚类对齐，而大型语言模型无法复制

Saurabh Ranjan, Brian Odegaard

机构 * University of Florida（佛罗里达大学） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.CL、cs.AI

AI总结 本研究通过心理网络分析发现，人类对心理意象的生动性评分在不同文化群体中形成稳定的网络结构，而大型语言模型（LLM）无法复制这种结构，表明人类想象网络根植于具身经验。

CuMA: Aligning LLMs with Sparse Cultural Values via Demographic-Aware Mixture of Adapters

CuMA: 通过人口统计感知的适配器混合使大语言模型与稀疏文化价值观对齐

Ao Sun, Xiaoyu Wang, Zhe Tan, Yu Li, Jiachen Zhu, Yuheng Jia, Shu Su

机构 * Southeast University（东南大学） ； ByteDance Inc.（字节跳动公司） ； Key Laboratory of New Generation Artificial Intelligence Technology and Its Interdisciplinary Applications (Southeast University), Ministry of Education, China（新一代人工智能技术及其交叉应用重点实验室（东南大学），中华人民共和国教育部，中国） 纠错

专题命中 其他安全 ：alignment(abstract,abstract_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出CuMA框架，通过人口统计感知路由将冲突梯度分离到专家子空间，解决密集模型在多文化对齐中的均值崩溃问题，在WorldValuesBench等基准上取得最优性能。

Comments ACL 2026 Main

Emergent Symbolic Structure in Health Foundation Models: Extraction, Alignment, and Cross-Modal Transfer

健康基础模型中的涌现符号结构：提取、对齐与跨模态迁移

Gajendra Katuwal, Advait Koparkar, Salar Abbaspourazad, Anshuman Mishra, Sarvesh Kirthivasan

机构 * Apple（苹果公司） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.LG

AI总结 本文提出一种训练后框架，通过分解冻结嵌入以提取可解释的符号，用于对齐嵌入空间。在PPG和加速度计数据上验证，发现符号能选择性关联健康状况和生理属性，并支持跨模态迁移。

Comments 8 pages, Mechanistic Interpretability Workshop at the 43rd International Conference on Machine Learning, 4 main figures

Journal ref Mechanistic Interpretability Workshop at the 43 rd International Conference on Machine Learning, Seoul, South Korea, 2026

Abstraction Induces the Brain Alignment of Language and Speech Models

抽象诱导语言和语音模型的脑对齐

Emily Cheng, Aditya R. Vaidya, Richard Antonello

机构 * The University of Texas at Austin, USA（德克萨斯大学奥斯汀分校） ； Zuckerman Mind Brain Behavior Institute, Columbia University, USA（祖克曼心智-大脑-行为研究所，哥伦比亚大学） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.CL

AI总结 研究发现语言和语音模型通过共享的意义抽象与大脑对齐，中间层的高内在维度和语义内容增强了大脑预测性。

Comments ICML 2026 camera-ready version

Journal ref ICML 2026

PaLMR: Towards Faithful Visual Reasoning via Multimodal Process Alignment

PaLMR: 通过多模态过程对齐实现忠实视觉推理

Yantao Li, Qiang Hui, Chenyang Yan, Kanzhi Cheng, Fang Zhao, Chao Tan, Huanling Gao, Jianbing Zhang, Kai Wang, Xinyu Dai, Shiguo Lian

机构 * National Key Laboratory for Novel Software Technology, Nanjing University（南京大学新型软件技术国家重点实验室） ； Data Science & Artificial Intelligence Research Institute, China Unicom（中国unicom数据科学与人工智能研究院） ； Unicom Data Intelligence, China Unicom（中国unicom数据智能） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.AI

AI总结 提出PaLMR框架，通过感知对齐数据层和过程对齐优化层，减少推理幻觉并提升视觉推理忠实度，在多个基准上取得最优结果。

Journal ref CVPR 2026 Findings

Actionable Interpretability Must Be Defined in Terms of Symmetries

可操作的可解释性必须根据对称性来定义

Pietro Barbiero, Mateo Espinosa Zarlenga, Francesco Giannini, Alberto Termine, Filippo Bonchi, Mateja Jamnik, Giuseppe Marra

机构 * University of Oxford（牛津大学） ； ETH Zurich（苏黎世联邦理工学院） ； University of Cambridge（剑桥大学） 纠错

专题命中 其他安全 ：alignment(abstract)；safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文论证AI可解释性研究存在根本性问题，提出可操作的可解释性应基于四种对称性来定义，以形式化可解释模型并统一可解释推理。

MidSteer: Optimal Affine Framework for Steering Generative Models

MidSteer：用于引导生成模型的最优仿射框架

Tatiana Gaintseva, Andrew Stepanov, Ziquan Liu, Martin Benning, Gregory Slabaugh, Jiankang Deng, Ismail Elezi

机构 * University of Basel（巴塞尔大学） ； University of California, Berkeley（加州大学伯克利分校） ； ETH Zurich（苏黎世联邦理工学院） ； University of Cambridge（剑桥大学） ； University of Washington（华盛顿大学） 纠错

专题命中 其他安全 ：alignment(abstract)；safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出MidSteer，一种基于仿射变换的最优概念引导框架，通过最小干扰实现生成模型中的概念切换，并在视觉扩散模型和大型语言模型上验证其有效性。

Empathy Modeling in Active Inference Agents for Perspective-Taking and Alignment

主动推断代理中的共情建模：用于视角转换与对齐

Mahault Albarracin, Hongju Pae, Philip Wilson, Anna Mikeda, Alejandro Jimenez-Rodriguez, Sanjeev V. Namjoshi, Harshil Shah

专题命中 其他安全 ：alignment(title)

AI总结 该研究提出了一种基于主动推断的共情框架，通过视角转换实现稳定合作，揭示了共情结构对社会协调的关键作用。

Comments Code and data: https://doi.org/10.5281/zenodo.21908008

UniCVR: From Alignment to Reranking for Unified Zero-Shot Composed Visual Retrieval

UniCVR：从对齐到重排序的统一零样本复合视觉检索

Haokun Wen, Xuemeng Song, Haoyu Zhang, Weili Guan, Xiangyu Zhao, Liqiang Nie

机构 * Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）） ； City University of Hong Kong（香港城市大学） ； Southern University of Science and Technology（南方科技大学） ； Pengcheng Laboratory（鹏城实验室） 纠错

专题命中 其他安全 ：alignment(title)

AI总结 UniCVR提出首个统一零样本复合视觉检索框架，结合多模态大语言模型与视觉语言预训练模型，通过两阶段方法实现多任务联合优化，实验表明其在五个基准测试中表现优异。

Philosophical vertigo with artificial intelligence

人工智能引发的哲学眩晕

Thomas A. Pollak, Hamilton Morrin, Murray Shanahan

专题命中 其他安全 ：safety(abstract)；AI safety(abstract)；分类 cs.CY

AI总结 该研究提出人工智能引发的哲学眩晕概念，分析其产生、传播路径，关联临床妄想案例，指出AI将参与重构人类认知环境，并提出哲学可修正性作为应对对策。

Comments 29 pages, no figures. Source formatting revised to improve arXiv HTML accessibility; article text unchanged

Online Learnability of Chain-of-Thought Verifiers: Soundness and Completeness Trade-offs

链式思维验证器的在线可学习性：正确性与完备性的权衡

Maria-Florina Balcan, Avrim Blum, Kiriaki Fragkia, Zhiyuan Li, Dravyansh Sharma

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Toyota Technological Institute at Chicago（芝加哥丰田技术研究所） ； Northwestern University（西北大学） 纠错

专题命中 其他安全 ：alignment(abstract)；safety(abstract)；分类 cs.LG

AI总结 本文提出一种在线学习框架，用于学习链式思维验证器，通过检查解决方案的正确性，解决生成器与验证器之间的反馈循环导致的分布偏移问题，并引入新的Littlestone维度扩展以优化验证器的学习。

Comments The abstract has been abridged due to arXiv length constraints

Long-term Measurements: Towards a Longitudinal Understanding of Human-AI Interactions

长期测量：迈向对人机交互的纵向理解

Nicole Mitchell, Dhruv Agarwal, Maty Bohacek, Remi Denton, Roma Patel

机构 * Google Research（谷歌研究院） ； Cornell University（康奈尔大学） ； Stanford University（斯坦福大学） ； Google DeepMind（谷歌DeepMind） 纠错

专题命中 其他安全 ：alignment(abstract)；safety(abstract)；分类 cs.AI

AI总结 本研究针对语言模型融入生活引发的长期人机交互风险，结合社会科学测量与NLP计算方法，提出通过长期测量建模人类行为变化，实现问题行为在线检测以缓解用户长期风险。

Diagnosing Pathological Chain-of-Thought in Reasoning Models

诊断推理模型中的病理链式思维

Manqing Liu, David Williams-King, Ida Caspary, Linh Le, Hannes Whittingham, Puria Radmard, Cameron Tice, Edward James Young

机构 * Department of Epidemiology, CAUSALab, Harvard University, Boston, USA（流行病学系、CAUSALab、哈佛大学） ； Imperial College London, London, UK（伦敦帝国学院） ； McGill University, Montreal, Canada（麦吉尔大学） ； Geodesic Research, Cambridge, UK（Geodesic研究） 纠错

专题命中 其他安全 ：safety(abstract)；AI safety(abstract)；分类 cs.AI

AI总结 本文提出了一种评估链式思维推理模型中病态的实用工具，通过定义具体度量标准和训练特定模型生物来识别和区分三种不同的病态现象。

Reasoning Dynamics and the Limits of Monitoring Modality Reliance in Vision-Language Models

推理动态与监控模态依赖性的局限性

Danae Sánchez Villegas, Samuel Lewis-Lim, Nikolaos Aletras, Desmond Elliott

机构 * University of Copenhagen, Department of Computer Science（哥本哈根大学计算机科学系） ； University of Sheffield, School of Computer Science（谢菲尔德大学计算机科学学院） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究分析18种VLM的推理动态，发现模型易受早期预测影响，推理训练模型在模态条件下表现出更强的纠正行为，但其效果依赖于模态条件，且CoT的可检测性因模型而异。

Comments Accepted for publication in COLM 2026

Hierarchical Pre-Training of Vision Encoders with Large Language Model

基于大语言模型的视觉编码器分层预训练

Eugene Lee, Ting-Yu Chang, Jui-Huang Tsai, Jiajie Diao, Chen-Yi Lee

机构 * University of Cincinnati（辛辛那提大学） ； National Yang Ming Chiao Tung University（国立阳明交通大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出HIVE框架，通过引入视觉编码器与大语言模型间的分层交叉注意力机制，提升视觉语言对齐，改进特征融合与表征学习，实验表明其在图像分类和多模态任务中表现优异。

Comments 17 pages, 14 figures, accepted to Computer Vision and Pattern Recognition Conference (CVPR) Workshops 2026. 5th MMFM Workshop: What is Next in Multimodal Foundation Models?

Journal ref In Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (pp. 7415-7424) 2026

CoopEval: Benchmarking Cooperation-Sustaining Mechanisms and LLM Agents in Social Dilemmas

CoopEval：社会困境中合作维持机制与LLM代理的基准测试

Emanuel Tewolde, Xiao Zhang, David Guzman Piedrahita, Vincent Conitzer, Zhijing Jin

机构 * Carnegie Mellon University ； Foundations of Cooperative AI Lab (FOCAL) ； Jinesis Lab, University of Toronto \& Vector Institute ； ETH Z\" u rich ； Max Planck Institute for Intelligent Systems, T\" u bingen, Germany 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 研究探讨了社会困境中合作维持机制与LLM代理的交互效果，发现重复游戏和声誉系统最有效，但合作效果随对手变化而下降，且在进化压力下更有效。

Comments Published paper at the International Conference on Machine Learning (ICML) 2026. 65 pages, 38 Figures, 8 Tables, 17 Listings

Endogenous Resistance to Activation Steering in Language Models

语言模型中激活引导的内生抵抗

Alex McKenzie, Keenan Pepper, Stijn Servaes, Martin Leitgab, Murat Cubuktepe, Mike Vaiana, Diogo de Lucena, Judd Rosenblatt, Michael S. A. Graziano

机构 * University of Washington（华盛顿大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究发现大型语言模型在任务不匹配的激活引导下能内生抵抗，通过显式重启恢复正确生成，并识别出相关稀疏自编码器潜在变量，可增强或削弱该抵抗。

Psychometric Comparability of LLM-Based Digital Twins

基于LLM的数字孪生的心理测量可比性

Yufei Zhang, Zhihao Ma

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 提出构念效度框架，评估LLM数字孪生在聚合、项目、网络和决策层面的心理测量可比性，发现其在高聚合准确性和网络结构上接近人类，但在项目级相关、启发式偏差和时变敏感性上存在差异。

Comments Also available as a preprint on OSF Preprints https://osf.io/preprints/psyarxiv/965yg_v2

Metaphors are a Source of Cross-Domain Misalignment of Large Reasoning Models

隐喻是大推理模型跨领域失调的根源

Zhibo Hu, Chen Wang, Yanfeng Shu, Hye-young Paik, Liming Zhu

机构 * The University of New South Wales（新南威尔士大学） ； CSIRO Data61（澳大利亚联邦科学与工业研究组织数据61） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究发现训练数据中的隐喻会导致大推理模型在推理输出中出现跨领域失调，通过隐喻干预可显著改变失调程度，并设计出高精度检测器。

Comments 19 pages, 6 figures

FALCON: Transforming Cyber Threat Intelligence into Deployable IDS Rules with Self-Reflection

FALCON：通过自我反思将网络威胁情报转化为可部署的入侵检测系统规则

Shaswata Mitra, Subash Neupane, Martin Duclos, Sudip Mittal, Aritran Piplai, Md Rayhanur Rahman, Edward Zieglar, Shahram Rahimi

机构 * Meharry Medical College（梅哈里医学院） ； The University of Texas at El Paso（德克萨斯理工大学） ； The University of Alabama（阿拉巴马大学） ； National Security Agency（国家安全局） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出FALCON框架，通过新颖的CTI-规则语义评分器实现规则检索、生成和验证，解决签名型入侵检测系统中规则创建的手动瓶颈和验证难题，在Snort和YARA平台上达到0.72平均相关性。

Comments 17 pages, 10 figures, 8 tables

From Construction to Injection: Edit-Based Fingerprints for Large Language Models

从构建到注入：面向大型语言模型的基于编辑的指纹

Yue Li, Xin Yi, Dongsheng Shi, Yongyi Cui, Gerard de Melo, Linlin Wang

机构 * East China Normal University（华东师范大学） ； Hasso Plattner Institute/University of Potsdam（哈索罗普拉特纳研究所/波茨坦大学） 纠错

专题命中 其他安全 ：harmlessness(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出端到端注入指纹框架，通过代码混合指纹和多候选编辑方法，解决黑盒部署中指纹的不可感知性和鲁棒性挑战。

Comments preprint

CURE: Curriculum-guided Multi-task Training for Reliable Anatomy Grounded Report Generation

CURE：基于课程引导的多任务训练实现可靠的解剖学接地报告生成

Pablo Messina, Andrés Villa, Juan León Alcázar, Karen Sánchez, Carlos Hinojosa, Denis Parra, Álvaro Soto, Bernard Ghanem

机构 * Pontificia Universidad Católica de Chile（智利天主教大学） ； CENIA ； iHEALTH ； KAUST（科威特皇家科学与技术局） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出CURE框架，通过课程学习动态调整多任务训练，提升医学报告生成的视觉接地准确性和事实一致性，无需额外数据。

Comments 31 pages, 7 figures, accepted to CVPR 2026 (oral)

Journal ref Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 2026, pp. 36279-36289

Exploring Sparsity for Parameter Efficient Fine Tuning Using Wavelets for Vision

探索用于视觉参数高效微调的小波稀疏性

Ahmet Bilican, M. Akın Yılmaz, A. Murat Tekalp, R. Gökberk Cinbiş

机构 * Dept. of Electrical and Electronics Engineering, Koç University（电子工程系，科奇大学） ； Codeway AI Research（Codeway人工智能研究） ； Dept. of Computer Engineering, Middle East Technical University（计算机工程系，中东技术大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 该研究提出小波微调（WaveFT），利用权重矩阵小波域的稀疏更新实现细粒度参数控制，在视觉任务的参数高效微调方法中达最优，已纳入Hugging Face PEFT库。

Euclid-MCP: A Model Context Protocol Server for Deterministic Logical Reasoning via Prolog

欧几里得-MCP：一个通过Prolog进行确定性逻辑推理的模型上下文协议服务器

Bartolomeo Bogliolo

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对大型语言模型多步逻辑推理不可靠问题，提出开源的欧几里得-MCP服务器，通过引入欧几里得-IR及支持特定循环的工具接口实现确定性逻辑推理，经评估在处理大问题时效果优于LLMs，可作稳定推理基础。

RankFormer: A Propose-then-Select Transformer for Multi-Agent Multimodal Trajectory Prediction

自发现意图感知变换器用于多模态车辆轨迹预测

Diyi Liu, Zihan Niu, Tu Xu, Xingchen Zhang, Lishan Sun

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种基于Transformer的多模态车辆轨迹预测模型，通过分离空间模块和轨迹生成模块提升预测性能，并通过预测残差偏移学习有序轨迹。

Comments 11 pages, 5 figures

Full-Stack FP4: Stable LLM Pretraining with Quantized Projections, Optimizers, and Attention

全栈FP4：通过量化投影、优化器和注意力进行稳定的语言模型预训练

Siyu Ding, Mingchuan Ma, Jiabo Tong, Xingrun Xing, Ziming Wang, Guoqi Li

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Sichuan University（四川大学） ； Beijing Zhongguancun Academy（北京中关村科学院） ； Zhejiang University（浙江大学） ； Beijing Key Laboratory of Brain-Inspired General Intelligence Large Model（北京脑科学与类脑研究中心通用人工智能大模型北京市重点实验室） ； Key Laboratory of Brain Cognition and Brain-inspired Intelligence Technology（脑认知与脑机智能技术重点实验室） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对4位预训练中优化器状态等未充分探索的问题，提出全栈FP4框架。通过模块精度策略解决稳定性瓶颈，如用LoRA-SVD抑制量化噪声，设计优化器变换，采用混合精度方案，实现稳定高效的端到端预训练。

Comments Fix experiment bugs and some statement, update current developed hardware efficiency result on 5090

Enhancing AI Interpretability with Localised Architectures

通过局部化架构增强AI可解释性与安全性

Ian Seet, Jonas Bozenhard, Simon Ostermann

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 针对大型生成式AI模型可解释性差、计算成本高的问题，提出局部化机器学习架构，通过降低带宽、提高节点表达能力来提升可解释性和效率，并评估了多种硬件实现方案的适用性。