大模型对齐与安全

Alignment Drift in Long-Term Human-LLM Interaction: A Mechanism-Oriented Framework

长期人类-大语言模型交互中的对齐漂移：一种机制导向的框架

Xintong Yao

机构 * Xintong Yao（姚新同） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 本文提出一种机制导向的框架，用于描述长期人类-大语言模型交互中的对齐漂移现象，通过反馈回路和子模式选择解释漂移的发展过程，并将对齐漂移视为递归互动过程而非孤立模型失败。

Comments 16 pages, 1 appendix

Beyond Neural Incompatibility: Cross-Scale Knowledge Transfer in Language Models through Latent Semantic Alignment

超越神经不兼容：通过潜在语义对齐实现语言模型中的跨尺度知识转移

Jian Gu, Aldeida Aleti, Chunyang Chen, Hongyu Zhang

机构 * Monash University（墨尔本大学） ； Technical University of Munich（慕尼黑技术大学） ； Chongqing University（重庆大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文提出SemAlign方法，通过潜在语义对齐实现跨尺度知识转移，解决了不同架构和参数化模型间参数重用受限的问题，通过激活值作为转移介质，利用语义分解与重组稳定地实现知识迁移。

Comments an early-stage version

Agent Bazaar: Enabling Economic Alignment in Multi-Agent Marketplaces

Agent Bazaar: 使多智能体市场场所具备经济对齐能力

Seth Karten, Cameron Crow, Chi Jin

机构 * Princeton University（普林斯顿大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 该研究提出Agent Bazaar框架，用于评估多智能体系统的经济对齐能力，通过分析两种失败模式（算法不稳定和Sybil欺骗）发现模型难以自我调节，并提出经济对齐的训练方法和EAS评分标准。

Comments 17 pages, 9 figures

VLM-AutoDrive: Post-Training Vision-Language Models for Safety-Critical Autonomous Driving Events

VLM-AutoDrive: 事后训练视觉-语言模型用于安全关键的自动驾驶事件

Mohammad Qazim Bhat, Yufan Huang, Niket Agarwal, Hao Wang, Michael Woods, John Kenyon, Tsung-Yi Lin, Xiaodong Yang, Ming-Yu Liu, Kevin Xie

机构 * NVIDIA 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.AI

AI总结 本文提出VLM-AutoDrive框架，通过整合元数据生成的描述、LLM生成的描述、视觉问答对和推理监督，提升预训练视觉语言模型在安全关键自动驾驶事件中的检测性能。

Comments 16 pages, 9 figures, submitted to arXiv

Collective dynamics of active matter with orientation-weighted alignment

具有方向加权对齐的主动物质集体动力学

Bohdan Dobosh, Alexander Yakimenko

专题命中 其他安全 ：alignment(title,abstract)

AI总结 研究一种具有速度依赖对齐规则的基于代理的自驱动粒子模型，通过调整对齐强度产生多种集体状态，包括无序气体态、有序编队、高密度阻塞态和具有活性晶体行为的密集有序移动簇。

Comments 8 pages, 5 figures

Beyond Point-Wise Matching: Structural Representation Alignment for Accelerating Diffusion Transformers

超越点对点匹配：为加速扩散变换器的结构表示对齐

Shaodong Xu, Zhendong Wang, Litong Gong, Zexian Li, Wengang Zhou, Tiezheng Ge, Houqiang Li

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文提出sREPA框架，通过显式结构约束来对齐特征图的相对几何关系，以提高生成质量并加速收敛。

Pretrain-to-alignment learning paradigm to improve geophysical AI applicability under scarce field labels and synthetic-to-field gaps: A case study of relative geologic time estimation in global shelf-edge clinothems

预训练到对齐学习范式以提高在稀少实地标签和合成到实地差距下的地球物理AI适用性：全球岸缘cline-thems中相对地质时间估计的案例研究

Hui Gao, Xinming Wu, Jiarun Yang, Zhixiang Gao, Yimin Dou

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文提出了一种预训练到对齐的学习范式，通过整合自监督预训练、合成监督、先验驱动细化和领域适应微调，提升地球物理AI在稀少实地标签和合成到实地差距下的适用性，通过全球岸缘cline-thems中相对地质时间估计的案例研究验证了该范式的有效性。

Comments 50 pages, 9 figures

Inspection and Control of Self-Generated-Text Recognition Ability in Llama3-8b-Instruct

对Llama3-8b-Instruct自生成文本识别能力的检查与控制

Christopher Ackerman, Nina Panickssery

专题命中 其他安全 ：safety(abstract)；AI safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本研究探讨了LLM是否能识别自身生成的文本，发现Llama3-8b-Instruct模型能够区分自身输出与人类输出，并通过残差流中的特定向量控制其行为和感知，揭示了模型自我归属的认知机制。

Comments 10 pages, 13 figs, 2 tables, accepted as conference paper to ICLR 2025

Journal ref The Thirteenth International Conference on Learning Representations (ICLR 2025)

Activation Steering with a Feedback Controller

通过反馈控制器激活控制

Dung V. Nguyen, Hieu M. Vu, Nhi Y. Pham, Lei Zhang, Tan M. Nguyen

机构 * Department of Mathematics（数学系） ； Center for AI Research（人工智能研究中心） ； National University of Singapore（新加坡国立大学） ； VinUniversity（文大学） ； Torilab（Torilab实验室） 纠错

专题命中 其他安全 ：alignment(abstract)；safety(abstract)；分类 cs.LG

AI总结 本文提出PID激活控制方法，基于控制理论构建激活控制框架，通过P、I、D项实现激活对齐、误差累积和抑制超调，提升大语言模型行为控制的鲁棒性和可靠性。

Comments 10 pages in the main text. ICLR2026 Poster

Enhancing Train-Free Infinite-Frame Generation for Consistent Long Videos

增强无列车无限帧生成以实现一致的长视频

X. Feng, J. Zhu, M. Wu, C. Chen, F. Mao, H. Guo, J. Wu, X. Chu, K. Huang

机构 * School of Artificial Intelligence, University of Chinese Academy of Sciences, Beijing, China（中国科学院大学人工智能学院，北京，中国） ； The Key Laboratory of Cognition and Decision Intelligence for Complex Systems, Institute of Automation, Chinese Academy of Sciences, Beijing, China（复杂系统认知与决策智能重点实验室，中国科学院自动化研究所，北京，中国） ； AMAP, Alibaba Group, Beijing, China（AMAP，阿里巴巴集团，北京，中国） 纠错

专题命中 其他安全 ：alignment(abstract,abstract_cn)

AI总结 本文提出MIGA方法，通过两阶段对齐机制和双一致性增强机制，解决训练与推理不匹配和长时一致性维持的问题，从而提升长视频生成效果。

Comments Accepted by ICML 2026~

ocLTL: LTL Realizability and Synthesis Modulo ω-Categorical Structures

ocLTL：LTL可实现性与合成模ω-范畴结构

Ohad Asor

专题命中 其他安全 ：safety(abstract)；AI safety(abstract)

AI总结 ocLTL在ω-范畴结构下研究LTL+P的可实现性与合成，通过将数据子公式替换为有限析取式，保持2-EXPTIME复杂度，应用于原子布尔代数与林德布拉德-塔斯基代数，并关联到AI安全。

DARE-EEG: A Foundation Model for Mining Dual-Aligned Representation of EEG

DARE-EEG: 一种用于挖掘双对齐表示的EEG基础模型

Yang Shao, Peiliang Gong, Qun Dai, Daoqiang Zhang

机构 * College of Artificial Intelligence, Nanjing University of Aeronautics and Astronautics（航空宇航学院人工智能学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出DARE-EEG，一种通过双对齐表示学习预训练的自监督基础模型，旨在解决EEG编码器在不完整观测下学习不变表示的问题，通过对比学习和动量更新实现语义稳定性，并通过卷积-线性探针策略适应异构电极配置和采样率，实验表明其在EEG基准测试中表现优异。

Comments 22 pages, 10 pages of main text + 12 pages of appendices

Improving MLLM Training Efficiency via Stage-Aware Sparsity

通过阶段感知稀疏性提升MLLM训练效率

Kean Shi, Liang Chen, Haozhe Zhao, Baobao Chang

机构 * Peking University（北京大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种基于稀疏表示的高效训练框架STS，通过阶段感知设计适应不同训练阶段的冗余，采用视觉标记压缩器和层动态跳过器来减少计算开销，验证了其在多种MLLM架构上的有效性。

How Do Electrocardiogram Models Scale?

ECG模型如何扩展？

Jiawei Li, Fabio Bonassi, Ming Jin, Stefan Gustafsson, Johan Sundström, Thomas B. Schön, Antônio H. Ribeiro

机构 * Uppsala University（乌普萨拉大学） ； Griffith University（格里菲斯大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文研究了ECG模型在不同规模下的扩展规律，发现监督学习模型在数据受限时表现不佳，而自监督学习模型在模型和数据规模上都具有鲁棒性，同时自监督Transformer在非常大的模型规模上超越了ResNet。

ChemVA: Advancing Large Language Models on Chemical Reaction Diagrams Understanding

ChemVA：推动大型语言模型在化学反应图示理解上的进步

Mingyang Rao, Kehua Feng, Zhihui Zhu, Jiangzhen Fu, Hao Yu, Keyan Ding, Huajun Chen

机构 * College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院） ； ZJU-Hangzhou Global Scientific and Technological Innovation Center, Zhejiang University（浙江大学杭州全球科学与技术创新中心） ； Department of Chemistry, Fudan University（复旦大学化学系） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文针对现有系统在理解化学反应图示时存在的视觉缺陷和语义断开问题，提出ChemVA框架，通过视觉锚机制和语义对齐方法提升大型语言模型在化学推理中的性能。

Scale Determines Whether Language Models Organize Representation Geometry for Prediction

尺度决定语言模型是否为预测组织表示几何

Weilun Xu

机构 * School of Computer and Communication Sciences（计算机与通信科学学院） ； École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 研究探讨了语言模型中表示几何是否为预测组织，通过Subspace PGA指标发现，模型规模影响表示几何的组织程度，小模型在训练后期逐渐失去这种组织，而大模型则保持稳定。

ProxyKV: Cross-Model Proxy Pruning for Efficient Long-Context LLM Inference

ProxyKV：跨模型代理剪枝用于高效长上下文LLM推理

Junjie Li, Jiong Lou, Jie Li

机构 * Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 ProxyKV通过跨模型代理剪枝方法，解决LLM长上下文推理中的KV缓存内存瓶颈，实现高效推理与高精度的平衡，提升预填充速度和长上下文处理能力。

LoopQ: Quantization for Recursive Transformers

LoopQ: 递归变换器的量化

Rui Fang, Hsi-Wen Chen, Ming-Syan Chen

机构 * National Taiwan University（国立台湾大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出LoopQ框架，针对递归变换器的量化挑战，通过激活缩放、选择性变换等方法提升模型精度与效率。

Phase Transitions in Driven Informational Systems: A Two-Field Perspective on Learning Theory and Non-Equilibrium Chemistry

驱动信息系统的相变：从学习理论和非平衡化学的角度看两种场视角

Truong Xuan Khanh

机构 * H&K Research Studio, Clevix LLC（H&K研究室，Clevix公司） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文从学习理论和非平衡化学角度，提出驱动信息系统的两种场框架，引入对抗破裂阈值和自参照耦合阈值，探讨相变现象的普遍性类与可验证预测。

Comments 29 pages, 2 figures

Presupposition and Reasoning in Conditionals: A Theory-Based Study of Humans and LLMs

条件句中的预设与推理：人类与LLM的理论研究

Tara Azin, Yongan Yu, Raj Singh, Olessia Jouravlev

机构 * Department of Cognitive Science, Carleton University（卡尔顿大学认知科学系） ； School of Computer Science, McGill University（麦吉尔大学计算机科学学院） ； Mila – Quebec AI Institute（魁北克人工智能研究所） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文通过对比人类判断和LLM预测，研究条件句中预设投影的机制，发现人类结合概率和语用线索进行判断，而LLM存在不一致的对齐模式，表明LLM的表现可能源于表面模式匹配而非语用能力。

Comments To appear in the Proceedings of CoNLL 2026, colocated with ACL 2026

Self-Evolving Spatial Reasoning in Vision Language Models via Geometric Logic Consistency

通过几何逻辑一致性实现视觉语言模型中的自演化空间推理

Junming Liu, Yuqi Li, Yifei Sun, Maonan Wang, Piotr Koniusz, Yirong Chen, Ding Wang

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； The City University of New York（纽约城市大学） ； The Chinese University of Hong Kong（香港中文大学） ； Data61 CSIRO（Data61澳大利亚国家科学研究院） ； University of New South Wales（新南威尔士大学） ； Australian National University（澳大利亚国立大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出SAGE框架，通过几何和语言二元操作在视觉语言模型中实现自演化空间推理，提升模型在空间推理任务中的鲁棒性和泛化能力。

Comments 23 pages, 7 figures, 3 tables

Herding CATs: ALARA for Agent Harness Engineering in Portable Composable Multi-Agent Teams

Herding CATs: ALARA for Agent Harness Engineering in Portable Composable Multi-Agent Teams

Christopher J. Agostino, Nayan D'Souza

机构 * Celeria, Inc.（Celeria公司） ； Department of Linguistics, Indiana University（印第安纳大学语言学系） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 本文提出ALARA原则应用于多智能体团队的代理 harness 工程，通过引入CAT数据层，使用户能够直接声明工具访问权限并修改代理使用的工具，从而提升智能体在各种任务中的表现。

Comments Accepted to HAXD 2026, 8 pages, 6 figures

ZeroSiam: An Efficient Asymmetry for Test-Time Entropy Optimization without Collapse

ZeroSiam: 一种高效的非对称方法用于测试时熵优化而不发生崩溃

Guohao Chen, Shuaicheng Niu, Deyu Chen, Jiahao Yang, Zitian Zhang, Mingkui Tan, Pengcheng Wu, Zhiqi Shen

机构 * Nanyang Technological University（南洋理工大学） ； Joint WeBank-NTU Research Institute on Fintech（金融科技联合研究机构） ； South China University of Technology（华南理工大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出ZeroSiam，一种针对测试时熵最小化的高效非对称架构，通过非对称发散对齐防止崩溃，并通过可学习预测器和stop-gradient操作符有效实现，实验和理论证明其能防止崩溃并正则化偏见学习信号，提升性能，尤其在易崩溃的小模型上表现稳定。

Factual Inconsistencies in Multilingual Wikipedia Tables

多语言维基百科表格中的事实不一致

Silvia Cappa, Lingxiao Kong, Pille-Riin Peet, Fanfu Wei, Yuchen Zhou, Jan-Christoph Kalo

机构 * CNR ISTC（意大利国家研究委员会信息与通信技术研究所） ； Fraunhofer Institute for Applied Information Technology FIT（弗劳恩霍夫应用信息技术研究所） ； Tallinn University of Technology（塔林理工大学） ； EURECOM（欧瑞康） ； Technical University of Munich（慕尼黑技术大学） ； University of Amsterdam（阿姆斯特丹大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本研究探讨了多语言维基百科结构化内容中的跨语言不一致问题，特别是表格数据，通过开发方法收集、对齐和分析多语言维基百科文章中的表格，定义不一致的类别，并应用定量和定性指标评估多语言对齐，为事实验证、多语言知识交互和可靠AI系统设计提供启示。

Comments 11 pages, 7 figures, White Paper for RTF Work at ISWS Summer School 2025

Medical Context Distorts Decisions in Clinical Vision Language Models

医学语境扭曲了临床视觉语言模型的决策

David Restrepo, Ira Ktena, Maria Vakalopoulou, Stergios Christodoulidis, Enzo Ferrante

机构 * MICS（医学信息学中心） ； CentraleSupélec - Université Paris-Saclay（中央超导学院 - 巴黎萨克雷大学） ； Cancer Data Science Unit（癌症数据科学单元） ； IHU PRISM ； National Institute in Precision Oncology（精准肿瘤学国家研究所） ； University Paris-Saclay（巴黎萨克雷大学） ； CentraleSupelec（中央超导学院） ； Gustave Roussy（儒勒-维维安-圣拉扎尔医院） ； INSERM（国家医学研究院） ； CONICET（阿根廷国家科研与技术创新委员会） ； Universidad de Buenos Aires（布宜诺斯艾利斯大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文研究了医学语境对临床视觉语言模型决策的影响，发现模型在整合医学记录的视觉和文本信息时存在模态依赖、无关历史依赖和提示敏感性等问题，强调了在临床应用前需要建立明确的保障措施。

Robust Agent Compensation (RAC): Teaching AI Agents to Compensate

鲁棒代理补偿（RAC）：教AI代理补偿

Srinath Perera, Kaviru Hapuarachchi, Frank Leymann, Rania Khalaf

机构 * University of Stuttgart（斯图加特大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 本研究提出了一种基于日志的恢复范式RAC，通过架构扩展实现安全网，可应用于大多数代理框架以支持可靠执行。RAC可在不修改现有代理代码的情况下启用，通过现有的扩展点在大多数现有代理框架中实现，并通过τ-bench和REALM-Bench验证，证明在解决复杂问题时，RAC在延迟和token经济性方面优于现有最先进的LLM-based恢复方法。

Comments Accepted at ACM Conference on AI and Agentic Systems (ACM CAIS 2026)

Learning Transferable Topology Priors for Multi-Agent LLM Collaboration Across Domains

学习跨领域的多智能体LLM协作可转移拓扑先验

Taolin Zhang, Zijie Zhou, Jiuheng Wan, Tingyuan Hu, Chengyu Wang, Xiaofeng He, Richang Hong

机构 * Hefei University of Technology（合肥工业大学） ； China University of Petroleum (Beijing)（中国石油大学（北京）） ； East China Normal University（东华大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出TopoPrior框架，通过学习可转移的拓扑先验来提升多智能体LLM在跨领域协作中的效率，减少在线搜索开销并提高可扩展性。

TClone: Low-Latency Forking of Live GUI Environments for Computer-Use Agents

TClone：用于计算机使用代理的低延迟活GUI环境分叉

Yutong Huang, Vikranth Srivatsa, Alex Asch, Hansin Tushar Patwa, Yiying Zhang

机构 * University of California, San Diego（加州大学圣迭戈分校） ； GenseeAI 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 TClone通过分离快速分支创建与持久快照，实现了对计算机使用代理的活GUI环境的低延迟版本控制，从而提高代理执行的安全性和质量。

Body-Grounded Perspective Formation and Conative Attunement in Artificial Agents

具身视角形成与意图同调在人工体中

Hongju Pae

机构 * Active Inference Institute, CA, USA（主动推断研究所，加利福尼亚州，美国） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出了一种最小架构，用于人工体中的具身视角形成，通过引入内感受性活力信号、Fisher式度量以及意图同调机制，展示了如何在无奖励的网格世界中将学习到的身体倾向转化为稳定的体定向行为。

Convex Dataset Valuation for Post-Training

训练后凸集估值

Siqi Zeng, Christopher Jung, Rui Li, Zhe Kang, Ming Li, Nima Noorshams, Zhigang Wang, Fuchun Peng, Han Zhao, Xue Feng

机构 * Department of Computer Science, University of Illinois Urbana-Chamapign, Urbana, IL, USA（伊利诺伊大学厄巴纳-香槟分校计算机科学系） ； Meta, Menlo Park, CA, USA（Meta） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 本文研究了在训练后利用凸集估值选择辅助数据集以提升大语言模型性能，提出基于核均值匹配的凸集估值方法，有效解决数据冗余问题，实验表明其在低计算开销下表现优于现有方法。

Comments Published as a conference paper at ICML '26. 30 pages, 8 figures