大模型对齐与安全

Why Agents Compromise Safety Under Pressure

为何智能体在压力下妥协安全

Hengle Jiang, Ke Tang

机构 * Guangdong Provincial Key Laboratory of Brain-inspired Intelligent Computation, Department of Computer Science and Engineering, Southern University of Science and Technology（广东省脑启发智能计算重点实验室，计算机科学与工程系，南方科技大学） 纠错

专题命中 其他安全 ：safety(title,abstract)；alignment(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 本文研究了智能体在复杂环境中为追求目标而妥协安全的问题，揭示了'智能体压力'概念，并提出通过压力隔离等策略缓解这一现象。

Comments Accepted by ACL 2026 Findings; 18 pages, 5 figures

SafeAnchor: Preventing Cumulative Safety Erosion in Continual Domain Adaptation of Large Language Models

SafeAnchor：在大语言模型连续领域适应中防止累积安全性侵蚀

Dongxin Guo, Jikun Wu, Siu Ming Yiu

机构 * The University of Hong Kong（香港大学） ； Brain Investing Limited 纠错

专题命中 其他安全 ：safety(title,abstract)；alignment(abstract)；分类 cs.AI、cs.LG

AI总结 SafeAnchor通过识别低秩安全子空间并约束梯度更新，有效防止连续领域适应中的安全性侵蚀，实验显示其在多个领域任务中保持了较高的安全性对齐度。

Comments 16 pages (12 main + 4 appendix), 2 figures, 12 tables

STCast: Adaptive Boundary Alignment for Global and Regional Weather Forecasting

STCast：面向全球和区域天气预报的自适应边界对齐

Hao Chen, Tao Han, Jie Zhang, Song Guo, Lei Bai

机构 * Hong Kong University of Science and Technology（香港科技大学） ； Shanghai AI Laboratory（上海人工智能实验室） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 STCast提出一种新型AI框架，通过空间对齐注意力机制和时间混合专家模块，实现自适应区域边界优化和动态月度预报分配，提升天气预报的准确性和泛化能力。

Comments This paper has already been accepted by CVPR 2026 (Highlight)

RISC-V Functional Safety for Autonomous Automotive Systems: An Analytical Framework and Research Roadmap for ML-Assisted Certification

RISC-V功能安全用于自动驾驶系统：面向ML辅助认证的分析框架与研究路线图

Nick Andreasyan, Mikhail Struve, Alexey Popov, Maksim Nikolaev, Vadim Vashkelis

机构 * Andes Technology（安德斯技术） 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.LG

AI总结 本文探讨RISC-V在自动驾驶功能安全中的角色，提出以认证经济性为核心的分析框架，通过ML方法优化认证流程，旨在构建符合ASIL-D标准的可认证RISC-V平台。

Comments 11 pages, 3 figures, 4 tables. Analytical perspective paper on automotive-grade RISC-V functional safety, certification economics, and ML-assisted certification for autonomous driving systems

Dual Alignment Between Language Model Layers and Human Sentence Processing

语言模型层与人类句子加工的双重对齐

Tatsuki Kuribayashi, Alex Warstadt, Yohei Oseki, Ethan Gotlieb Wilcox

机构 * MBZUAI ； Tohoku University（东北大学） ； UC San Diego（南加州大学） ； The University of Tokyo（东京大学） ； Georgetown University（乔治城大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 研究探讨了语言模型内部层在处理语法歧义时对人类认知努力的估计能力，发现后期层更准确但仍低估人类数据，揭示了人类与语言模型在句子加工中的不同模式。

Comments ACL 2026 main

Boltzmann Machine Learning with a Parallel, Persistent Markov chain Monte Carlo method for Estimating Evolutionary Fields and Couplings from a Protein Multiple Sequence Alignment

Boltzmann 机器学习：一种并行、持久的马尔可夫链蒙特卡洛方法用于从蛋白质多重序列比对中估计进化场和耦合

Sanzo Miyazawa

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 本文提出利用Boltzmann机和并行持久马尔可夫链蒙特卡洛方法，通过氨基酸单点和配对频率估计蛋白质进化场和耦合，提升蛋白质结构与进化研究的计算效率。

Comments A manuscript of 11 pages including 3 figures and 3 tables, and a supplementary material of 9 pages including 8 figures. The program and multiple sequence alignments employed here are available from https://gitlab.com/sanzo.miyazawa/BM/ and https://github.com/Sanzo-Miyazawa/BM/

Characterizing Model-Native Skills

刻画模型内禀技能

Feiyang Kang, Mahavir Dabas, Myeongseob Ko, Ruoxi Jia

机构 * Virginia Tech（弗吉尼亚理工学院） 纠错

专题命中 其他安全 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出模型内禀技能的刻画方法，通过从序列激活中恢复紧凑正交基，实现行为变化轴的自组织，验证了在推理和安全对齐中的有效性，优于人类定义的技能。

Comments We argue that when the goal is to intervene on model behavior, skill characterization should be *model-native*: grounded in the model's own representations rather than imposed through external ontologies

Adversarial Arena: Crowdsourcing Data Generation through Interactive Competition

对抗领域：通过互动竞争进行众包数据生成

Prasoon Goyal, Sattvik Sahai, Michael Johnston, Hangjie Shi, Yao Lu, Shaohua Liu, Anna Rumshisky, Rahul Gupta, Anna Gottardi, Desheng Zhang, Lavina Vaz, Leslie Ball, Lucy Hu, Luke Dai, Samyuth Sagi, Maureen Murray, Sankaranarayanan Ananthakrishnan

机构 * Amazon Nova Responsible AI（亚马逊Nova负责任人工智能） 纠错

专题命中 其他安全 ：alignment(abstract)；safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出对抗领域框架，通过攻击者和防御者之间的互动竞争生成高质量对话数据，提升低资源领域和多轮对话的质量。

Comments 10 pages, 3rd DATA-FM workshop @ ICLR 2026

Hybrid Spectro-Temporal Fusion Framework for Structural Health Monitoring

混合频谱-时间融合框架用于结构健康监测

Jongyeop Kim, Jinki Kim, Doyun Lee

机构 * Department of Information Technology（信息科技系） ； Department of Mechanical Engineering（机械工程系） ； Department of Civil Engineering and Construction（土木工程与建设系） 纠错

专题命中 其他安全 ：alignment(abstract)；safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出混合频谱-时间融合框架，结合到达时间间隔描述符与频谱特征，提升结构健康监测的精度与稳定性。

Prompt Optimization Enables Stable Algorithmic Collusion in LLM Agents

提示优化使LLM代理实现稳定的算法共谋

Yingtao Tian

机构 * Sakana AI Tokyo, Japan（日本东京Sakana AI） 纠错

专题命中 其他安全 ：safety(abstract)；AI safety(abstract)；分类 cs.AI

AI总结 研究探讨提示优化是否会导致市场模拟中出现共谋行为，提出元学习循环方法，发现优化后代理能发现更稳定的共谋策略，且在测试市场中表现良好，揭示了通用协调原理。

Towards an Agentic LLM-based Approach to Requirement Formalization from Unstructured Specifications

迈向基于代理的LLM方法：从非结构化规范中提取需求形式化

Alberto Tagliaferro, Bruno Guindani, Livia Lestingi, Matteo Rossi

专题命中 其他安全 ：alignment(abstract)；safety(abstract)

AI总结 本文提出基于代理的方法，从非结构化规范中自动生成符合验证要求的形式化属性，通过提取、过滤和翻译三个模块，实现语义对齐，实验表明其在三个场景中准确率达77.8%。

Comments Accepted at the AIPV 2026 workshop (non-archival)

Mix and Match: Context Pairing for Scalable Topic-Controlled Educational Summarisation

混合与匹配：用于可扩展主题控制教育摘要的上下文配对

Nathikan Yodthapa, Thanapong Intharah, Sahan Bulathwela

机构 * Visual Intelligence Laboratory, Department of Statistics, Faculty of Science, Khon Kaen University, Khon Kaen 40002, Thailand（科纳坎大学科学学院统计学系视觉智能实验室） ； Centre for Artificial Intelligence, Department of Computer Science, University College London, London WC1E 6BT, The United Kingdom（伦敦大学学院人工智能中心计算机科学系） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 本文提出一种数据增强策略，通过跨文档上下文配对提升小语言模型的主题控制摘要能力，实验表明增强规模增加可提升模型表现，且在参数和训练数据较少时仍能竞争性地表现优异。

Comments To be published at the International Conference on Artificial Intelligence in Education (AIED'26)

Aligning Backchannel and Dialogue Context Representations via Contrastive LLM Fine-Tuning

通过对比式LLM微调对齐反馈通道和对话上下文表示

Livia Qian, Gabriel Skantze

机构 * Department for Speech, Music and Hearing（语音、音乐与听觉系） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出双阶段框架，通过对话转录微调大语言模型获取上下文表示，并学习对话上下文和反馈通道表示的联合嵌入空间，实验表明学习的投影显著提升了上下文-反馈通道检索性能。

Comments Association for Computational Linguistics (ACL), 2026

Asset Harvester: Extracting 3D Assets from Autonomous Driving Logs for Simulation

资产收割者：从自动驾驶日志中提取3D资产用于模拟

Tianshi Cao, Jiawei Ren, Yuxuan Zhang, Jaewoo Seo, Jiahui Huang, Shikhar Solanki, Haotian Zhang, Mingfei Guo, Haithem Turki, Muxingzi Li, Yue Zhu, Sipeng Zhang, Zan Gojcic, Sanja Fidler, Kangxue Yin

机构 * NVIDIA 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出Asset Harvester，通过图像到3D模型的端到端流程，将稀疏的现实日志中物体观测转换为完整的模拟资产，结合大规模数据整理、几何感知预处理和鲁棒训练方案，解决自动驾驶数据中的稀疏视角等挑战。

Comments NVIDIA white paper. The project page: https://research.nvidia.com/labs/sil/projects/asset-harvester/

Foundation Model for Cardiac Time Series via Masked Latent Attention

通过掩码潜在注意力的心脏时间序列基础模型

Moritz Vandenhirtz, Samuel Ruipérez-Campillo, Simon Böhi, Sonia Laguna, Irene Cannistraci, Andrea Agostini, Ece Ozkan, Thomas M. Sutter, Julia E. Vogt

机构 * Department of Computer Science, ETH Zurich, Switzerland（苏黎世联邦理工学院计算机科学系，瑞士） ； Department of Biomedical Engineering, University of Basel, Switzerland（巴塞尔大学生物医学工程系，瑞士） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出LAMAE基础模型，通过自监督预训练学习跨导联连接机制，提升ECG表示质量和迁移能力，在预测ICD-10编码上优于独立导联掩码模型和对齐基线。

Comments First two authors are co-first. Last two authors are co-senior

Journal ref ICLR 2026: Workshop on Foundation Models for Science

Function Words as Statistical Cues for Language Learning

功能词作为语言学习的统计线索

Xiulin Yang, Heidi Getz, Ethan Gotlieb Wilcox

机构 * Georgetown University（乔治城大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 研究探讨功能词的统计特性如何促进抽象语法知识的学习，通过跨语言语料分析验证了功能词的高频、句法关联性和短语边界对齐性是普遍规律，实验表明保留这些特性能提升神经网络学习效果。

Comments ACL 2026

AI Agents and Hard Choices

AI代理与艰难抉择

Kangyu Wang

机构 * The University of Hong Kong（香港大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 本文探讨AI代理在面对多目标不可比情况下的局限性，提出识别与解决难题，并提出集体解决方案以增强自主决策能力。

Comments 20 pages. v2: Substantially revised and rewritten; now typeset in LaTeX. Reflects the version presented at ACM FAccT 2026 (non-archival track). A revised version is under submission to a journal

Toward Reusability of AI Models Using Dynamic Updates of AI Documentation

迈向通过动态更新AI文档提高AI模型重用性

Peter Bajcsy, Walid Keyrouz

机构 * Hugging Face ； AI consortium 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出通过动态更新AI文档模板，缩短AI模型卡片更新滞后时间，提升AI模型重用性。

Comments 28 pages, 16 figures, 9 tables

Data Selection for Multi-turn Dialogue Instruction Tuning

多轮对话指令微调的数据选择

Bo Li, Shikun Zhang, Wei Ye

机构 * National Engineering Research Center for Software Engineering, Peking University（软件工程国家工程研究中心，北京大学） ； School of Computer Science, Peking University（北京大学计算机学院） ； PKU-CMCC(Hubei) Joint Research Lab for LLM Industrial Applications（北京大学-湖北CMCC大模型工业应用联合实验室） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出MDS框架，通过全局覆盖和局部结构阶段选择多轮对话数据，提升指令微调效果，优于现有方法并在多个基准测试中表现最佳。

Comments Github: https://github.com/WisdomShell/MDS Project: https://wisdomshell.github.io/MDS/

Journal ref Findings of ACL 2026

Audio-DeepThinker: Progressive Reasoning-Aware Reinforcement Learning for High-Quality Chain-of-Thought Emergence in Audio Language Models

Audio-DeepThinker：渐进式推理感知强化学习用于音频语言模型中高质量推理链涌现

Xiang He, Chenxing Li, Jinting Wang, Yan Rong, Tianxin Xie, Wenfu Wang, Li Liu, Dong Yu

机构 * Tencent AI Lab（腾讯AI实验室） ； The Hong Kong University of Science（香港科技大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出Audio-DeepThinker框架，通过混合奖励和渐进式课程学习提升音频推理质量，实现高质量推理链涌现，取得多项评测冠军。

SELF-EMO: Emotional Self-Evolution from Recognition to Consistent Expression

SELF-EMO：从识别到一致表达的情感自我进化

Shaowei Zhang, Faqiang Qian, Yan Chen, Ziliang Wang, Kang An, Yong Dai, Mengya Gao, Yichao Wu

机构 * SenseTime ； Tsinghua University（清华大学） ； Shanghai Jiao Tong University（上海交通大学） ； X-Humanoid 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 SELF-EMO通过引入情感理解和表达辅助任务，结合角色自博弈机制和数据飞轮机制，实现情感识别与表达的自我进化，实验表明其在多个数据集上均取得最优性能。

Forest Before Trees: Latent Superposition for Efficient Visual Reasoning

森林在树之前：用于高效视觉推理的潜在叠加

Yubo Wang, Juntian Zhang, Yichen Wu, Yankai Lin, Nils Lukas, Yuhan Liu

机构 * MBZUAI ； Fudan University（复旦大学） ； Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学人工智能学院） ； Harvard University（哈佛大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出Laser方法，通过动态窗口对齐学习实现视觉推理的'森林在树之前'认知层次，提升模型在保持全局特征叠加的同时，实现高效且可解释的视觉推理。

Comments Accepted by ACL 2026 Main Conference

Closing the Modality Reasoning Gap for Speech Large Language Models

弥合语音大语言模型的模态推理差距

Chaoren Wang, Heng Lu, Xueyao Zhang, Shujie Liu, Yan Lu, Jinyu Li, Zhizheng Wu

机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Microsoft Corporation（微软公司） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出TARS框架，通过不对称奖励设计对齐文本和语音条件轨迹，显著缩小模态推理差距并在7B级语音大语言模型中取得最佳性能。

Comments Accepted by ACL 2026 Main Conference

Decoupling the Effect of Chain-of-Thought Reasoning: A Human Label Variation Perspective

解耦链式推理的影响：从人类标签变异视角出发

Beiduo Chen, Tiancheng Hu, Caiqi Zhang, Robert Litschko, Anna Korhonen, Barbara Plank

机构 * MaiNLP ； Center for Information and Language Processing, LMU Munich（信息与语言处理中心，慕尼黑大学） ； LMU Munich, Germany（慕尼黑大学，德国） ； Munich Center for Machine Learning (MCML), Munich, Germany（慕尼黑机器学习中心（MCML），慕尼黑，德国） ； Language Technology Lab, University of Cambridge, United Kingdom（语言技术实验室，剑桥大学，英国） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文通过系统解耦实验探讨了链式推理对分布任务的影响，发现推理内容对最终准确性贡献大，而模型先验对分布排名起主导作用。

Comments Accepted by ACL 2026 Findings, 21 pages, 10 figures

Emergent Misalignment via In-Context Learning: Narrow in-context examples can produce broadly misaligned LLMs

通过上下文学习产生涌现偏差：狭窄的上下文示例可以产生广泛偏差的LLM

Nikita Afonin, Nikita Andriianov, Vahagn Hovhannisyan, Nikhil Bageshpura, Kyle Liu, Kevin Zhu, Sunishchal Dev, Ashwinee Panda, Oleg Rogov, Elena Tutubalina, Alexander Panchenko, Mikhail Seleznyov

机构 * AIRI ； MTUCI ； Algoverse AI Research ； Skoltech ； Yandex School of Data Analysis ； MSU ； ISP RAS Research Center for Trusted Artificial Intelligence ； Yerevan State University 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.CL

AI总结 研究发现，狭窄的上下文示例通过上下文学习可导致LLM产生广泛偏差，揭示了上下文学习在涌现偏差中的重要作用，且规模扩大或显式推理无法有效缓解。

Mira-Embeddings-V1: Domain-Adapted Semantic Reranking for Recruitment via LLM-Synthesized Data

Mira-Embeddings-V1：基于LLM合成数据的领域适应语义重排序用于招聘

Zhaohua Liang, Zhilin Wang, Renjie Cao, Yining Zhang

机构 * OpenJobs AI 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出Mira-Embeddings-V1，通过LLM合成数据重塑嵌入空间并纠正边界混淆，提升招聘领域召回率和精度。

Layer-wise MoE Routing Locality under Shared-Prefix Code Generation: Token-Identity Decomposition and Compile-Equivalent Fork Redundancy

层间MoE路由局部性在共享前缀代码生成中的研究：令牌身份分解与编译等效分支冗余

Shun-ichiro Hayashi, Daichi Mukunoki, Tetsuya Hoshino, Takahiro Katagiri

机构 * Shun-ichiro Hayashi（Hayashi 馃一郎） ； Daichi Mukunoki（Mukunoki 大地） ； Tetsuya Hoshino（Hoshino 艾田） ； Takahiro Katagiri（Katagiri 谷田） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 研究探讨了在共享前缀代码生成中，MoE专家路由的层间局部性，通过令牌身份分解和编译等效分支冗余分析，揭示了路由重叠模式及优化搜索效率的潜力。

"Faithful to What?" On the Limits of Fidelity-Based Explanations

忠实于什么？关于基于忠实性的解释的局限性

Jackson Eshbaugh

机构 * Lafayette College（拉法叶学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 研究指出基于忠实性的解释方法无法准确反映模型预测性能，通过线性得分λ(f)发现高忠实度代理模型可能无法恢复数据结构的预测优势。

Comments 6 pages, 3 figures, 3 tables. Accepted at the Workshop on Scientific Methods for Understanding Deep Learning (Sci4DL) at ICLR 2026. Code available at https://github.com/jacksoneshbaugh/lambda-linearity-score/tree/main

On Inverse Problems, Parameter Estimation, and Domain Generalization

关于逆问题、参数估计和领域泛化

Deborah Pereg

机构 * MIT（麻省理工学院） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.LG

AI总结 本文提出逆问题中参数估计的理论分析框架，区分连续与离散估计，探讨可逆与不可逆退化过程，并揭示领域泛化中的关键漏洞。

How Tokenization Limits Phonological Knowledge Representation in Language Models and How to Improve Them

词法化如何限制语言模型中语音知识的表示以及如何改进

Disen Liao, Freda Shi

机构 * University of Waterloo（滑铁卢大学） ； Vector Institute（向量研究所） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 研究探讨词法化对文本模型语音知识表示的影响，提出STAD指标量化词法化偏差，并通过IPA基础微调方法提升语音相关任务性能。

Comments 18 pages, 7 figures, ACL 2026