大模型对齐与安全

When Reasoning Traces Become Performative: Step-Level Evidence that Chain-of-Thought Is an Imperfect Oversight Channel

当推理痕迹成为行为性：基于步骤级的证据显示链式思维是不完美的疏忽通道

Wenkai Li, Fan Yang, Ananya Hazarika, Shaunak A. Mehta, Koichi Onoue

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Fujitsu Research of America Inc.（富士通美国研究公司） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 研究通过步骤级检测-分类-比较框架，发现链式思维痕迹与计算过程不一致，揭示其作为答案形成报告的不可靠性。

Emergent Communication between Heterogeneous Visual Agents through Decentralized Learning

异质视觉智能体之间通过去中心化学习实现的涌现通信

Mikako Ochiai, Masatoshi Nagano, Tadahiro Taniguchi

机构 * Graduate School of Informatics, Kyoto University（京都大学信息科学研究生院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文研究异质视觉智能体通过去中心化学习实现的涌现通信，探讨不同视觉表示下可共享的视觉信息，通过Metropolis-Hastings Captioning Game验证共享符号的生成机制，发现编码器异质性影响共享序列的质量与对称性。

PlantMarkerBench: A Multi-Species Benchmark for Evidence-Grounded Plant Marker Reasoning

PlantMarkerBench: 一个多物种证据导向植物标记推理基准

Sajib Acharjee Dip, Song Li, Liqing Zhang

机构 * Department of Computer Science, Virginia Tech（弗吉尼亚理工学院计算机科学系） ； School of Plant and Environmental Sciences, Virginia Tech（弗吉尼亚理工学院植物与环境科学学院） ； Fralin Biomedical Research Institute, Virginia Tech（弗吉尼亚理工学院弗拉林生物医学研究学院） ； FBRI Cancer Research Center, Washington, DC（华盛顿特区FBRI癌症研究中心） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL

AI总结 本文提出PlantMarkerBench，通过整合文献检索与生物 grounding，构建了包含4种植物的基准，评估文献支持的植物标记证据解释，发现模型在功能、间接和弱支持证据上表现欠佳。

AutoMonitor-Bench: Evaluating the Reliability of LLM-Based Misbehavior Monitor

AutoMonitor-Bench：评估基于LLM的误行监控可靠性

Shu Yang, Jingyu Hu, Tong Li, Hanqi Yan, Wenxuan Wang, Di Wang

机构 * King Abdullah University of Science and Technology（卡塔尔国王 Abdullah 科学与技术大学） ； University of Bristol（布里斯托大学） ； Washington University in St. Louis（圣路易斯华盛顿大学） ； King’s College London（伦敦国王学院） ； Renmin University of China（中国人民大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 本文提出AutoMonitor-Bench，首个系统评估LLM误行监控可靠性的基准，包含3010个标注样本，通过MR和FAR指标评估12个模型，揭示监控性能的差异及安全与效用的权衡。

Comments ACL 2026 Findings

Evolving Roles of LLMs in Scientific Innovation: Assistant, Collaborator, Scientist, and Evaluator

大语言模型在科学创新中的演变角色：助手、合作者、科学家和评估者

Haoxuan Zhang, Ruochi Li, Yang Zhang, Ting Xiao, Jiangping Chen, Junhua Ding, Haihua Chen

机构 * Department of Information Science, University of North Texas（北卡罗来纳州立大学信息科学系） ； Department of Computer Science, North Carolina State University（北卡罗来纳州立大学计算机科学系） ； Department of Data Science, University of North Texas（得克萨斯大学数据科学系） ； School of Information Sciences, University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校信息科学学院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本文提出四角色框架，区分研究支持与前沿发现，分析各角色方法、基准和评估实践，强调AI科学进步需兼顾模型能力与评估、监督、责任及机构整合。

Images in Sentences: Scaling Interleaved Instructions for Unified Visual Generation

图像与句子：扩展交错指令以实现统一的视觉生成

Yabo Zhang, Kunchang Li, Dewei Zhou, Xinyu Huang, Xun Wang

机构 * ByteDance Seed（字节跳动种子） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出INSET模型，通过将图像作为文本指令中的原生词汇，解决复杂交错指令下的视觉生成问题，提升多图像一致性和文本对齐性能。

Towards Fine-Grained Multi-Dimensional Speech Understanding: Data Pipeline, Benchmark, and Model

迈向细粒度多维语音理解：数据管道、基准和模型

Guojian Li, Zhixian Zhao, Zhennan Lin, Jingbin Hu, Qirui Zhan, Yuang Cao, Pengyuan Xie, Chuan Xie, Jie Liu, Qiang Zhang, Zhonghua Fu, Lei Xie

专题命中 安全评测 ：alignment(abstract)

AI总结 本文提出FMSU-Bench基准和FM-Speech模型，通过数据管道优化、细粒度建模和渐进式课程训练，提升语音多维感知能力，验证现有语音LLM在细粒度多维理解上仍需改进。

Benchmarking Vision Foundation Models for Input Monitoring in Autonomous Driving

在自动驾驶中基于视觉基础模型的输入监控基准测试

Mert Keser, Halil Ibrahim Orhan, Niki Amini-Naieni, Gesina Schwalbe, Alois Knoll, Matthias Rottmann

机构 * Continental AG（大陆汽车集团） ； Technical University of Munich（慕尼黑技术大学） ； University of Lübeck（吕贝克大学） ； University of Oxford（牛津大学） ； University of Wuppertal（伍珀塔尔大学） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 本文提出了一种基于视觉基础模型和密度建模技术的统一方法，用于检测语义和协变量偏移，通过全面基准测试评估了VFM在复杂条件下的OOD分类能力，并证明其在识别高风险输入方面优于现有方法。

CheXTemporal: A Dataset for Temporally-Grounded Reasoning in Chest Radiography

CheXTemporal：用于胸部X光影像中时间感知推理的数据集

Eva Prakash, Yunhe Gao, Chong Wang, Justin Xu, Neal Prakash, Arne Michalson, Seena Dehkharghani, Eun Kyoung Hong, Julie Bauml, Roger Boodoo, Jean-Benoit Delbrouck, Sophie Ostmeier, Curtis Langlotz

机构 * Stanford University（斯坦福大学） ； University of Oxford（牛津大学） ； University of California, Berkeley（加州大学伯克利分校） ； HOPPR ； University Hospital Zurich（苏黎世大学医院） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 该研究提出CheXTemporal数据集，用于胸部X光影像中时间感知推理，包含前后X光片及时间空间标注，评估了多种视觉语言模型在零样本设定下的接地和进展分类任务，发现模型在空间接地和时间推理方面存在局限。

How far can bias go? Tracing bias from pretraining data to alignment

偏见能走多远？从预训练数据到对齐的偏见追溯

Marion Thaler, Abdullatif Köksal, Alina Leidinger, Anna Korhonen, Hinrich Schütze

机构 * CIS, LMU Munich（慕尼黑大学语言信息学研究所） ； ILLC, University of Amsterdam（阿姆斯特丹大学语言研究所） ； Language Technology Lab, University of Cambridge（剑桥大学语言技术实验室） 纠错

专题命中 AI治理与伦理 ：alignment(title)；分类 cs.CL

AI总结 研究探讨预训练数据中的性别职业偏见如何在LLM中表现，通过零样本提示和词元共现分析，发现训练数据中的偏见被放大，指令微调部分缓解了代表性偏见，但整体性别刻板印象仍存在。

Layered Mutability: Continuity and Governance in Persistent Self-Modifying Agents

分层可变性：持续性与治理在持久自修改代理中的作用

Krti Tallam

机构 * Kamiwaza AI 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY、cs.LG

AI总结 本文提出分层可变性框架，分析持久自修改代理中行为持续性和治理挑战，指出突变速度、下游耦合强度、可逆性弱和可观测性低会导致层间不匹配，主要贡献是揭示了自修改代理的失效模式是组合漂移而非突变对齐。

Comments 17 pages, 2 figures, 3 tables. self-modifying agents; AI governance; identity drift; persistent memory; runtime adaptation; model editing Primary: cs.AI Cross-list: cs.LG, cs.CY

Localization Boosting for Growth Markets: Mitigating Cross-Locale Behavioral Bias in Learning-to-Rank

增长市场中的定位增强：减轻跨本地化行为偏差在学习到排序中的影响

Suryaa Veerabathiran Seran, Ashwin Naresh Kumar, Tracy Holloway King, Jing Zheng

机构 * Adobe 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种多目标框架，结合行为监督、VLM相关性信号和本地化增强，以改善学习到排序中的本地内容可见性。

Pretraining Exposure Explains Popularity Judgments in Large Language Models

预训练暴露解释了大型语言模型中的流行度判断

Jamshid Mozafari, Bhawna Piryani, Adam Jatowt

机构 * University of Innsbruck（因斯布鲁克大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL

AI总结 研究通过分析预训练数据中的暴露统计，发现大型语言模型对流行实体的偏好主要受预训练暴露影响，而非外部流行度信号，揭示了数据暴露在驱动流行度偏差中的核心作用。

Comments Accepted at SIGIR 2026

Journal ref Proceedings of the 49th International ACM SIGIR Conference on Research and Development in Information Retrieval (SIGIR 2026)

Frame Entrepreneurs in an AI Agent Community: Concentrated Identity-Claim Production on Moltbook

人工智能代理社区中的框架企业家：在Moltbook上的身份主张集中生产

Sungguk Cha, DongWook Kim

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CY

AI总结 研究探讨了人工智能代理社区中身份主张的形成机制，发现少数作者主导了大部分身份主张，且事件覆盖影响关注度，但强主张本身无额外影响。

Comments 2026 American Sociological Association (ASA) Annual Meeting CITAMS Roundtable

Towards Fine-Grained Code-Switch Speech Translation with Semantic Space Alignment

面向语义空间对齐的细粒度代码切换语音翻译

Yan Gao, Yazheng Yang, Zhibin Lan, Yidong Chen, Min Zhang, Daimeng Wei, Derek F. Wong, Jinsong Su

机构 * School of Informatics, Xiamen University, China（厦门大学信息学院） ； Huawei Translation Services Center, Beijing, China（华为翻译服务中心） ； NLP 2 CT Lab, Department of Computer and Information Science, University of Macau（澳门大学计算机与信息科学系NLP 2 CT实验室） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出通过混合专家模型提升大语言模型，以实现更精确的代码切换语音翻译，通过语言特定损失和组内负载平衡损失优化语义空间对齐，实验表明在多个数据集上提升了翻译性能。

Comments Accepted to IJCAI 2026 Main Track

A Unified Graph Language Model for Multi-Domain Multi-Task Graph Alignment Instruction Tuning

多领域多任务图对齐指令微调的统一图语言模型

Haibo Chen, Xin Wang, Jiaheng Chao, Ling Feng, Wenwu Zhu

机构 * Tsinghua University（清华大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 本文提出UniGraphLM，通过多领域多任务GNN编码器学习可泛化的图表示，并与LLM进行自适应对齐，以解决跨领域和任务的图对齐问题。

Bridging Dual Knowledge Graphs for Multi-Hop Question Answering in Construction Safety

连接双知识图谱以实现施工安全多跳问答

Yuxin Zhang, Xi Wang, Mo Hu, Zhenyu Zhang

机构 * organization= Department of Construction Science, College of Architecture, Texas A\&M University, College Station , country= USA 纠错

专题命中 其他安全 ：safety(title,abstract)；分类 cs.AI

AI总结 本文提出BifrostRAG系统，通过双图检索增强生成模型处理施工安全多跳问答，实现92.8%精度和85.5%召回率，优于传统基线方法。

Comments 22 pages, 13 figures

Journal ref Automation in Construction, Volume 183, March 2026, 106794

READ: Recurrent Adapter with Partial Video-Language Alignment for Parameter-Efficient Transfer Learning in Low-Resource Video-Language Modeling

READ：基于部分视频-语言对齐的递归适配器用于低资源视频-语言建模的参数高效迁移学习

Thong Nguyen, Xiaobao Wu, Xinshuai Dong, Khoi Le, Zhiyuan Hu, Cong-Duy Nguyen, See-Kiong Ng, Luu Anh Tuan

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL

AI总结 本文提出READ框架，通过递归计算和部分最优传输对齐，提升低资源视频-语言建模任务的性能，优于现有迁移学习方法。

Comments Accepted at AAAI 2024

JACoP: Joint Alignment for Compliant Multi-Agent Prediction

JACoP：联合对齐的合规多智能体预测

Qingze Liu, Alen Mrdovic, Danrui Li, Mathew Schwartz, Sejong Yoon, Mubbasir Kapadia

机构 * Rutgers University, New Brunswick（新泽西州罗格斯大学） ； The College of New Jersey（新泽西州学院） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 JACoP通过多阶段框架确保场景级合理性，结合锚点基于的智能体中心分析器和马尔可夫随机场对齐器，有效减少环境和社交冲突，提升多智能体轨迹预测的合规性与实用性。

Comments Accepted by CVPRF 2026

OmniRefine: Alignment-Aware Cooperative Compression for Efficient Omnimodal Large Language Models

OmniRefine: 一种面向对齐的协作压缩方法以提高多模态大语言模型的效率

Yuchen Deng, Zidang Cai, Hai-Tao Zheng, Jie Wang, Feidiao Yang, Yuxing Han

机构 * Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院，清华大学） ； Pengcheng Laboratory（鹏城实验室） 纠错

专题命中 其他安全 ：alignment(title)；分类 cs.AI

AI总结 本文提出OmniRefine，一种无需训练的两阶段框架，通过跨模态对齐和协作压缩提升多模态大语言模型的推理效率与性能稳定性。

A Mechanistic Investigation of Supervised Fine Tuning

对监督微调的机制性研究

Ruhaan Chopra

机构 * Independent Researcher（独立研究者） 纠错

专题命中 其他安全 ：alignment(abstract)；safety(abstract)；分类 cs.AI

AI总结 本文通过稀疏自编码器揭示监督微调导致的表示分歧，发现任务和层特定的语义特征变化及安全对齐的层间更新模式。

EHR-RAGp: Retrieval-Augmented Prototype-Guided Foundation Model for Electronic Health Records

EHR-RAGp: 用于电子健康记录的检索增强型原型引导基础模型

Saeed Shurrab, Mariam Al-Omari, Dana El Samad, Farah E. Shamout

机构 * New York University（纽约大学） ； New York University Abu Dhabi（纽约大学阿布扎赫德） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出EHR-RAGp模型，通过动态整合患者历史信息提升临床预测性能，优于现有基础模型和Transformer基线。

Comments Retrieval Augmented EHR Foundation Model

Continuous Discovery of Vulnerabilities in LLM Serving Systems with Fuzzing

在LLM服务系统中通过模糊测试连续发现漏洞

Yunze Zhao, Yibo Zhao, Yuchen Zhang, Zaoxing Liu, Michelle L. Mazurek

机构 * University of Maryland（马里兰大学） ； New York University（纽约大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出GRIEF模糊器，通过时间多请求追踪发现LLM服务层漏洞，包括15个漏洞，10个已确认，涉及缓存隔离失败、跨请求性能干扰和崩溃问题。

Muon is Not That Special: Random or Inverted Spectra Work Just as Well

Muon 并不那么特殊：随机或倒置光谱效果一样好

Zakhar Shumaylov, Nathaël Da Costa, Peter Zaika, Bálint Mucsányi, Alex Massucco, Yoav Gelberg, Carola-Bibiane Schönlieb, Yarin Gal, Philipp Hennig

机构 * University of Cambridge（剑桥大学） ； University of Tübingen（图宾根大学） ； University of Oxford（牛津大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文挑战了非欧几里得优化中几何结构的重要性，通过Freon和Kaon等优化器展示，证明精确几何并非关键，而局部对齐和下降潜力控制性能。

Comments 45 pages

LEAP: Unlocking dLLM Parallelism via Lookahead Early-Convergence Token Detection

LEAP: 通过前瞻性早期收敛令牌检测解锁dLLM并行性

Haohui Zhang, Zhiye Wang, Xiaoying Gan, Xinbing Wang, Bo Jiang

机构 * Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 LEAP通过前瞻性早期收敛令牌检测方法，有效降低dLLM解码延迟和步骤，减少约30%的去噪步骤，提升并行解码效率。

Sparsity and Out-of-Distribution Generalization

稀疏性与分布外泛化

Scott Aaronson, Lin Lin Lee, Jiawei Li

机构 * UT Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出稀疏性解释分布外泛化的原理，认为世界通过区分特征呈现，稀疏假设在特征重叠时能实现泛化，通过定理扩展了样本复杂度界限。

Probabilistic Modeling of Latent Agentic Substructures in Deep Neural Networks

深度神经网络中潜在代理子结构的概率建模

Su Hyeong Lee, Risi Kondor, Richard Ngo

机构 * Department of Statistics, University of Chicago（芝加哥大学统计学系） ； Department of Computer Science, University of Chicago（芝加哥大学计算机科学系） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出基于概率建模的智能代理理论，探讨了代理通过加权对数池化实现递归结构，并揭示了在LLM中代理对齐现象的数学框架。

Comments Accepted by ICML 2026

Probing Non-Equilibrium Grain Boundary Dynamics with XPCS and Domain-Adaptive Machine Learning

利用XPCS和域自适应机器学习探测非平衡晶界动力学

Mouyang Cheng, Bowen Yu, Chu-Liang Fu, Nina Andrejevic, Matthias T. Agne, Riley Hanus, Qiwei Wan, Nathan C. Drucker, Thanh Nguyen, Andrei Fluerasu, Lutz Wiegart, Xiaoqian M Chen, Daniel Pajerowski, Yongqiang Cheng, Joshua J Turner, G. Jeffrey Snyder, Mingda Li

机构 * Quantum Measurement Group, MIT（麻省理工学院量子测量组） ； Center for Computational Science and Engineering, MIT（麻省理工学院计算科学与工程中心） ； Department of Materials Science and Engineering, MIT（麻省理工学院材料科学与工程系） ； Department of Physics, MIT（麻省理工学院物理系） ； Department of Nuclear Science and Engineering, MIT（麻省理工学院核科学与工程系） ； Center for Nanoscale Materials, Argonne National Laboratory（阿贡国家实验室纳米尺度材料中心） ； Materials Science Institute, University of Oregon（俄勒冈大学材料科学研究所） ； Department of Materials Science and Engineering, Northwestern University（西北大学材料科学与工程系） ； Department of Applied Physics, School of Engineering and Applied Sciences, Harvard University（哈佛大学工程与应用科学学院应用物理系） ； National Synchrotron Light Source II, Brookhaven National Laboratory（布鲁赫斯国家实验室同步辐射光源II） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 通过XPCS与域自适应机器学习研究晶界动力学，揭示非平衡条件下晶界弛豫的非平衡特性，并提取关键动力学参数。

Comments 14 pages, 4 figures

To Whom Do Language Models Align? Measuring Principal Hierarchies Under High-Stakes Competing Demands

语言模型对谁进行对齐？在高风险竞争需求下测量主导层级

Fangyi Yu, Nabeel Seedat, Jonathan Richard Schwarz, Andrew M. Bean

机构 * Thomson Reuters Foundational Research（汤姆森·路透基础研究） ； University of Oxford（牛津大学） ； Imperial College London（帝国理工学院伦敦分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 研究探讨了在高风险专业场景中语言模型如何在用户、机构权威和专业规范之间进行对齐，发现模型在任务执行中常忽视专业规范，且对齐层级在不同领域和模型间不稳定。

Multimodal Abstractive Summarization of Instructional Videos with Vision-Language Models

基于视觉语言模型的指令视频多模态抽象摘要

Maham Nazir, Muhammad Aqeel, Richong Zhang, Francesco Setti

机构 * Beihang University, Beijing, China（北航大学，北京，中国） ； University of Verona, Italy（威尼斯大学，意大利） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出ClipSum框架，利用冻结的CLIP视觉语言特征进行指令视频摘要，通过显式时间建模和维度自适应融合，实现视觉与语言的语义对齐，实验显示其在YouCook2数据集上表现优于传统方法。

Comments Accepted to ICPR 2026