大模型对齐与安全

Fragility of Value under Imperfect Alignment

不完美对齐下价值的脆弱性

Winter Cross

专题命中 其他安全 ：alignment(title,abstract)；safety(abstract)；AI safety(abstract)；分类 cs.AI

AI总结 本文针对AI系统与人类价值对齐问题，建立模型明确人类价值函数与代理条件准确度的相关条件，凸显过度优化风险，提出采用quantilizers等限制优化压力的AI设计方案。

Comments 24 pages, 7 figures Added acknowledgement of funding

EndoVLM: An Endoscopy Vision-Language Pre-training Model via Anatomy-Guided Sparsity and Progressive Alignment

EndoVLM：一种通过解剖学引导的稀疏性与渐进式对齐实现的内窥镜视觉-语言预训练模型

Zhenyu Yi, Jianwei Xu, Yue Hu, Zhongwei Qiu, Sijing Li, Liang Huang, Bin Lv, Ling Zhang, Yingda Xia

机构 * DAMO Academy, Alibaba Group（阿里巴巴达摩院） ； The First Affiliated Hospital of Zhejiang Chinese Medical University（浙江中医药大学附属第一医院） ； Shanghai Jiao Tong University（上海交通大学） ； Hupan Lab（湖畔实验室） ； Zhejiang University（浙江大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出了EndoVLM这一内窥镜视觉-语言预训练模型，通过解剖学引导的稀疏池化、渐进式语义感知对齐等技术，在34.8万例内窥镜检查数据上预训练，其性能优于现有基础模型且具备零样本泛化能力。

Traceable LLM-Generated Hazard Scenarios for Operational Safety Analysis of Aviation Systems Using ASRS Reports

基于ASRS报告的可追踪LLM生成航空系统运行安全分析危险场景

Cristian Mascia, Roberto Pietrantuono, Daniel Rodriguez, Stefano Russo

专题命中 其他安全 ：safety(title,abstract)；分类 cs.AI

AI总结 该研究针对航空系统运行安全分析，提出AI辅助方法结合ASRS报告，用LLM生成可追踪危险场景，通过进化溯因优化混合变体，经评估验证了模型与提示对生成场景有效性的影响。

Contrastive Diffusion Alignment: Learning Structured Latents for Controllable Generation

对比扩散对齐：用于可控生成的结构化潜在学习

Ruchi Sandilya, Sumaira Perez, Charles Lynch, Lindsay Victoria, Benjamin Zebley, Derrick Matthew Buchanan, Mahendra T. Bhati, Nolan Williams, Timothy J. Spellman, Faith M. Gunning, Conor Liston, Logan Grosenick

机构 * Department of Psychiatry, Weill Cornell Medicine, New York, NY, USA（威立·科林斯医学中心精神科） ； Department of Psychiatry, Stanford University, Stanford, CA, USA（斯坦福大学精神科） ； Department of Neuroscience, University of Connecticut School of Medicine, Farmington, CT, USA（康涅狄格大学医学院神经科学系） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG

AI总结 ConDA通过对比学习在扩散模型中学习结构化潜在空间，实现可控生成和动态解释。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026)

Journal ref Proceedings of the 43rd International Conference on Machine Learning, PMLR 306, 2026

Long-term Measurements: Towards a Longitudinal Understanding of Human-AI Interactions

长期测量：迈向对人机交互的纵向理解

Nicole Mitchell, Dhruv Agarwal, Maty Bohacek, Remi Denton, Roma Patel

机构 * Google Research（谷歌研究院） ； Cornell University（康奈尔大学） ； Stanford University（斯坦福大学） ； Google DeepMind（谷歌DeepMind） 纠错

专题命中 其他安全 ：alignment(abstract)；safety(abstract)；分类 cs.AI

AI总结 本研究针对语言模型融入生活引发的长期人机交互风险，结合社会科学测量与NLP计算方法，提出通过长期测量建模人类行为变化，实现问题行为在线检测以缓解用户长期风险。

Reasoning Dynamics and the Limits of Monitoring Modality Reliance in Vision-Language Models

推理动态与监控模态依赖性的局限性

Danae Sánchez Villegas, Samuel Lewis-Lim, Nikolaos Aletras, Desmond Elliott

机构 * University of Copenhagen, Department of Computer Science（哥本哈根大学计算机科学系） ； University of Sheffield, School of Computer Science（谢菲尔德大学计算机科学学院） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究分析18种VLM的推理动态，发现模型易受早期预测影响，推理训练模型在模态条件下表现出更强的纠正行为，但其效果依赖于模态条件，且CoT的可检测性因模型而异。

Comments Accepted for publication in COLM 2026

SpecDrop: Parameter-Free Category-Conditioned Routing for Modular Specialization

SpecDrop：无参数类别条件路由的模块化专业化方法

Boyao Wang, Zhihan Lei

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出无参数类别条件路由方法SpecDrop，在视觉任务上性能优于参数匹配基线，表明路由的有效性取决于训练信号粒度与类别的对齐而非路由算法。

Comments 35 pages, 6 figures. Code: https://github.com/Beryex/SpecDrop

Diagnosing Tool-Selection Reasoning in LLM Agents with Canary Tools

用金丝雀工具诊断大语言模型智能体的工具选择推理

Atul Anand, Sourav Chattaraj

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 本研究引入金丝雀工具诊断LLM智能体的工具选择推理，通过多维度分类法评估8个模型，发现模型能力提升会降低易感性，分类法具能力分层性，且发布了相关框架与数据。

Comments 10 pages, 9 figures, 5 tables

LLMs Struggle to Measure What Distinguishes Students of Different Proficiency Levels: A Study of Item Discrimination in Reading Comprehension Assessment

LLMs难以衡量区分不同水平学生的题目：阅读理解评估中题目区分度研究

Han Chen, Ming Li, Chenguang Wang, Yijun Liang, Dawei Zhou, Hong jiao, Tianyi Zhou

机构 * MBZUAI（穆罕默德·本·扎耶德人工智能大学） ； University of Maryland（马里兰大学） ； Virginia Tech（弗吉尼亚理工大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 本研究评估42个LLM在零样本设置下预测题目区分度的能力，发现直接预测与人类校准的区分度相关性弱（最高Spearman 0.152），基于CTT的响应校准相关性有限（0.241），表明LLM尚不能可靠捕捉题目区分度。

AI Assistance Reduces Persistence and Hurts Independent Performance

人工智能辅助降低坚持性并损害独立表现

Grace Liu, Brian Christian, Tsvetomira Dumbalska, Michiel A. Bakker, Rachit Dubey

机构 * Carnegie Mellon University（卡内基梅隆大学） ； University of Oxford（牛津大学） ； Massachusetts Institute of Technology（麻省理工学院） ； University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 研究发现人工智能辅助虽短期提升表现，但降低用户坚持性并损害独立完成任务的能力，尤其在数学推理和阅读理解等任务中表现显著。

Learning to Diagnose and Correct Moral Errors: Beyond Shallow Heuristics in Moral Alignment

学习诊断和纠正错误：大型语言模型中的道德敏感性获取

Bocheng Chen, Xi Chen, Han Zi, Haitao Mao, Zimo Qi, Xitong Zhang, Kristen Johnson, Guangliang Liu

机构 * University of Mississippi（密西根州立大学） ； Nanyang Technological University（南洋理工大学） ； Northeastern University（东北大学） ； AWS AI Labs（AWS AI实验室） ； Johns Hopkins University（约翰霍普金斯大学） ； Qualcomm（高通） ； Michigan State University（密西根州立大学） ； Indiana University Indianapolis（印第安纳大学印第安纳波利斯分校） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL

AI总结 提出一种实用推理方法，通过让大型语言模型诊断和纠正道德错误来获取道德敏感性，并在多个任务上验证了其有效性。

Physics-informed Machine Learning for Battery Pack Thermal Management

基于物理的机器学习用于电池组热管理

Zheng Liu, Yuan Jiang, Yumeng Li, Pingfeng Wang

专题命中 其他安全 ：safety(abstract)；分类 cs.LG

AI总结 本文提出了一种基于物理的机器学习方法，用于更高效地估计电池组温度分布，相比传统数据驱动方法提升了15%的准确性。

Corrigibility Transformation: Constructing Goals That Accept Updates

可修正性转换：构建接受更新的目标

Rubi Hudson

机构 * University of Toronto（多伦多大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 该研究提出一种可修正性转换方法，可在不牺牲性能的情况下将几乎任何目标转换为可修正版本，能诱导AI产生可修正行为，为AI安全提供了关键的可修正目标方案。

DAC-Pose: Dual-Agent Collaborative Framework for Pose-Guided Human Generation

DAC-Pose：用于姿态引导人体生成的双智能体协作框架

Haotian Yang, Zhile Yang, Huiyu Zhou, Xin Sun

机构 * Faculty of Data Science, City University of Macau（澳门城市大学数据科学学院） ； Shenzhen University of Advanced Technology（深圳理工大学） ； Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院） ； School of Computing and Mathematical Sciences, University of Leicester（莱斯特大学计算与数学科学学院） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 针对姿态引导人体生成在剧烈视角变化下的视觉伪影问题，提出双智能体协作框架DAC-Pose，通过PSR与DAVE智能体的反馈循环实现高保真合成，在DeepFashion和Market-1501基准上验证了其优越性。

Comments Code is available at DAC-Pose" target="_blank" rel="noopener">https://github.com/AIVRC/DAC-Pose

Not All Redundant Tokens Are Alike: Analyzing Visual Token Pruning through Token Roles

并非所有冗余视觉标记都相同：通过标记角色分析视觉标记剪枝

Hyeonyu Kim, Sehwan Lim, Youngwon Choi, Taeyoun Kwon, Jaejin Kim

机构 * Maum AI Inc.（Maum AI公司） 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 本研究针对视觉-语言模型（VLMs）的视觉标记剪枝问题，通过EmbedLens分析标记角色，发现代表性剪枝方法存在标记角色偏差但与下游性能无直接关联，优化角色分配后表明保留非活跃标记可维持或提升性能，为剪枝方法优化提供了新视角。

Comments Accepted to ECCV 2026 workshop, UniWorld

Responsibility in Multi-Agent Sequential Decision-Making: Comparing Human Judgments to Formal Models of Causal Attribution

多智能体序贯决策中的责任归属：人类判断与因果归因形式模型的比较

Nripsuta Ani Saxena, Stelios Triantafyllou, Goran Radanović

专题命中 其他安全 ：alignment(abstract)

AI总结 本研究对比了多智能体序贯决策中责任归因的形式模型与人类判断的契合度，通过大规模调查和Goofspiel实验识别出影响人类责任判断的关键因素。

Introducing Large Language Models into the Design Flow of Time-Sensitive Networking

将大语言模型引入时间敏感网络的设计流程

Rubi Debnath, Luxi Zhao, Mohammadreza Barzegaran, Paul Pop, Sebastian Steinhorst

专题命中 其他安全 ：safety(abstract)

AI总结 针对配置优化TSN网络的挑战，通过跨模型案例研究评估现有大语言模型能力，提出LLM辅助编排框架，介绍构建模块与管道，分析实际部署机会与局限，为评估LLM辅助TSN编排可行性提供路线图。