大模型对齐与安全

Fragility of Value under Imperfect Alignment

不完美对齐下价值的脆弱性

Winter Cross

专题命中 其他安全 ：alignment(title,abstract)；safety(abstract)；AI safety(abstract)；分类 cs.AI

AI总结 本文针对AI系统与人类价值对齐问题，建立模型明确人类价值函数与代理条件准确度的相关条件，凸显过度优化风险，提出采用quantilizers等限制优化压力的AI设计方案。

Comments 25 pages, 7 figures. Expanded the contribution statements and added three researchers as coauthors. Made small text improvements

Formal Safety Verification for Nonlinear Systems with Generative Barrier Certificate

基于生成式障碍证书的非线性系统形式化安全验证

Mengxin Ren, Hanrui Zhao

专题命中 其他安全 ：safety(title,abstract)

AI总结 该研究针对非线性系统安全验证中障碍证书推导计算成本高的问题，提出基于大语言模型的生成式框架，将BMI问题转化为LMI测试，实现了远超传统方法的速度与性能提升。

CLARA: Clip-Level Multimodal Alignment with VLM-Derived Rationales for Hateful Video Detection

CLARA：基于VLM衍生理由的片段级多模态对齐用于仇恨视频检测

Yuchen Zhang, Shuang Dai, Zeyu Fu, Yunfei Long, Ravi Shekhar, Haralambos Mouratidis

机构 * Institute for Analytics and Data Science, University of Essex（埃塞克斯大学分析与数据科学研究所） ； University of Exeter（埃克塞特大学） ； Queen Mary University of London（伦敦大学玛丽皇后学院） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本研究提出CLARA框架，以片段级多模态对齐结合VLM衍生理由，在三个仇恨视频数据集上实现了优于现有最优方法的仇恨视频检测性能。

From Inference to Adaptation: A Unified Optimal Transport View of Vision Language Model

从推理到适应：视觉语言模型的统一最优传输视角

Qi Yu, Zhichen Zeng, Katherine Tieu, Xiyuan Yang, Ruizhong Qiu, Yuchen Yan, Lihui Liu, Yanjun Zhao, Lingjie Chen, Jingrui He, Hanghang Tong

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Amazon（亚马逊公司） ； Wayne State University（韦恩州立大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本研究提出名为algname的VLM测试时适应方法，通过Wasserstein最优传输统一VLM的推理与适应目标，实验显示其性能较最优方法提升7%且效率先进。

EgoCITE: Context-Augmented Indexing and Time-Aware Retrieval for Long-Horizon Egocentric Memory

EgoCITE：面向长时程自我中心记忆的上下文增强索引与时序感知检索

Le Zhang, Hao Chen, Vlad Roznyatovskiy, Jianzhong Zhang, Ke Sun

机构 * University of Michigan（密歇根大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本研究针对长时程自我中心记忆系统的索引不可靠、忽略时序意图的问题，提出EgoCITE框架，经多数据集评估，其准确率优于基线且成本显著低于长上下文LLM智能体。

Learned, Then Lost: A Measured Single-Example Counterfactual in Pre-training

学习后遗忘：预训练中单示例反事实的测量

Zachary Speck, Asa Shepard

机构 * Arizona State University（亚利桑那州立大学） ； Williams College（威廉姆斯学院） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.LG

AI总结 本研究通过对32个GPT-2模型的小规模预训练反事实实验，测量单示例注入对模型的短期影响，发现该影响会在训练后期衰减，且未检测到长期显著差异。

FACET: Preserving Source Intent and Executable State in Terminal Task Synthesis

FACET：在终端任务合成中保留源意图与可执行状态

Kou Shi, Zun Wang, Qisheng Su, Shiting Huang, Ziao Zhang, Zhen Fang, Qingnan Ren, Jin Liu, Yu Zeng, Yiming Zhao, Lin Chen, Zehui Chen, Feng Zhao

机构 * Shanghai AI Laboratory（上海人工智能实验室） ； Fudan University（复旦大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 FACET是保留源意图与可执行状态的终端任务合成框架，可生成高质量任务并提升Terminal-Bench 2.1上的智能体微调性能，为任务合成提供关键原则。

Comments this https URL (https://stokou.github.io/FACET-Terminal/)

RDFdL: Integrating RDF with Differential Dynamic Logic

RDFdL：将RDF与微分动态逻辑（Differential Dynamic Logic）集成

Yuyang Li, Lukas Kubelka, Julia Butte, Tobias Käfer

机构 * Institute AIFB, Karlsruhe Institute of Technology (KIT)（卡尔斯鲁厄理工学院AIFB研究所） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 针对RDF知识图谱无法推理物理系统动态行为的问题，提出将RDF与微分动态逻辑集成的RDFdL框架，实现静态与动态知识的统一表示推理，可用于制造业相关场景。

Comments Preprint

Reducing Technician Search Burden: A Multimodal RAG for Cessna 172 Maintenance Manual

减轻技术人员的检索负担：面向赛斯纳172维护手册的多模态检索增强生成

Seongjun Ha, Md Rashedul Islam, Gaurav Nanda, Damon Lercel

专题命中 其他安全 ：safety(abstract)

AI总结 本研究针对赛斯纳172维护手册，开发多模态检索增强生成流程，其多模态手册检索器召回率达93.37%，生成响应与基准答案语义相似度87.20%，可减轻技术人员检索负担。

Model Predictive Supervisory Control for Hierarchical and Distributed UAS Traffic Management

面向分层分布式无人机交通管理的模型预测监督控制

Matheus P. Loures, Guilherme V. Raffo, Patrícia N. Pena

专题命中 其他安全 ：safety(abstract)

AI总结 本研究提出分层模型预测监督控制（MPSC）框架，结合滚动时域最优控制与监督控制理论保障安全等特性，开发城市UTM模型，实现时变需求下取送任务的高效支持。

Comments 6 pages, 7 figures, IFAC conference

CustomDance: Customized 3D Dance Generation with Coarse-to-Fine Human-Centered Interactive Control

CustomDance：基于以人为中心的粗到细交互式控制的定制化3D舞蹈生成

Xulong Tang, Kaixing Yang, Xiaohu Guo, Prabhakaran Balakrishnan, Rawan Alghofaili

专题命中 其他安全 ：alignment(abstract)

AI总结 CustomDance是基于粗到细交互式控制的定制化3D舞蹈生成系统，通过三阶段流程实现AI辅助编舞，在定量和定性比较中优于基线，为用户提供全面控制。

Comments Accepted to SIGGRAPH Asia 2026

On the characterization of constrained correlated equilibria in Markov games

马尔可夫博弈中约束关联均衡的表征与存在性

Tingting Ni, Anna Maddux, Maryam Kamgarpour

专题命中 其他安全 ：safety(abstract)

AI总结 本文形式化并刻画了马尔可夫博弈中约束关联均衡的概念，证明了在耦合约束下此类均衡的存在性。