大模型对齐与安全

ScopeJudge: Cost-Aware Pre-Execution Gating for Offensive Security Agents

ScopeJudge：用于进攻性安全代理的成本感知预执行门控

Shane Caldwell, Max Harley, Ads Dawson, Michael Kouremetis, Vincent Abruzzo, Will Pearce

专题命中 安全训练 ：safety(abstract)

AI总结 研究进攻性安全代理中预执行门控，引入ScopeJudge数据集，含4897个工具调用。评估八个法官模型在五种转录策略下表现，发现静态策略不足，推荐成本敏感和召回优先操作点，以支持自主安全代理的实时监控和可扩展监督。

Comments 22 pages, 4 figures, 4 tables, 1 link to code, 1 link to dataset

Shepherding UAV Swarm with Action Prediction Based on Movement Constraints

通过基于运动约束的动作预测来引导无人机群

Yusuke Tsunoda, Yusuke Goto, Takao Sato

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出了一种基于动态窗口方法的三维引导控制律，通过预测自主无人机群的行为来提高引导效率，考虑了运动约束下的可行运动候选生成和评估。

Distributed primal-dual algorithm for constrained multi-agent reinforcement learning under coupled policies

耦合策略下约束多智能体强化学习的分布式原始对偶算法

Pengcheng Dai, He Wang, Dongming Wang, Wenwu Yu

专题命中 安全训练 ：safety(abstract)

AI总结 研究耦合环境下的约束多智能体强化学习，针对现有方法不足，提出智能体采用依赖邻居状态和参数的耦合策略及分布式可扩展原始对偶算法，证明算法收敛性，仿真验证其优于现有算法。

Can Vision-Language Models Reason about AI Edits in Images?

视觉-语言模型能否对图像中的AI编辑进行推理？

Darsha Udayanga, Pin-Yu Chen, Payel Das, Qiang Ji

机构 * Rensselaer Polytechnic Institute（伦斯勒理工学院） ； IBM Research（IBM研究院） 纠错

专题命中 安全训练 ：trustworthy(abstract)

AI总结 本研究探究能否用强化学习而非显式推理监督训练视觉-语言模型推理AI图像编辑，提出基于GRPO的框架，引入eff-IoU指标，在多数据集上实现与SOTA相当的检测定位性能。

LASAR: Latent Adaptive Semantic Aligned Reasoning for Generative Recommendation

LASAR：潜在自适应语义对齐推理用于生成推荐

Yiwen Chen, Fuwei Zhang, Zehao Chen, Hehan Li, Peizhi Xu, Hanmeng Liu, Shuanglong Li, Xin Pei, Fuzhen Zhuang, Zhao Zhang

专题命中 安全训练 ：alignment(abstract)

AI总结 LASAR通过自适应语义对齐推理提升生成推荐性能，解决潜在推理与语义对齐的挑战，实现更高效的推荐质量与速度。

Compact Task-Aligned Imitation Learning for Laboratory Automation

紧凑的任务对齐模仿学习用于实验室自动化

Kanata Suzuki, Hanon Nakamura, Kana Miyamoto, Tetsuya Ogata

机构 * Spatial Robotics Research Center, Fujitsu Limited.（富士通株式会社空间机器人研究中心） ； Faculty of Science and Engineering, Waseda University（早稻田大学理工学部） ； National Institute of Advanced Industrial Science and Technology（国家工业科学与技术研究院） 纠错

专题命中 安全训练 ：alignment(abstract)

AI总结 本文提出了一种紧凑的模仿学习框架，通过小基础模型和扩散变换器专家实现高效实验室自动化，实验显示其在三个任务中的高成功率。

Towards a Systems Foundation for Agentic Cloud Management

迈向智能云管理的系统基础

Minghao Li, Ziqian Liu, Ziyu Mao, Daqian Ding, Yu Kang, Qingwei Lin, Tianyin Xu, Yiming Qiu

专题命中 安全训练 ：safety(abstract)

AI总结 研究智能云管理中缺少系统基础的问题，核心方法是开发CloudWeaver智能管理基础架构，贡献在于能跨界面管理，确定会话上下文、协调并发操作，提供安全保证和可追溯反馈，经Azure API工作负载验证。

Cooperative Multi-UAV Navigation in Complex Environments via Systematic Multi-Agent Deep Reinforcement Learning

通过系统多智能体深度强化学习实现复杂环境下的多无人机协同导航

Yu Su, Nabil Aouf

专题命中 安全训练 ：safety(abstract)

AI总结 针对复杂环境下多无人机协同导航面临的问题，提出多智能体深度强化学习框架，通过协同探索等方法解决，含感知、示范缓冲区和课程调度机制，能抽象特征实现跨场景转移，经仿真验证有良好性能。

Comments 13 pages, 7 figures

Separating Clicks from Baits: Using Large Language Models to Detect Misleading YouTube Thumbnails

从诱饵中分离点击：使用大语言模型检测误导性的YouTube缩略图

Wajiha Naveed, Muhammad Muneeb Pervez, Zaeem Mohtashim Khan, Zafar Ayyub Qazi, Zartash Afzal Uzmi

专题命中 安全训练 ：trustworthy(abstract)

AI总结 研究针对YouTube等平台误导性缩略图问题，提出用大语言模型的多模态检测管道，构建数据集并评估多个模型，发现Claude 3.5 Sonnet性能突出，通过失败分析为视频平台发展提供方向。

Comments Accepted to the 21st International AAAI Conference on Web and Social Media (ICWSM 2027)

Journal ref Proceedings of the International AAAI Conference on Web and Social Media, 2027

The Gate Always Closes: On Injecting Auxiliary Signals into Frozen Vision-Language Models

门总是关闭：关于向冻结的视觉语言模型注入辅助信号

Moshiur Farazi, Sameera Ramasinghe, Bekir Sait Ciftler, Mahbub Ahmed Turza, Shafin Rahman

机构 * University of Doha for Science and Technology（多哈科技大学） ； Pluralis Research（普卢拉利斯研究公司） ； North South University（南北大学） 纠错

专题命中 安全训练 ：alignment(abstract)

AI总结 研究视觉语言模型中辅助信号注入问题，发现优化器常使门控路径关闭。利用抑制现象，通过双曲视觉关系图的几何辅助损失正则化LoRA微调，实验表明该方法能保持关系准确率，还指出嵌入范数对齐及固定注入的必要性。

ARBITER: Guarded Agentic Control for SLO-Oriented Kubernetes Remediation

ARBITER：面向服务水平目标的Kubernetes修复的受保护代理控制

Pooyan Habibi, Alberto Leon-Garcia

专题命中 安全训练 ：safety(abstract)

AI总结 研究在Kubernetes微服务上维护SLO的难题，提出ARBITER受保护控制平面，构建因果资源图等，分离规划与执行，支持多种规划方式。通过实验评估其在选择修复操作和下游目标等方面的效果，展示了优于HPA/仅资源控制的性能。

SAGE: A Socially-Aware Generative Engine for Heterogeneous Multi-Agent Navigation

SAGE：用于异构多智能体导航的社会感知生成引擎

Lan Hu, Minghui Liwang, Wenbo Zhu, Xinlei Yi, Yiguang Hong, Xianbin Wang, Zhenzhen Jiao, Seyyedali Hosseinalipour

机构 * Guohao School, Tongji University（同济大学国豪书院） ； Shanghai Research Institute for Intelligent Autonomous Systems（上海智能无人系统科学中心） ； Tongji University（同济大学） ； Western University（西安大略大学） ； Aeromind Technology Co., Ltd.（深圳智元科技有限公司） ； University at Buffalo-SUNY（纽约州立大学布法罗分校） 纠错

专题命中 安全训练 ：safety(abstract)

AI总结 针对开放人机环境中异构多智能体导航问题，提出SAGE，通过有向异构图和异构图变换器编码交互，扩散生成模块建模轨迹，无训练安全-社会能量引导机制优化轨迹，实验验证其有效性及可扩展性。

Comments 16 pages, 5 figures, and 14 tables. Includes supplementary experimental details

Token-Wise Latent Streaming from Slow Reasoners to Fast Planners for Dynamic Vision Language Navigation

用于动态视觉语言导航的从慢速推理器到快速规划器的逐令牌潜在流

Tianshuai Hu, Yangyi Zhong, Zeying Gong, Lingdong Kong, Xiaodong Mei, Guoyang Zhao, Xiaolu Liu, Song Wang, Rong Li, Junwei Liang

机构 * The Hong Kong University of Science and Technology（香港科技大学） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； National University of Singapore（新加坡国立大学） ； Zhejiang University（浙江大学） 纠错

专题命中 安全训练 ：safety(abstract)

AI总结 针对动态视觉语言导航中语言推理慢与规划需即时的矛盾，提出SPARK-VLN双系统框架，通过三个模块将慢速VLM推理器知识流到快速规划器，引入新基准套件，提高了导航成功率、社会合规性及推理效率。

AI-Augmented Model Predictive Control for Safe and Adaptive Rendezvous and Proximity Operations

用于安全和自适应交会及接近操作的人工智能增强模型预测控制

Luca Sportelli, Tyler Barr, Cagri Kilic, Di Wu

机构 * Embry–Riddle Aeronautical University（安柏瑞德航空航天大学） 纠错

专题命中 安全训练 ：safety(abstract)

AI总结 研究多智能体对抗场景下航天器自主交会及接近操作问题，提出结合约束滚动时域MPC与数据驱动监督调整层的框架，经蒙特卡罗模拟评估，该框架相比固定参数MPC有更好性能，为自适应航天器RPO提供模块化、可解释基础。

Comments 34 pages, 7 figures

Precision positioning in free-space optical communication systems via PID control tuned by RL

基于强化学习调谐PID控制的自由空间光通信系统精确位置控制

K. Prikhodko, S. Kuznetsov, S. Vorobey, A. Katanskiy, V. Balakirev, A. Reutov

专题命中 安全训练 ：alignment(abstract)

AI总结 研究自由空间光通信系统中光学组件精确位置控制问题，采用深度确定性策略梯度（DDPG）智能体调谐PID控制器，经实验表明其在动态定位任务中有潜力，不同目标轨迹下效果有差异，需多模式优化。

Ground-Side Mission Plan Compilation with Policy-as-Code Guardrails for Cloud-Native Satellite Platforms

用于云原生卫星平台的基于代码即政策护栏的地面任务计划编译

Hsiu-Chi Tsai, Chia-Tung Chung

专题命中 安全训练 ：safety(abstract)

AI总结 研究针对卫星云原生运行时缺少地面开源工具链的问题，提出卫星任务编译器这一四阶段管道，能依据规则检查并编译任务计划为相关工件，经多种方式验证，还向AI代理暴露管道，有相关工具及发布协议。

Comments 13 pages. Extended version of the paper accepted at IEEE SMC-IT/SCC 2026 (Space Mission Challenges for Information Technology / Space Computing Conference); adds a unified GPU+CPU DRA quota and a scheduler-level accelerator fallback re-validated on Kueue v0.18.3

ThinkBLOX: 3D Indoor Scene Generation with Progressive Reasoning

ThinkBLOX：基于渐进推理的3D室内场景生成

Yuan Xiao, Can Wang, Xiangyu Kong, Jing Liao

机构 * City University of Hong Kong（香港城市大学） ； University of Hong Kong（香港大学） ； Beijing Information Science and Technology University（北京信息科技大学） 纠错

专题命中 安全训练 ：alignment(abstract)

AI总结 研究针对传统与现有3D室内场景生成方法不足，提出基于VLM的渐进推理框架ThinkBLOX，构建数据集并采用监督微调与新强化学习方案，在多方面优于基线，支持多样3D场景应用。

Comments 20 pages

Which Neurons Detect Malicious Code? A Probing Study of LLM Security Knowledge

哪些神经元能检测恶意代码？对大语言模型安全知识的探索性研究

Lam D. Dao, Vang T. Nguyen, Anh M. T. Bui, Phuong T. Nguyen

专题命中 安全训练 ：alignment(abstract)

AI总结 研究探索大语言模型中检测恶意代码的神经元，应用机械可解释性方法定位相关神经元，通过对恶意和良性PyPI包实验发现放大促进神经元、抑制抑制神经元可提升准确率，有助于了解模型编码恶意概念方式，为可靠防御机制提供思路。

Comments The paper has been peer reviewed and accepted for publication in the 20th International Symposium on Empirical Software Engineering and Measurement (ESEM 2026)

VGGRPO: Towards World-Consistent Video Generation with 4D Latent Reward

VGGRPO：迈向世界一致的视频生成的4D潜在奖励

Zhaochong An, Orest Kupyn, Théo Uscidda, Andrea Colaco, Karan Ahuja, Serge Belongie, Mar Gonzalez-Franco, Marta Tintore Gazulla

机构 * Google（谷歌） ； University of Oxford（牛津大学） ； CREST-ENSAE, Institut Polytechnique de Paris（巴黎综合理工学院CREST-ENSAE） ； University of Copenhagen（哥本哈根大学） 纠错

专题命中 安全训练 ：alignment(abstract)

AI总结 VGGRPO通过引入4D潜在几何模型和组相对策略优化，提升视频生成的几何一致性与稳定性，避免VAE解码的高计算开销。

Comments Accepted at ECCV 2026. Project Page: https://zhaochongan.github.io/projects/VGGRPO

SanDRA: Safe Large-Language-Model-Based Decision Making for Automated Vehicles Using Reachability Analysis

SanDRA：基于可达性分析的自动驾驶车辆安全大语言模型决策

Yuanfei Lin, Sebastian Illing, Matthias Althoff

机构 * Department of Computer Engineering, Technical University of Munich（计算机工程系，慕尼黑技术大学） ； Munich Center for Machine Learning（慕尼黑机器学习中心） 纠错

专题命中 安全训练 ：safety(abstract)

AI总结 针对大语言模型用于自动驾驶决策时安全性无法保证的问题，提出SanDRA框架，先描述驾驶场景促使模型生成排序动作，转化为时序逻辑公式并结合可达性分析消除不安全动作，经实验验证能提供安全合规驾驶动作，代码和实验设置公开。

Comments @2026 IEEE. Personal use of this material is permitted. Permission from IEEE must be obtained for all other uses, in any current or future media, including reprinting/republishing this material for advertising or promotional purposes, creating new collective works, for resale or redistribution to servers or lists, or reuse of any copyrighted component of this work in other works

Journal ref T-ITS, 2026

Self-navigation in crowds: An invariant set-based approach

人群中的自主导航：基于不变集的方法

Veejay Karthik J, Leena Vachhani

机构 * Indian Institute of Technology Bombay（印度理工学院班加罗尔） 纠错

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出了一种基于不变集的自主导航方法，通过输入受限反馈控制器和规划策略，实现非协调拥挤环境中安全快速的多智能体导航。

OmniOPSD: Rationale-Privileged On-Policy Self-Distillation for Affective Computing

OmniOPSD：面向情感计算的理性特权在线自蒸馏

Zebang Cheng, Shuimu Chen, Boxue Yang, Yuanshen Guan, Jingyi Chen, Zheng Lian, Xiaojiang Peng, Fei Ma, LaiZhong Cui, Qi Tian

机构 * Shenzhen University（深圳大学） ； Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ)（广东省人工智能与数字经济实验室（深圳）） ； Tsinghua University（清华大学） ； Shanghai Jiao Tong University（上海交通大学） ； University of Science and Technology of China（中国科学技术大学） ； Shenzhen Technology University（深圳技术大学） ； Tongji University（同济大学） ； Huawei（华为） 纠错

专题命中 安全训练 ：safety(abstract)

AI总结 针对多模态大模型在复杂推理任务中奖励稀疏的问题，提出OmniOPSD框架，利用前沿模型生成的理性作为教师特权证据而非学生模仿目标，通过在线自蒸馏提供密集令牌级监督，在MER-UniBench上取得84.19平均分的最优性能。

UNIPO: Unified Interactive Visual Explanation for RL Fine-Tuning Policy Optimization

UNIPO：统一的交互式可视化用于RL微调策略优化

Aeree Cho, Alexander D. Greenhalgh, Jonathan Bodea, Anthony Peng, Duen Horng Chau

专题命中 安全训练 ：alignment(abstract)

AI总结 UNIPO通过统一设计揭示RL微调算法的token级训练动态，提供高阶训练概述、步骤级提示响应检查器和算法对比视图，支持非专家教学和AI从业者算法选择。

When to Match: A Cost-Balancing Principle for Dynamic Markets

何时匹配：动态市场的成本平衡原则

Jie Liu, Hailun Zhang, Jiheng Zhang

专题命中 安全训练 ：safety(abstract)

AI总结 研究动态市场中平台何时匹配的问题，提出成本平衡（CB）规则，在无需预测的情况下，能根据等待成本与当前匹配成本比例决定匹配时机，相比行业标准有成本和延迟优势，是简单高效且最坏情况最优策略。

EgoVerse: An Egocentric Human Dataset for Robot Learning from Around the World

EgoVerse：一个用于机器人学习的视点人类数据集

Ryan Punamiya, Simar Kareer, Zeyi Liu, Josh Citron, Ri-Zhao Qiu, Xiongyi Cai, Alexey Gavryushin, Jiaqi Chen, Davide Liconti, Lawrence Y. Zhu, Patcharapong Aphiwetsa, Baoyu Li, Aniketh Cheluva, Pranav Kuppili, Yangcen Liu, Dhruv Patel, Aidan Gao, Hye-Young Chung, Ryan Co, Renee Zbizika, Jeff Liu, Xiaomeng Xu, Haoyu Xiong, Geng Chen, Sebastiano Oliani, Wenkai Xuan, Chenyu Yang, Xi Wang, James Fort, Richard Newcombe, Josh Gao, Jason Chong, Garrett Matsuda, Aseem Doriwala, Marc Pollefeys, Robert Katzschmann, Xiaolong Wang, Shuran Song, Judy Hoffman, Danfei Xu

机构 * Georgia Institute of Technology（佐治亚理工学院） ； Stanford University（斯坦福大学） ； University of California San Diego（加州大学圣地亚哥分校） ； ETH Zürich（苏黎世联邦理工学院） ； MIT CSAIL（麻省理工学院计算机科学与人工智能实验室） ； Meta Reality Labs Research（Meta现实实验室） ； Mecka AI ； Scale AI 纠错

专题命中 安全训练 ：alignment(abstract)

AI总结 EgoVerse通过统一的数据收集、处理和访问框架，提供丰富的人类操作行为数据，促进机器人学习，并通过大规模研究验证了人类数据与机器人学习目标的一致性对性能的影响。

Trajectory-Anchor Optimization for Overconfident Thermal Visual Place Recognition: Zero-Leakage OOD Auditing and Kidnapped-Robot Recovery

用于过度自信的热视觉场所识别的轨迹锚点优化：零泄漏异常检测与绑架机器人恢复

Zhiyuan Lu, Kanji Tanaka

专题命中 安全训练 ：alignment(abstract)

AI总结 研究针对基于基础模型的热视觉场所识别前端在分布外或未映射条件下的过度自信强制匹配失败问题，提出轨迹锚点优化（TAO），通过压缩多视图时间验证解决组合挑战，实现高效故障安全过滤。

Comments 11 pages, 5 figures, technical report

Neuro-Symbolic Reasoning for Vulnerability Detection

用于漏洞检测的神经符号推理

Yanjie Zhao, Hongjie Chen, Li Lu, Zhou Yang, Xiao Cheng, Haoyu Wang

专题命中 安全训练 ：safety(abstract)

AI总结 研究基于大语言模型的漏洞检测不可靠性，提出神经符号框架LeanGuard，通过将代码解释与安全义务判定分离，神经侧过滤事实，符号侧形式验证，证据感知裁决器权衡结果，在五个CWE类上实例化框架。

When Not to Write Memory: Governing False Promotion from Correlated Agent Traces

何时不写入内存：管理来自相关代理痕迹的错误推广

Yijiashun Qi, Xiang Xu, Yuxuan Li

专题命中 安全训练 ：safety(abstract)

AI总结 研究语言代理从执行痕迹写入可复用内存时何时应拒绝写入的问题，引入GovMem策略，通过估计依赖感知支持等进行决策，在测试中能减少错误推广。

Comments accepted by mlise 2026

IndustryNav: Exploring Spatial Reasoning of Embodied Agents in Dynamic Industrial Navigation

IndustryNav：探索动态工业导航中具身智能体的空间推理

Yifan Li, Lichi Li, Anh Dao, Xinyu Zhou, Wenjun Huang, Tianyi Ma, Yicheng Qiao, Zheda Mai, Daeun Lee, Zichen Chen, Pan Wang, Lehan Yang, Tianlong Wang, Zhen Tan, Sheng Li, Mohit Bansal, Yang Ni, Yu Kong

机构 * Michigan State University（密歇根州立大学） ； Independent Researcher（独立研究者） ； University of California, Irvine（加州大学尔湾分校） ； Ohio State University（俄亥俄州立大学） ； University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校） ； University of California, Santa Barbara（加州大学圣巴巴拉分校） ； University of Pittsburgh（匹兹堡大学） ； University of Virginia（弗吉尼亚大学） ； Arizona State University（亚利桑那州立大学） ； Purdue University Northwest（普渡大学西北分校） 纠错

专题命中 安全训练 ：safety(abstract)

AI总结 针对视觉大语言模型在空间推理的挑战，提出IndustryNav基准，利用动态工业场景评估，给出零样本导航管道及安全指标，研究发现模型在路径规划等方面有缺陷，凸显向主动探索等任务发展的需求。

A Graph-Based Reinforcement Learning Approach with Frontier Potential Based Reward for Safe Cluttered Environment Exploration

一种基于前沿势奖励的基于图的强化学习方法用于安全杂乱环境探索

Gabriele Calzolari, Vidya Sumathy, Christoforos Kanellakis, George Nikolakopoulos

机构 * Department of Computer Science, Electrical and Space Engineering, Luleå University of Technology（计算机科学、电气与航天工程系，吕勒奥技术大学） 纠错

专题命中 安全训练 ：safety(abstract)

AI总结 提出结合图神经网络探索贪心策略与安全护盾的方法，用近端策略优化算法训练网络，最大化探索效率并减少护盾干预，还提出奖励函数，能在杂乱环境高效安全探索。

Comments 6 pages, 4 figures, accepted at the 24th European Control Conference (ECC)