大模型对齐与安全

GRASP: Grounded CoT Reasoning with Dual-Stage Optimization for Multimodal Sarcasm Target Identification

GRASP：基于双阶段优化的 grounded CoT 推理用于多模态讽刺目标识别

Faxian Wan, Xiaocui Yang, Yifan Cao, Shi Feng, Daling Wang, Yifei Zhang

机构 * School of Computer Science and Engineering, Northeastern University（东北大学计算机科学与工程学院） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.CL

AI总结 GRASP通过整合视觉定位与显式Co-T推理，解决多模态讽刺目标识别中的细粒度定位问题，提出MSTI-MAX数据集和双阶段联合优化策略，实验表明其在多模态讽刺目标识别中表现更优。

Human-Inspired Neuro-Symbolic World Modeling and Logic Reasoning for Interpretable Safe UAV Landing Site Assessment

受人类启发的神经符号世界建模与逻辑推理用于可解释的安全无人机着陆点评估

Weixian Qian, Tianyi Yang, Sebastian Schroder, Yao Deng, Jiaohong Yao, Xiao Cheng, Richard Han, Xi Zheng

机构 * Macquarie University（麦考瑞大学） ； University of California, Santa Barbara（加州大学圣巴巴拉分校） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 NeuroSymLand通过结合神经符号方法，实现了可解释的安全无人机着陆点评估，优于现有基线方法。

Comments The paper has a major update, which is uploaded to https://arxiv.org/abs/2607.02277

Human-In-The-Loop Machine Learning for Safe and Ethical Autonomous Vehicles: Principles, Challenges, and Opportunities

用于安全且符合道德的自动驾驶车辆的人在回路机器学习：原理、挑战与机遇

Yousef Emami, Mohammadhossein Homaei, Miguel Gutiérrez Gaitán, Luis Almeida, Kai Li, Hui Huang, Zhu Han

机构 * IEEE 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.LG

AI总结 本文针对自动驾驶车辆面临的挑战，对人在回路机器学习进行教程式综述，涵盖课程学习、人在回路强化学习、人在回路大语言模型、主动学习等方法及道德原则，以推动安全且符合道德的自动驾驶发展。

Comments 19 pages, 4 figures

Scaling the Horizon, Not the Parameters: Reaching Trillion-Parameter Performance with a 35B Agent

扩展视野而非参数：以35B智能体达到万亿参数性能

Lei Bai, Zongsheng Cao, Yang Chen, Zhiyao Cui, Shangheng Du, Yue Fan, Shiyang Feng, Zijie Guo, Haonan He, Liang He, Xiaohan He, Shuyue Hu, Yusong Hu, Songtao Huang, Yichen Jiang, Hao Li, Xin Li, Dahua Lin, Weihao Lin, Fenghua Ling, Dongrui Liu, Zhuo Liu, Wenjie Lou, Runmin Ma, Chunjiang Mu, Haoyang Peng, Tianshuo Peng, Jinxin Shi, Luohe Shi, Boyuan Sun, Zelin Tan, Shengji Tang, Yan Teng, Qianyi Wang, Xiaosong Wang, Yiming Wu, Yi Xie, Xiangchao Yan, Jingqi Ye, Peng Ye, Fangchen Yu, Jiakang Yuan, Bihao Zhan, Bo Zhang, Chen Zhang, Shufei Zhang, Shuaiyu Zhang, Wenlong Zhang, Yiqun Zhang, Junpeng Zhao, Zhijie Zhong, Bowen Zhou, Yuhao Zhou

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.CL

AI总结 提出35B混合专家智能体模型Agents-A1，通过扩展智能体视野（长程轨迹与异构能力）达到万亿参数级别性能，采用三阶段训练（全领域微调、领域教师模型、多教师领域路由策略蒸馏）在多个长程基准上取得领先或竞争力结果。

Comments The model checkpoints and evaluation codebase are available at https://huggingface.co/collections/InternScience/agents-a1 and https://github.com/InternScience/Agents-A1

VehAnchor: Metadata-Free Metric Scale Recovery from Vehicle Cues in Aerial Imagery

VANGUARD：用于GPS受限环境下的无人机车辆锚定地面采样距离估计

Yifei Chen, Chenqian Le, Jiayi Cheng, Xupeng Chen

机构 * Aerospace Information Research Institute, Chinese Academy of Sciences（中国科学院航空航天信息研究所） ； Tandon School of Engineering, New York University（纽约大学工学院） ； School of Electronic, Electrical and Communication Engineering, University of Chinese Academy of Sciences（中国科学院大学电子电气与通信工程学院） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 VANGUARD通过利用车辆锚点和核密度估计，为无人机在GPS受限环境中提供可靠地面采样距离估计，降低空间推理中的误差和失败率。

Customized Generative AI Agent for Transportation Engineering Practice: A Development and Continued Pre-training Guideline

面向交通工程实践的定制化生成式AI智能体：开发与持续预训练指南

Dianwei Chen, Yuan-Zheng Lei, Zifan Zhang, Yuchen Liu, Xianfeng Yang

专题命中 安全训练 ：alignment(abstract)；分类 cs.AI

AI总结 提出基于LoRA框架对六种大语言模型进行持续预训练的方法，以提升其在交通工程领域的专业内容理解与推理能力，Qwen2.5-7B和LLaMA-3.1-8B表现最佳。

Agentic Artificial Intelligence for Multistage Physics Experiments at a Large-Scale User Facility Particle Accelerator

面向大规模用户设施粒子加速器的多阶段物理实验的代理AI

Thorsten Hellert, Drew Bertwistle, Simon C. Leemann, Antonin Sulc, Marco Venturini

机构 * Lawrence Berkeley National Laboratory（伯克利国家实验室） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 本文提出首个基于语言模型的代理AI系统，实现大规模用户设施粒子加速器上多阶段物理实验的自动化执行，通过结构化执行计划减少准备时间并确保安全约束。

Journal ref Phys. Rev. Research 8, L012017 (2026)

ProbeLogits: Kernel-Level LLM Inference Primitives for AI-Native Operating Systems

ProbeLogits：面向AI原生操作系统内核级的LLM推理原语

Daeyeon Son

机构 * Independent Researcher（独立研究者） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.LG

AI总结 本文提出ProbeLogits，一种在操作系统内核层面执行单次前向传递并读取特定token logit的原语，用于分类代理行为的安全性，通过校准强度alpha实现部署时的策略控制，提升安全性与效率。

Comments 18 pages, 13 tables

Language-Guided Grasping under Partial Observation for Mobile Manipulation in Field Inspection and Maintenance

用于现场检查和维护中移动操作的部分观察下语言引导抓取

Dilermando Almeida, Juliano Negri, Guilherme Lazzarini, Thiago H. Segreto, Ranulfo Bezerra, Gustavo J. G. Lahr, Ricardo V. Godoy, Marcelo Becker

机构 * Department of Mechanical Engineering, Federal University of Uberlândia（联邦大学伯南迪利亚机械工程系） ； Department of Mechanical Engineering, University of São Paulo（圣保罗大学机械工程系） ； Graduate School of Information Sciences, Tohoku University（东北大学信息科学研究生院） ； Faculdade Israelita de Ensino e Pesquisa Albert Einstein, Hospital Israelita Albert Einstein（艾伯特·爱因斯坦以色列教学与研究学院，艾伯特·爱因斯坦医院） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.LG

AI总结 提出用于腿部移动操纵器在部分观察下的语言引导抓取流程，经多步骤处理，在四足机器人上实现并评估，相比基线提高抓取成功率，提升语言引导抓取可靠性。

Knowing When Not to Answer: Lightweight KB-Aligned OOD Detection for Safe RAG

知道何时不回答：用于安全检索增强生成的轻量级知识库对齐的域外检测

Ilias Triantafyllopoulos, Renyi Qu, Salvatore Giorgi, Brenda Curtis, Lyle H. Ungar, João Sedoc

机构 * New York University（纽约大学） ； National Institute on Drug Abuse（国家成瘾医学研究所） ； University of Pennsylvania（宾夕法尼亚大学） ； Microsoft（微软公司） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.CL

AI总结 研究用于检索增强生成（RAG）系统的轻量级、知识库对齐的域外检测，通过PCA处理知识库嵌入，用方差保留或t检验排序选择子空间评分查询，评估规则和分类器，发现低维检测器性能好且更优。

MAD-PINN: A Decentralized Physics-Informed Machine Learning Framework for Safe and Optimal Multi-Agent Control

MAD-PINN：一种用于安全和最优多智能体控制的分散式物理信息机器学习框架

Manan Tayal, Aditya Singh, Shishir Kolathaya, Somil Bansal

机构 * Center for Cyber-Physical Systems, Indian Institute of Science（印度科学研究院中心 for 联合体系统） ； Department of Electrical and Systems Engineering, University of Pennsylvania（宾夕法尼亚大学电气与系统工程系） ； Department of Aeronautics and Astronautics, Stanford University（斯坦福大学航空与航天工程系） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 针对大规模多智能体系统安全与性能协同优化难题，提出MAD-PINN框架。利用基于上图的公式化方法，通过物理信息神经网络近似求解，采用分散训练与执行策略，实验表明其性能优越且具可扩展性。

Comments 9 Pages, 4 Figures, 4 Tables. First two authors have contributed equally

VISOR: Visual Input-based Steering for Output Redirection in Vision-Language Models

VISOR：视觉语言模型中用于输出重定向的基于视觉输入的转向

Mansi Phute, Ravikumar Balakrishnan

机构 * Georgia Institute of Technology（佐治亚理工学院） ； HiddenLayer, Inc（HiddenLayer公司） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.AI

AI总结 研究提出VISOR方法，通过优化视觉输入实现对视觉语言模型行为的精细控制，在关键对齐任务中验证其有效性，且具有低开销等优势，但也揭示了视觉通道安全漏洞。

Seven Security Challenges in Cross-domain Multi-agent LLM Systems

跨域多智能体LLM系统中必须解决的七个安全挑战

Ronny Ko, Jiseong Jeong, Shuyuan Zheng, Chuan Xiao, Tae-Wan Kim, Makoto Onizuka, Won-Yong Shin

机构 * Osaka University（大阪大学） ； Seoul National University（首尔大学） ； Yonsei University（延世大学） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.AI

AI总结 本文针对跨域多智能体LLM系统，提出七类新型安全挑战，包括攻击示例、评估指标和未来研究方向。

Journal ref npj AI(2026)

Sim2Real-AD: A Modular Sim-to-Real Framework for Deploying VLM-Guided Reinforcement Learning in Real-World Autonomous Driving

Sim2Real-AD：一种模块化的仿真到现实框架，用于在现实世界自动驾驶中部署基于VLM的强化学习

Zilin Huang, Zhengyang Wan, Zihao Sheng, Boyue Wang, Junwei You, Sikai Chen

机构 * Department of Civil and Environmental Engineering, University of Wisconsin-Madison（威斯康星大学麦迪逊分校土木与环境工程系） ； Google（谷歌） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 本文提出Sim2Real-AD框架，实现无需真实世界强化学习数据将CARLA训练的VLM引导强化学习策略零样本迁移到全尺寸车辆。框架包含几何观察桥、物理感知动作映射、两阶段渐进训练和实时部署流水线。

Comments 33 pages, 16 figures

DriveVLM-RL: Neuroscience-Inspired Reinforcement Learning with Vision-Language Models for Safe and Deployable Autonomous Driving

DriveVLM-RL：受神经科学启发的强化学习与视觉语言模型用于安全可部署的自动驾驶

Zilin Huang, Zihao Sheng, Zhengyang Wan, Yansong Qu, Junwei You, Sicong Jiang, Sikai Chen

机构 * Department of Civil and Environmental Engineering, University of Wisconsin-Madison（威斯康星大学麦迪逊分校土木与环境工程系） ； Lyles School of Civil and Construction Engineering, Purdue University（普渡大学莱尔斯土木与建设工程学院） ； Department of Civil Engineering, McGill University（麦吉尔大学土木工程系） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 提出DriveVLM-RL框架，通过双通路架构将VLM集成到RL中，实现安全可部署的自动驾驶，在CARLA中显著优于基线。

Comments 33 pages, 16 figures

YuFeng-XGuard: A Reasoning-Centric, Interpretable, and Flexible Guardrail Model for Large Language Models

YuFeng-XGuard：一种以推理为中心、可解释且灵活的大语言模型护栏模型

Junyu Lin, Meizhen Liu, Xiufeng Huang, Jinfeng Li, Haiwen Hong, Xiaohan Yuan, Yuefeng Chen, Longtao Huang, Hui Xue, Ranjie Duan, Zhikai Chen, Yuchuan Fu, Defeng Li, Lingyao Gao, Yitong Yang

机构 * Alibaba-AAIG（阿里云-阿里人工智能研究院） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.CL

AI总结 提出YuFeng-XGuard护栏模型系列，通过结构化风险预测（含风险类别、置信度分数及自然语言解释）实现可解释的多维风险感知，并采用分层推理范式平衡延迟与解释深度，同时引入动态策略机制解耦风险感知与策略执行。

Training Language Models to Use Prolog as a Tool

训练语言模型以使用Prolog作为工具

Niklas Mellgren, Peter Schneider-Kamp, Lukas Galke Poech

机构 * University of Southern Denmark（南丹麦大学） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.CL

AI总结 本文探讨通过强化学习训练语言模型使用Prolog进行符号推理，发现正确性与可审计性之间存在权衡，影响模型性能与可解释性。

Comments ACL 2026 Findings (change from last version: corrected year in this comment)

ZeroWBC: Learning Natural Whole-Body Humanoid Interaction from Human Egocentric Data

ZeroWBC: 从人类自我中心数据学习自然全身人形交互

Haoran Yang, Jiacheng Bao, Yucheng Xin, Haoming Song, Yuyang Tian, Bin Zhao, Dong Wang, Xuelong Li

机构 * University of Science and Technology of China（中国科学技术大学） ； Shanghai AI Laboratory（上海人工智能实验室） ； Northwestern Polytechnical University（西北工业大学） ； Tsinghua University（清华大学） ； Shanghai Jiao Tong University（上海交通大学） ； TeleAI, China Telecom（TeleAI，中国电信） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.AI

AI总结 提出ZeroWBC框架，利用人类自我中心视频和同步全身运动数据，通过生成-跟踪方法实现无遥操作的人形机器人全身交互控制。

Evaluating LLM-Driven Summarisation of Parliamentary Debates with Computational Argumentation

评估基于大语言模型的议会辩论总结的论证内容

Eoghan Cunningham, Derek Greene, James Cross, Antonio Rago

机构 * School of Computer Science, University College Dublin（都柏林大学计算机科学学院） ； School of Politics and International Relations, University College Dublin（都柏林大学政治与国际关系学院） ； Department of Informatics, King’s College London（伦敦国王学院信息学院） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出一种评估议会辩论总结的框架，通过计算论证方法评估总结对辩论论证内容的忠实性，以欧洲议会辩论为例验证方法有效性。

Comments Accepted at KR'26 In The Wild Track. Camera Ready with additional supplementary materials

UniMM: A Unified Mixture Model Framework for Multi-Agent Simulation

UniMM：一种用于多智能体仿真的统一混合模型框架

Longzhong Lin, Xuewu Lin, Kechun Xu, Haojian Lu, Lichao Huang, Rong Xiong, Yue Wang

机构 * Zhejiang University（浙江大学） ； Horizon Robotics 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.AI

AI总结 提出UniMM框架统一回归混合模型与离散NTP模型，通过闭环样本生成缓解分布偏移，并在WOSAC基准上取得最优性能。

Comments Accepted author manuscript. The version of record has been published in IEEE Transactions on Pattern Analysis and Machine Intelligence

Journal ref IEEE Transactions on Pattern Analysis and Machine Intelligence, Early Access, 2026

Vulcan: Instance-specialized, Verifiable Systems Heuristics Through LLM-driven Search

Vulcan：通过LLM驱动的搜索实现实例特化的可验证系统启发式方法

Rohit Dwivedula, Divyanshu Saxena, Sujay Yadalam, Eric Hayden Campbell, Daehyeok Kim, Aditya Akella

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 提出Vulcan框架，利用LLM生成系统启发式方法，通过隔离决策逻辑和受限语言Anvil保证安全，在调度、缓存和内存管理上取得显著性能提升。

Comments 19 pages

Learn from Your Mistakes: Tree-like Self-Play for Secure Code LLMs

从错误中学习：面向安全代码LLM的树状自博弈

Wenqi Chen, Ziyan Zhang, Bin Wang, Lin Liu, Hengheng Zhang, Zhengsu Chen

专题命中 安全训练 ：alignment(abstract)；分类 cs.AI

AI总结 提出树状自博弈（TSP）框架，将安全代码生成建模为细粒度序列决策过程，通过构建决策树探索安全与脆弱路径，使模型在关键决策节点自我纠正，显著提升代码安全性并实现跨语言泛化。

Comments 18 pages, 3 figures, Accepted by ICML 2026

Resilient Write: A Six-Layer Durable Write Surface for LLM Coding Agents

抗挫写入：一种六层耐用写入表面用于大语言模型编码代理

Justice Owusu Agyemang, Jerry John Kponyo, Elliot Amponsah, Godfred Manu Addo Boakye, Kwame Opuni-Boachie Obour Agyekum

机构 * Sperixlabs, Ghana（塞普里克斯实验室，加纳） ； Kwame Nkrumah University of Science and Technology, Kumasi, Ghana（库马西技术大学，加纳） ； VIA Cybersecurity Lab, Kwame Nkrumah University of Science and Technology, Kumasi, Ghana（VIA网络安全实验室，库马西技术大学，加纳） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 本文提出Resilient Write，通过六层耐用写入表面提升编码代理在文件写入时的容错能力，减少恢复时间并提高自我纠正率。

DiSCo: Diffusion Sequence Copilots for Shared Autonomy

DiSCo：用于共享自主的扩散序列助手

Andy Wang, Xu Yan, Brandon McMahan, Michael Zhou, Yuyang Yuan, Johannes Y. Lee, Ali Shreif, Matthew Li, Zhenghao Peng, Bolei Zhou, Yuchen Cui, Jonathan C. Kao

机构 * University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 安全训练 ：alignment(abstract)

AI总结 DiSCo通过扩散策略规划与用户动作一致的动作序列，提升复杂系统控制性能，适用于模拟驾驶和机械臂任务。

Comments 10 pages, 5 figures, HRI '26: Proceedings of the 21st ACM/IEEE International Conference on Human-Robot Interaction

SkillJack: Persistent Skill Backdoors in Self-Evolving Agents

SkillJack：自进化智能体中的持续性技能后门

Zonghao Ying, Xiangfan Wu, Huiyu Wu, Xing Zheng, Huangsheng Cheng, Xiaorong Shi, Jing Guo

专题命中 安全训练 ：safety(abstract)

AI总结 该研究提出SkillJack攻击，利用自进化智能体的经验转技能流水线植入持续性恶意技能，在SkillX和Anything2Skill上验证其低检测率、高成功率，揭示技能演化为新攻击面。

Progress-Certified Reversible Simplex Supervision of Goal-Reaching Reinforcement Learning

强化学习目标到达控制与保证Lyapunov-like稳定器的移动机器人

Mehdi Heydari Shahna, Jouni Mattila

机构 * Faculty of Engineering（工程学院） ； Natural Sciences（自然科学） ； Tampere University（塔尔库大学） 纠错

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出一种基于强化学习的控制框架，通过Lyapunov-like稳定器保证移动机器人在无结构环境中的目标到达，提升目标到达率至99%

Breaking the Rounding Trap: Securing LLMs against Quantization-Conditioned Backdoors

打破舍入陷阱：保护LLM免受量化条件后门攻击

Aoying Zheng, Anqi Du, Zizhuang Deng, Yuxuan Chen

专题命中 安全训练 ：alignment(abstract)

AI总结 提出QuantGuard方法，通过可微舍入控制变量和误差引导的舍入反转约束等机制，在仅使用少量校准数据且不修改量化算法的情况下，阻断后门激活路径，有效降低攻击成功率至接近干净模型水平。

ScopeJudge: Cost-Aware Pre-Execution Gating for Offensive Security Agents

ScopeJudge：用于进攻性安全代理的成本感知预执行门控

Shane Caldwell, Max Harley, Ads Dawson, Michael Kouremetis, Vincent Abruzzo, Will Pearce

专题命中 安全训练 ：safety(abstract)

AI总结 研究进攻性安全代理中预执行门控，引入ScopeJudge数据集，含4897个工具调用。评估八个法官模型在五种转录策略下表现，发现静态策略不足，推荐成本敏感和召回优先操作点，以支持自主安全代理的实时监控和可扩展监督。

Comments 22 pages, 4 figures, 4 tables, 1 link to code, 1 link to dataset

Shepherding UAV Swarm with Action Prediction Based on Movement Constraints

通过基于运动约束的动作预测来引导无人机群

Yusuke Tsunoda, Yusuke Goto, Takao Sato

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出了一种基于动态窗口方法的三维引导控制律，通过预测自主无人机群的行为来提高引导效率，考虑了运动约束下的可行运动候选生成和评估。

Distributed primal-dual algorithm for constrained multi-agent reinforcement learning under coupled policies

耦合策略下约束多智能体强化学习的分布式原始对偶算法

Pengcheng Dai, He Wang, Dongming Wang, Wenwu Yu

专题命中 安全训练 ：safety(abstract)

AI总结 研究耦合环境下的约束多智能体强化学习，针对现有方法不足，提出智能体采用依赖邻居状态和参数的耦合策略及分布式可扩展原始对偶算法，证明算法收敛性，仿真验证其优于现有算法。