大模型对齐与安全

Drowsiness-Aware Adaptive Autonomous Braking System based on Deep Reinforcement Learning for Enhanced Road Safety

基于深度强化学习的清醒意识自适应自动刹车系统：提升道路安全

Hossem Eddine Hafidi, Elisabetta De Giovanni, Teodoro Montanaro, Ilaria Sergi, Massimo De Vittorio, Luigi Patrono

机构 * University of Salento（萨勒诺大学） ； Istituto Italiano di Tecnologia（意大利技术研究院） ； Basque Center for Applied Mathematics（巴斯克应用数学中心） 纠错

专题命中 安全训练 ：safety(title,abstract)；分类 cs.LG

AI总结 本文提出基于深度强化学习的自适应自动刹车系统，结合车辆动力学与驾驶员生理数据，通过ECG信号检测清醒状态，提升道路安全。

Comments 16 pages, 12 figures. Under review at IEEE Transactions on Intelligent Vehicles

Meituan Merchant Business Diagnosis via Policy-Guided Dual-Process User Simulation

美团商户业务诊断 via 政策引导的双过程用户模拟

Ziyang Chen, Renbing Chen, Daowei Li, Jinzhi Liao, Jiashen Sun, Ke Zeng, Xiang Zhao

机构 * Independent Researcher（独立研究者） 纠错

专题命中 安全训练 ：alignment(abstract)；trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出Policy-Guided Hybrid Simulation框架，通过双过程融合提升商户策略评估的准确性，实验显示其在美团101家商户中误差降低45.8%。

Comments 5 pages, 3 figures, 2 tables, accepted at SIGIR 2026 Industry Track

Constrained Decoding for Safe Robot Navigation Foundation Models

安全机器人导航基础模型的约束解码

Parv Kapoor, Akila Ganlath, Michael Clifford, Changliu Liu, Sebastian Scherer, Eunsuk Kang

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Toyota InfoTech Labs（丰田信息科技实验室） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.LG

AI总结 本文提出SafeDec框架，通过约束解码确保机器人导航基础模型满足信号时间逻辑规范，提升安全性和行动生成能力。

CBCL: Safe Self-Extending Agent Communication

CBCL：安全的自扩展代理通信

Hugo O'Connor

机构 * Anuna Research（Anuna研究） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 CBCL通过约束消息和扩展到确定性上下文无关语言，确保代理通信的安全性和可扩展性，采用形式化方法验证其安全性。

Comments 10 pages. Accepted at IEEE LangSec Workshop 2026 (camera-ready). Reference implementation, Lean 4 formalization, and verified parser: https://codeberg.org/anuna/cbcl-rs ; Nostr transport binding: https://codeberg.org/anuna/cbcl-nostr

Seeing Through Experts Eyes A Foundational Vision Language Model Trained on Radiologists Gaze and Reasoning

通过专家之眼：一个基于放射学家目光和推理训练的基础视觉语言模型

Kinhei Lee, Peiyuan Jing, Zhenxuan Zhang, Yue Yang, Tao Wang, Dominic C Marshall, Yingying Fang, Guang Yang

机构 * Bioengineering Department and Imperial-X（生物工程系和Imperial-X） ； Imperial College London（帝国理工学院伦敦分校） ； College of physics and information engineering, Fuzhou University（福州大学物理与信息工程学院） ； Department of Surgery and Cancer, Imperial College London（外科与癌症部门，帝国理工学院伦敦分校） ； National Heart and Lung Institute, Imperial College London（国家心脏和肺研究所，帝国理工学院伦敦分校） ； Cardiovascular Research Centre, Royal Brompton Hospital（心血管研究中心，皇家布里顿医院） ； School of Biomedical Engineering & Imaging Sciences, King’s College London（生物医学工程与成像科学学院，国王学院伦敦分校） 纠错

专题命中 安全训练 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出GazeX模型，通过放射学家的眼动数据模拟专家推理过程，提升医学影像分析的准确性和可解释性。

MAGMA: A Multi-Graph based Agentic Memory Architecture for AI Agents

MAGMA：一种基于多图的代理记忆架构用于AI代理

Dongming Jiang, Yi Li, Guanpeng Li, Bingzhe Li

机构 * Department of Computer Science, The University of Texas at Dallas（德克萨斯大学达拉斯分校计算机科学系） ； Department of Electrical and Computer Engineering, University of Florida（佛罗里达大学电气与计算机工程系） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.AI

AI总结 MAGMA通过多图结构实现记忆表示，提升长时序推理任务的性能，提供透明推理路径和细粒度检索控制。

Comments ACL 2026 Main