大模型对齐与安全

Representation Handoffs for OpenArm-Based Laboratory Mobile Manipulation

基于OpenArm的实验室移动操作的表示交接

Yang Shen, Chonghao Cheng, Ziyi Zhao, Jialuo Zhu, Zhenyi Yi, Qi Zhao, Jian Yang, Yuhui Shi, Chin-Teng Lin

专题命中 安全训练 ：alignment(abstract)；safety(abstract)；分类 cs.AI

AI总结 本研究提出基于OpenArm的实验室移动操作原型，通过表示交接整合多模块，可暴露部署阻碍并为具身系统整合提供调试接口。

Comments Robotics: Science and Systems (RSS) Workshop 2026

ResidencyRL: Reinforcement Learning in Simulated Clinical Environments

ResidencyRL：在模拟临床环境中开展的强化学习

Valentin Liévin, Samuel Schmidgall, Tim Strother, Alex Bijamov, Akshay Goel, Anil Palepu, Chunjong Park, Vahid Balazadeh, Min Woo Sun, Marius Guerard, Justin Chen, Dave Steiner, Vikram Dhillon, Ibrahim Azar, Akhil Mehta, Nicholas Spetsieris, Shilpan Shah, Maen Abdelrahim, Amit Dahiya, Yun Liu, Katherine Chou, Yossi Matias, Avinatan Hassidim, Dale R. Webster, Quoc V. Le, Raia Hadsell, Joelle Barral, Carey Radebaugh, Aleksandra Faust, Shekoofeh Azizi, Mike Schaekermann, Po-Hsuan Cameron Chen, Tao Tu, David Racz, Lin Yang

机构 * Google DeepMind（谷歌DeepMind） ； Google Research（谷歌研究院） ； Houston Methodist Hospital（休斯顿卫理公会医院） ； Trinity Health Group（三一健康集团） ； Stanford Oncology Partners（斯坦福肿瘤学伙伴） ； St. Luke Hospital（圣卢克医院） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出 ResidencyRL，通过多轮强化学习训练临床 AI 智能体，在模拟临床环境中提升诊断准确性、降低漏报率，且能力可迁移至多个医学基准测试，为临床 AI 发展提供了新路径。

A MARL Centered Reference Architecture for Large Language Model Augmentation in Smart Manufacturing

面向智能制造中大型语言模型增强的多智能体强化学习（MARL）中心参考架构

Fouad Bahrpeyma, Dirk Reichelt

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 本文针对智能制造自适应控制的耦合需求，提出以MARL为中心的三层参考架构，探讨LLM在MARL中的附着点，明确传统MARL与LLM组件的适配场景，为相关研究提供结构化框架。

When Does Reward Teach State? A Hidden-Automaton Instrument and a Group-Language Warning Signal

奖励何时能引导对状态的理解？一种隐藏自动机工具与群语言边界

James E. Allchin

专题命中 安全训练 ：safety(abstract)；分类 cs.LG

AI总结 研究强化学习中高奖励与潜在状态理解的关系，通过将任务表示为隐藏自动机，利用三个可控轴（优化器强度、任务结构、观察信息量）来分别测量奖励成功和潜在状态学习，区分感知差距和规划差距，得出高奖励非任务理解证据且智能体恢复潜在状态可预测的结论。

Comments 17 pages, 3 figures, 6 tables (9-page main text). Ancillary file hidden-automata-rl-code.zip contains reproduction code and the complete per-run data behind every table and figure. v3: author name corrected, title revised, text rewritten for clarity, new robustness checks (nonlinear and off-policy probes) added; results and conclusions unchanged

SkillJack: Persistent Skill Backdoors in Self-Evolving Agents

SkillJack：自进化智能体中的持续性技能后门

Zonghao Ying, Xiangfan Wu, Huiyu Wu, Xing Zheng, Huangsheng Cheng, Xiaorong Shi, Jing Guo

专题命中 安全训练 ：safety(abstract)

AI总结 该研究提出SkillJack攻击，利用自进化智能体的经验转技能流水线植入持续性恶意技能，在SkillX和Anything2Skill上验证其低检测率、高成功率，揭示技能演化为新攻击面。

Progress-Certified Reversible Simplex Supervision of Goal-Reaching Reinforcement Learning

强化学习目标到达控制与保证Lyapunov-like稳定器的移动机器人

Mehdi Heydari Shahna, Jouni Mattila

机构 * Faculty of Engineering（工程学院） ； Natural Sciences（自然科学） ； Tampere University（塔尔库大学） 纠错

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出一种基于强化学习的控制框架，通过Lyapunov-like稳定器保证移动机器人在无结构环境中的目标到达，提升目标到达率至99%