大模型对齐与安全

ADAPT: An Autonomous Forklift for Construction Site Operation

ADAPT：一种用于建筑工地作业的自主叉车

Johannes Huemer, Markus Murschitz, Matthias Schörghuber, Lukas Reisinger, Thomas Kadiofsky, Christoph Weidinger, Mario Niedermeyer, Benedikt Widy, Marcel Zeilinger, Csaba Beleznai, Tobias Glück, Andreas Kugi, Patrik Zips

机构 * Center for Vision, Automation and Control（视觉、自动化与控制中心） ； AIT Austrian Institute of Technology GmbH（奥地利技术研究所） ； Automation and Control Institute（自动化与控制研究所） ； Technische Universität Wien（维也纳技术大学） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 提出ADAPT自主叉车，结合AI感知与经典方法，在非结构化建筑工地实现近人类水平的物流操作，提升安全与效率。

Where, What, Why, and Importance: Structured Defect Grounding for Text-to-Image Feedback

位置、类型、原因与重要性：面向文本到图像反馈的结构化缺陷定位

Huaisong Zhang, Hao Yu, Yuxuan Zhang, Jiahe Wang, Xinrui Chen, Haoxiang Cao, Feng Lu, Wendong Zhang, Changqian Yu, Chun Yuan

机构 * Tsinghua University（清华大学） ； Kolors Team, Kuaishou Technology（快手科技Kolors团队） ； University of British Columbia（不列颠哥伦比亚大学） ； Vector Institute（向量研究所） ； South China Normal University（华南师范大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 提出结构化缺陷定位（SDG）方法，将文本到图像生成中的缺陷诊断建模为结构化集合预测，通过构建SDG-30K数据集和SDG-Eval评估协议，并利用视觉语言模型作为检测器，结合BoxFlow-GRPO将预测的缺陷集合转化为空间奖励以改进扩散模型对齐。

Comments 25 pages, 9 figures

From Seeing to Experiencing: Scaling Navigation Foundation Models with Reinforcement Learning

从看见到体验：通过强化学习扩展导航基础模型

Honglin He, Yukai Ma, Brad Squicciarini, Wayne Wu, Bolei Zhou

机构 * University of California, Los Angeles（加州大学洛杉矶分校） ； Coco Robotics（Coco机器人） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 提出S2E框架，结合离线视频预训练和模拟环境强化学习，通过锚点引导分布匹配和残差注意力模块，提升导航基础模型的交互性和安全性。

Comments 27 pages, 20 figures, 9 tables, conference

CORRECT: COndensed eRror RECognition via knowledge Transfer in multi-agent systems

CORRECT: 多智能体系统中基于知识迁移的浓缩错误识别

Yifan Yu, Moyan Li, Shaoyuan Xu, Jinmiao Fu, Xinhai Hou, Fan Lai, Bryan Wang

专题命中 安全评测 ：alignment(abstract)

AI总结 提出CORRECT框架，利用在线缓存蒸馏错误模式，实现轻量级、免训练的错误定位，在多智能体系统中提升错误识别效率，并在七个应用上取得最高19.8%的步骤级错误定位提升。

MBench: A Comprehensive Benchmark on Memory Capability for Video World Models

MBench: 视频世界模型记忆能力的综合基准

Shengjun Zhang, Zhang Zhang, Simin Huang, Zhenyu Tang, Hanyang Wang, Chensheng Dai, Min Chen, Yifan Li, Yuxin Li, Yingjie Chen, Hao Liu, Chen Li, Jing Lyu, Yueqi Duan

机构 * Tsinghua University（清华大学） ； WeChat Vision, Tecent Inc.（微信视觉，腾讯公司） ； Peking University（北京大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 提出MBench基准，通过实体一致性、环境一致性和因果一致性三个核心维度及其12个子维度，系统评估视频世界模型的长期记忆能力，并揭示现有方法在长期状态保持上的关键局限。

Comments Project Page: https://peanutup.github.io/MBench-project/

Causal Transfer in Medical Image Analysis

医学图像分析中的因果迁移

Mohammed M. Abdelsamea, Daniel Tweneboah Anyimadu, Tasneem Selim, Saif Alzubi, Lei Zhang, Ahmed Karam Eldaly, Xujiong Ye

机构 * University of Waterloo（滑铁卢大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)

AI总结 本文探讨了医学图像分析中因果迁移方法，整合因果推理与跨域表示学习，以解决领域偏移问题，提升临床AI的鲁棒性和泛化能力。

QUARE: Quality-Aware Requirements Analysis through Multi-Agent Dialectical Negotiation

QUARE：通过多智能体辩证协商进行质量感知的需求分析

Haowei Cheng, Milhan Kim, Foutse Khomh, Teeradaj Racharak, Nobukazu Yoshioka, Naoyasu Ubayashi, Hironori Washizaki

专题命中 安全评测 ：safety(abstract)

AI总结 QUARE通过多智能体辩证协商解决需求质量分析中的多属性冲突，生成高质量需求规格，提升合规性和可验证性。