Intelligence as Managed Autonomy: Failure, Escalation, and Governance for Agentic AI Systems
智能作为受管自主:代理型AI系统的失败、升级与治理
机构 * DNRS.ai USA(DNRS.ai美国公司)
专题命中 其他机器人 :robotic(abstract,comments);robotics(abstract);分类 cs.AI
AI总结 本文提出SMARt模型,通过形式化能力检测认知漂移、暂停推理、尝试恢复并在可靠性下降时放弃控制,以解决自主AI系统中的幻觉和持续不合理行为问题。
Comments This peer-reviewed paper is to appear in the Journal of Intelligent and Robotic Systems