From Thinker to Society: Security in Hierarchical Autonomy Evolution of AI Agents
从思考者到社会:AI智能体分层自主性演化的安全问题
机构 * Nanjing University of Aeronautics and Astronautics(南京航空航天大学) ; Collaborative Innovation Center of Novel Software Technology and Industrialization(新型软件技术与产业化协同创新中心) ; The Chinese University of Hong Kong(香港中文大学) ; The University of Hong Kong(香港大学) ; Zhejiang University(浙江大学) ; Independent Researcher(独立研究者) ; Zhejiang Normal University(浙江师范大学) ; School of Software Technology, Zhejiang University(浙江大学软件学院) ; Ningbo Global Innovation Center, Zhejiang University(宁波全球创新中心,浙江大学)
专题命中 机器人操作 :manipulation(abstract);分类 cs.AI
AI总结 研究探讨了AI智能体分层自主性演化中的安全挑战,提出三级安全框架并分析现有防御措施的不足,旨在指导可信AI智能体系统的多层防御架构设计。