Position: Safety and Fairness in Agentic AI Depend on Interaction Topology, Not on Model Scale or Alignment
位置:代理AI的安全性与公平性取决于交互拓扑,而非模型规模或对齐
机构 * Department of Computer Science, University of British Columbia, Vancouver, Canada(英属哥伦比亚大学计算机科学系) ; Department of Artificial Intelligence, IIT Hyderabad, Hyderabad, India(印度海得拉巴理工学院人工智能系) ; Amazon, Delhi, India(印度德里亚马逊公司)
专题命中 Agent评测 :agentic(title,abstract);agent(abstract);multi-agent(abstract);分类 cs.AI
AI总结 本文指出代理AI的安全性由交互拓扑决定,而非模型规模或对齐程度。研究揭示了顺序不稳定、信息级联和功能崩溃等拓扑驱动的问题,并强调需通过动态系统视角评估安全性和公平性。
Comments 18 pages, 8 figures. Position paper