The Dark Side of LLMs: Agent-based Attack Vectors for System-level Compromise
大语言模型的阴暗面:基于代理的攻击向量用于系统级入侵
机构 * DIMES , University of Calabria , P. Bucci , 87036 , Rende (CS) , Italy(DIMES,卡利博里大学,P. Bucci,87036,Rende(CS),意大利) ; IMT School for Advanced Studies , Piazza San Francesco , 55100 , Lucca , Italy(IMT高级研究学院,圣弗朗西斯科广场,55100,卢卡,意大利)
专题命中 Agent评测 :agent(title,abstract);autonomous agent(abstract);multi-agent(abstract);分类 cs.AI
AI总结 研究探讨了大语言模型作为推理引擎在自主代理中的安全漏洞,揭示其被用作攻击向量实现计算机入侵的机制,指出94.4%的模型易受直接提示注入攻击,83.3%易受RAG后门攻击,且多代理系统中100%的模型可通过代理信任利用攻击被入侵。