Silent Failure in LLM Agent Systems: The Entropy Principle and the Inevitable Disorder of Autonomous Agents
LLM Agent系统中的静默故障:熵原理与自主智能体的不可避免的无序性
专题命中 记忆与上下文管理 :agent(title,title_cn);autonomous agent(title,abstract)
AI总结 通过分析4万次受控试验和10万次生产交互,发现LLM agent系统存在无外部触发的静默故障,提出熵原理S(t)=S0*e^(αt)描述无序累积,并设计PIG引擎与ADE协议套件作为工程对策。
Comments 10 pages, 7 figures