ProbGuard: Proactive Runtime Monitoring for LLM Agent Safety via Probabilistic Prediction
ProbGuard:基于概率的运行时监控用于LLM代理安全
机构 * Singapore Management University(新加坡管理大学) ; Xi'an Jiaotong University(西安交通大学)
专题命中 其他LLM :LLM(title,title_cn);large language model(abstract);language model(abstract);prompting(abstract)
AI总结 ProbGuard通过概率风险预测主动监控LLM代理安全,利用离散时间马尔可夫链建模行为动态,提前预警潜在危险,提升安全性和任务完成率。
Comments Accepted by the 41st IEEE/ACM International Conference on Automated Software Engineering (ASE 2026)