Uncertainty-Aware Sequential Decision Rules for Event-Triggered LLM Invocation in Streaming Systems
流系统中事件触发大语言模型调用的不确定性感知序贯决策规则
机构 * Viterbi School of Engineering, University of Southern California(南加州大学维特比工程学院)
专题命中 幻觉与鲁棒性 :grounding(abstract);分类 cs.AI、cs.LG
AI总结 研究流系统中何时调用大语言模型的问题,将其转化为基于风险的序贯停止问题,证明了相关理论结果。通过在涡轮风扇退化数据上的实验,验证假设、比较基线,得出次线性遗憾、高诊断质量等结论,表明异常分数驱动的风险函数更优。
Comments 18 pages, 5 figures. Accepted to the ECML PKDD 2026 Research Track