Budget-Constrained Online Retrieval-Augmented Generation: The Chunk-as-a-Service Model
预算约束下的在线检索增强生成:块即服务模型
机构 * Information and Computing Technology (ICT) Division, College of Science and Engineering, Hamad Bin Khalifa University(信息与计算技术系(ICT), 科学与工程学院, 哈马德·本·卡西姆大学) ; School of Electrical Engineering and Information Technology, German Jordanian University(电气工程与信息科技学院, 德国约旦大学) ; Department of Computer and Information Sciences, Fordham University(计算机与信息科学系, 芙兰克大学) ; Department of Computer Science and Engineering, College of Engineering, Qatar University(计算机科学与工程系, 工程学院, 卡塔尔大学)
专题命中 长文档RAG :retrieval-augmented generation(title,abstract);RAG(abstract,abstract_cn);分类 cs.IR
AI总结 本文提出块即服务模型,通过在线选择算法提升检索增强生成的透明性和成本效益,实验显示其在性能和预算利用上优于现有方法。