A Tale of LLMs and Induced Small Proxies: Scalable Small Language Models for Knowledge Mining
小型语言模型代理实现高效高质量的知识挖掘
机构 * University of California, San Diego(加州大学圣地亚哥分校) ; Carneigie Mellon University(卡内基梅隆大学) ; Georgia Institute of Technology(佐治亚理工学院)
专题命中 推理与问题求解 :language model(title,abstract);small language model(title);LLM(abstract_cn);large language model(abstract)
AI总结 提出Falconer框架,结合大语言模型的代理推理与轻量级代理模型,通过规划与标注实现可扩展的知识挖掘,在保持指令遵循精度的同时降低90%推理成本并加速20倍以上。
Comments Code available: https://github.com/LongfeiYun17/falconer