University of Texas at Austin（得克萨斯大学奥斯汀分校）

Hierarchical Latent Prediction for Language Models

语言模型的分层隐式预测

Chang Shi, Tim Pearce, Manan Tomar, Siddhartha Sen, John Langford

机构 * University of Texas at Austin（得克萨斯大学奥斯汀分校） ； Microsoft Research（微软研究院） 纠错

AI总结 该研究针对语言模型下一个token预测的误差累积问题，提出分层隐式预测方法，在编码、多步推理基准及推测解码上验证了其有效性。