Cornell University（康奈尔大学）

A Graph Signal Processing Perspective on Numerical Sequence Representations in LLM In-Context Learning

大语言模型上下文学习中数值序列表示的图信号处理视角

Jiajun Bao, Zihao Qi, Toni J. B. Liu, Gurbir Arora, Raphaël Sarfati, Nicolas Boullé, Christopher J. Earls

机构 * Cornell University（康奈尔大学） ； Goodfire AI（古德火人工智能公司） ； Imperial College London（伦敦帝国学院） 纠错

AI总结 本文从图信号处理视角研究LLM上下文学习中数值序列的表示，发现数值推理的内部特征随上下文长度和输入动态复杂性变化，且在不同模型家族间一致。