A Graph Signal Processing Perspective on Numerical Sequence Representations in LLM In-Context Learning
大语言模型上下文学习中数值序列表示的图信号处理视角
机构 * Cornell University(康奈尔大学) ; Goodfire AI(古德火人工智能公司) ; Imperial College London(伦敦帝国学院)
AI总结 本文从图信号处理视角研究LLM上下文学习中数值序列的表示,发现数值推理的内部特征随上下文长度和输入动态复杂性变化,且在不同模型家族间一致。