Hierarchical Concept Geometry in Language Models Emerges from Word Co-occurrence
语言模型中的层级概念几何源于词汇共现
机构 * Johns Hopkins University(约翰霍普金斯大学) ; EPFL(苏黎世联邦理工学院)
AI总结 本文提出一种分布理论,证明语言表示中的上下义关系几何结构源于词汇共现的谱结构,并在word2vec和Gemma 2B嵌入中得到验证。
Comments 34 pages, 12 figures, including appendices