Learning to Recall with Transformers Beyond Orthogonal Embeddings
基于非正交嵌入的Transformer学习回忆
机构 * University of Toronto and Vector Institute(多伦多大学和向量研究所) ; Flatiron Institute(Flatiron研究所) ; University of Southern California(南加州大学) ; New York University and Flatiron Institute(纽约大学和Flatiron研究所)
专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.LG
AI总结 本文研究了在非正交嵌入条件下,单层Transformer在简单token检索任务中的存储容量,揭示了样本量、嵌入维度和序列长度之间的乘积关系。
Comments ICLR 2026