Emergent Manifold Separability during Reasoning in Large Language Models
大语言模型推理中的涌现流形分离
机构 * Department of Physics, Harvard University(哈佛大学物理系) ; Center for Data Science, New York University(纽约大学数据科学中心) ; Kempner Institute, Harvard University(哈佛大学 Kempner 研究所) ; Center for Computational Neuroscience, Flatiron Institute(Flatiron 机构计算神经科学中心)
专题命中 逻辑推理 :reasoning(title,abstract);chain-of-thought(abstract);CoT(abstract);分类 cs.LG
AI总结 研究大语言模型推理过程中的流形分离现象,通过曼福容量理论分析两种组合推理任务,发现概念流形在计算前解耦为线性可分子空间,揭示动态流形管理机制。
Comments Alexandre Polo and Chanwoo Chun contributed equally to this work