EPFL（洛桑联邦理工学院）

Crosscoding Through Time: Tracking Emergence & Consolidation Of Linguistic Representations Throughout LLM Pretraining

时间交叉编码：在LLM预训练过程中追踪语言表示的出现与巩固

Deniz Bayazit, Aaron Mueller, Antoine Bosselut

机构 * EPFL（瑞士联邦理工学院） ； Boston University（波士顿大学） 纠错

AI总结 通过稀疏交叉编码器追踪LLM预训练中语言表示的演变，引入RelIE指标分析特征对任务性能的因果影响，实现对表示学习的可解释性分析。

Comments Accepted to ACL 2026