Subliminal Clocks: Latent Time Modelling in Diffusion Language Models
潜意识时钟:扩散语言模型中的潜在时间建模
机构 * Sapienza University of Rome(罗马大学) ; EPFL(洛桑联邦理工学院) ; Independent researcher(独立研究者)
AI总结 本文发现扩散语言模型在残差流中编码了与扩散时间步相关的潜在表示,可通过探针提取,并通过沿推断时间步的低维子空间引导来调节去噪进度,影响模型置信度和熵。
Comments Equal contribution: Thomas Vaitses Fontanari and Simone Petruzzi