Multi-layer attentive probing improves transfer of audio representations for bioacoustics
发表机构 * Earth Species Project(地球物种项目)
AI总结 本文研究了不同探针策略对生物声学任务中音频表征迁移性能的影响,提出使用多层注意力探针可以更有效地利用时间信息,提升模型在下游任务中的表现。研究对比了线性探针和注意力探针在多个生物声学基准上的性能,发现多层探针优于传统的单层探针,尤其在Transformer模型中,注意力探针显著优于线性探针。该工作为评估和提升音频表征的可迁移性提供了新的方法和见解。