Interpreting Language Models Through Concept Descriptions: A Survey
通过概念描述解读语言模型:一项调查
机构 * BIFOLD – Berlin Institute for the Foundations of Learning and Data(柏林学习与数据基础研究所) ; Technische Universität Berlin(柏林技术大学)
专题命中 知识编辑与模型理解 :language model(title,abstract);large language model(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 本文调查了通过生成自然语言概念描述来解读模型组件和抽象的方法,揭示了生成这些描述的关键方法、评估指标及数据集,并指出对更严谨因果评估的需求。
Comments Accepted at The Eight Workshop on Analyzing and Interpreting Neural Networks for NLP (BlackboxNLP), co-located with EMNLP 2025