Hyperdimensional Probe: Decoding LLM Representations via Vector Symbolic Architectures
超维探针:通过向量符号架构解码大语言模型表示
机构 * University of Trento(特伦托大学) ; Ipazia S.p.A.(Ipazia公司) ; Fondazione Bruno Kessler (FBK)(布鲁诺·凯塞勒基金会)
专题命中 知识编辑与模型理解 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 研究旨在解码大语言模型表示,提出超维探针,结合符号表示与神经探测,利用向量符号架构和超向量代数统一先前方法,能深入提取输入特征并支持输出分析,实验表明其可在多场景提取语义信息,推进了语义理解。
Comments CODE: https://github.com/Ipazia-AI/hyperprobe