Orthogonal Representation Editing: Decoupling Semantic Entanglement in Batch Knowledge Editing of LLMs
正交表示编辑:解耦大型语言模型批量知识编辑中的语义纠缠
机构 * School of Computer Science and Technology, Tianjin University(天津大学计算机科学与技术学院) ; Kexin Technology(可心科技) ; University of Chinese Academy of Sciences(中国科学院大学) ; Tencent Hunyuan(腾讯混元) ; College of Computer Science, Chongqing University(重庆大学计算机学院)
AI总结 针对批量知识编辑中语义表示纠缠导致性能下降的问题,提出正交表示编辑(ORE),通过构建通用语义子空间并对编辑向量施加正交约束来解耦纠缠,并引入门控非线性表示头自适应学习编辑位置,实验表明ORE在跨语言场景中表现优异。
Comments Accepted to Findings of ACL 2026