语言大模型 / LLM

Towards Intrinsic Interpretability of Large Language Models:A Survey of Design Principles and Architectures

面向大语言模型内在可解释性的探索：设计原则与架构的综述

Yutong Gao, Qinglin Meng, Yuan Zhou, Liangming Pan

机构 * MOE Key Lab of Computational Linguistics, Peking University（计算语言学MOE实验室，北京大学） ； Beijing Academy of Artificial Intelligence, Beijing, China（北京人工智能研究院，北京，中国） ； Nanjing University of Science and Technology（南京理工大学） ； Purdue University（普渡大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文综述了大语言模型内在可解释性的发展，分类现有方法为五种设计范式，并讨论开放挑战与未来研究方向。

Comments Accepted to the Main Conference of ACL 2026. 14 pages, 4 figures, 1 table

Applied Explainability for Large Language Models: A Comparative Study

应用于大型语言模型的可解释性：一项比较研究

Venkata Abhinandan Kancharla

机构 * NRI Institute of Technology（NRI理工学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文比较了三种可解释性方法在细调DistilBERT模型上的表现，发现梯度方法更稳定直观，注意力方法更高效但对相关特征对齐不足，模型无关方法灵活性高但计算成本高。

Comments 14 pages, 3 figures, comparative study of explainability methods for transformer-based NLP models; also available on Zenodo

Self-Reported Confidence of Large Language Models in Gastroenterology: Analysis of Commercial, Open-Source, and Quantized Models

大语言模型在胃肠病学中的自我报告置信度：对商业、开源和量化模型的分析

Nariman Naderi, Seyed Amir Ahmad Safavi-Naini, Thomas Savage, Zahra Atf, Peter Lewis, Girish Nadkarni, Ali Soroush

机构 * Icahn School of Medicine at Mount Sinai（西奈山伊坎医学院） ； The Charles Bronfman Institute of Personalized Medicine, Icahn School of Medicine at Mount Sinai（西奈山伊坎医学院查尔斯·布朗夫曼个性化医学研究所） ； University of Pennsylvania（宾夕法尼亚大学） ； Ontario Tech University（安大略理工大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究评估了多种大语言模型在胃肠病学板式问题上的自我报告置信度，发现高性能模型仍存在过度自信问题，凸显了LLM在医疗领域安全使用中的不确定性量化挑战。

Comments 35 pages, 5 figures, 1 table, 7 supplementary figures

Journal ref npj Gut and Liver 3, 6 (2026)

STEAR: Layer-Aware Spatiotemporal Evidence Intervention for Hallucination Mitigation in Video Large Language Models

STEAR：面向视频大语言模型的层感知时空证据干预以缓解幻觉

Linfeng Fan, Yuan Tian, Ziwei Li, Zhiwu Lu

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院） ； King Abdullah University of Science and Technology（阿卜杜拉国王科技大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 STEAR通过层感知的时空证据干预框架，缓解视频大语言模型中的空间和时间幻觉，提升解码的准确性与一致性。

Comments Preprint

H-Node Attack and Defense in Large Language Models

H-Node攻击与防御在大语言模型中

Eric Yocam, Varghese Vaidyan, Yong Wang

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出H-Node对抗噪声消除框架，通过识别并防御Transformer大语言模型中的幻觉表示，利用逻辑回归探针定位幻觉节点，通过白盒对抗攻击增强这些维度，并采用自适应防御抑制幻觉节点，提升模型鲁棒性。

Comments 17 pages, 7 figures, 6 tables

From Symbol to Meaning: Ontological and Philosophical Reflections on Large Language Models in Information Systems Engineering

从符号到意义：关于大语言模型在信息系统工程中的本体论与哲学反思

José Palazzo Moreira de Oliveira

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 大语言模型标志着信息系统工程理论基础的转折点，本文探讨其如何重构语言、意义与系统设计的关系，强调需建立透明且伦理一致的框架以尊重人类中心的知识过程。

Comments This paper constitutes a substantially extended version of a conference article to be published in the proceedings of the International Conference on Enterprise Information Systems ICEIS 2026

Adaptive Activation Cancellation for Hallucination Mitigation in Large Language Models

适应性激活取消：用于大语言模型幻觉抑制的适应性激活取消

Eric Yocam, Varghese Vaidyan, Gurcan Comert, Paris Kalathas, Yong Wang, Judith L. Mwakalonge

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出适应性激活取消方法，通过实时干预减少大语言模型的幻觉问题，同时保持模型性能和生成质量。

Comments 19 pages, 8 figures, 23 tables

Robustness Over Time: Understanding Adversarial Examples' Effectiveness on Longitudinal Versions of Large Language Models

时间鲁棒性：对抗示例在大型语言模型纵向版本中的有效性

Yugeng Liu, Tianshuo Cong, Zhengyu Zhao, Michael Backes, Yun Shen, Yang Zhang

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本文研究了大型语言模型在纵向版本中的对抗鲁棒性，发现更新并不总是提升鲁棒性，部分模型在误分类和幻觉方面有所下降。

Enhancing the Interpretability of SHAP Values Using Large Language Models

利用大语言模型增强SHAP值的可解释性

Xianlong Zeng, Kewen Zhu

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本文利用大语言模型提升SHAP值的可解释性，使非技术用户更易理解模型预测。

Comments 8 pages

Uncertainty Quantification for Multimodal Large Language Models with Incoherence-adjusted Semantic Volume

多模态大语言模型的不确定性量化：基于不一致性调整的语义体积

Gregory Kang Ruey Lau, Hieu Dao, Nicole Kan Hui Lin, Bryan Kian Hsiang Low

机构 * Department of Computer Science, National University of Singapore（新加坡国立大学计算机科学系） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 UMPIRE是一种无需训练的多模态大语言模型不确定性量化框架，通过内部特征有效捕捉语义多样性和响应不一致性，提升错误检测和不确定性校准性能。

Comments Earlier versions presented at ICLR 2025 QUESTION workshop and ICML 2025 R2-FM workshop

Layer-Targeted Multilingual Knowledge Erasure in Large Language Models

多语言知识擦除中的层目标知识擦除

Taoran Li, Varun Chandrasekaran, Zhiyuan Yu

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 MUTE通过识别语言无关的中间层实现多语言知识擦除，解决了LLMs中跨语言反向学习的泛化问题。

Are Multimodal Large Language Models Good Annotators for Image Tagging?

多模态大语言模型在图像标签任务中是好的标注者吗？

Ming-Kun Xie, Jia-Hao Xiao, Zhiqiang Kou, Zhongnian Li, Gang Niu, Masashi Sugiyama

机构 * RIKEN Center for Advanced Intelligence Project, Japan（日本先进人工智能研究中心） ； The University of Tokyo, Japan（东京大学） ； Southeast University, China（东南大学） ； China University of Mining（中国矿业大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；prompting(abstract)

AI总结 本文提出TagLLM框架，通过候选生成和标签歧义消除方法，有效缩小多模态大语言模型生成标注与人工标注之间的差距，提升图像标签任务的效率和性能。

KUDA: Knowledge Unlearning by Deviating Representation for Large Language Models

KUDA: 通过偏离表示进行大语言模型的知识卸载

Ce Fang, Zhikun Zhang, Min Chen, Qing Liu, Lu Zhou, Zhe Liu, Yunjun Gao

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 KUDA通过偏离表示方法实现大语言模型的知识卸载，有效平衡知识移除与模型实用性保留。

Comments 24 pages, 15 figures

Binary Autoencoder for Mechanistic Interpretability of Large Language Models

二进制自编码器用于大型语言模型的机制可解释性

Hakaze Cho, Haolin Yang, Yanshu Li, Brian M. Kurkoski, Naoya Inoue

机构 * University of Chicago（芝加哥大学） ； Brown University（布朗大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出二进制自编码器，通过最小化minibatch熵促进特征稀疏性和独立性，用于大型语言模型的机制可解释性研究。

Comments 36 pages, 43 figures, 3 tables

A Survey of Quantized Graph Representation Learning: Connecting Graph Structures with Large Language Models

图表示学习的综述：连接图结构与大语言模型

Qika Lin, Zhen Peng, Kaize Shi, Kai He, Yiming Xu, Jian Zhang, Erik Cambria, Mengling Feng

机构 * National University of Singapore（新加坡国立大学） ； Xi’an Jiaotong University（西安交通大学） ； University of Southern Queensland（南方昆士兰大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文综述了量化图表示学习，探讨了其与大语言模型的整合方法及未来研究方向。

Hierarchical Orthogonal Residual Spread for Precise Massive Editing in Large Language Models

层次化正交残差扩展用于大语言模型中的精确大规模编辑

Xiaojie Gu, Guangxu Chen, Yuheng Yang, Jingxin Han, Andi Zhang

机构 * Independent Researcher（独立研究者） ； UESTC ； Shanghai University（上海大学） ； University of Manchester（曼彻斯特大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出HORSE方法，通过层次化正交残差扩展实现大语言模型中的精确大规模编辑，通过理论分析和实验验证其有效性。

Comments ICASSP 2026

SCALPEL: Selective Capability Ablation via Low-rank Parameter Editing for Large Language Model Interpretability Analysis

SCALPEL：通过低秩参数编辑实现大语言模型可解释性分析中的选择性能力消融

Zihao Fu, Xufeng Duan, Zhenguang G. Cai

机构 * The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 SCALPEL通过低秩参数编辑实现大语言模型能力的细粒度分析与选择性消融，揭示能力在参数空间中的分布结构。

Translating PL/I Macro Procedures into Java Using Automatic Templatization and Large Language Models

用自动模板化和大语言模型将PL/I宏过程翻译成Java

Takaaki Tateishi, Yasuharu Katsuno

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本文提出了一种基于模板化和大语言模型的方法，用于将PL/I宏过程翻译成Java，以生成能复现原始行为的代码。

Comments 5 pages, 7 figures, to be published in ICSE 2026 NIER

Language over Content: Tracing Cultural Understanding in Multilingual Large Language Models

Seungho Cho, Changgeon Ko, Eui Jun Hwang, Junmyeong Lee, Huije Lee, Jong C. Park

机构 * KAIST（韩国釜山科学技术院） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Accepted to CIKM 2025 Workshop on Human Centric AI

Large Language Models as Information Sources: Distinctive Characteristics and Types of Low-Quality Information

Jiawei Zhou, Amy Z. Chen, Darshi Shah, Laura M. Schwab-Reese, Munmun De Choudhury

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

Vision-Centric Activation and Coordination for Multimodal Large Language Models

Yunnan Wang, Fan Lu, Kecheng Zheng, Ziyuan Huang, Ziqiang Li, Wenjun Zeng, Xin Jin

机构 * MoE Key Lab of Artificial Intelligence, Shanghai Jiao Tong University（人工智能MoE实验室，上海交通大学） ； Ant Group（蚂蚁集团） ； Ningbo Institute of Digital Twin, Eastern Institute of Technology, Ningbo（宁波数字孪生研究所，东部技术研究所，宁波） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；foundation model(abstract)

EditMark: Watermarking Large Language Models based on Model Editing

Shuai Li, Kejiang Chen, Jun Jiang, Jie Zhang, Qiyi Yao, Kai Zeng, Weiming Zhang, Nenghai Yu

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

ESI: Epistemic Uncertainty Quantification via Semantic-preserving Intervention for Large Language Models

Mingda Li, Xinyu Li, Weinan Zhang, Longxuan Ma

机构 * Harbin Institute of Technology（哈尔滨工业大学） ； Kunming University of Science and Technology（昆明理工大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

Cottontail: Large Language Model-Driven Concolic Execution for Highly Structured Test Input Generation

Haoxin Tu, Seongmin Lee, Yuxian Li, Peng Chen, Lingxiao Jiang, Marcel Böhme

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

Comments To appear on the 2026 IEEE Symposium on Security and Privacy (22 pages, with detailed Appendix)

Identifying Uncertainty in Self-Adaptive Robotics with Large Language Models

Hassan Sartaj, Jalil Boudjadar, Mirgita Frasheri, Shaukat Ali, Peter Gorm Larsen

机构 * Simula Research Laboratory（Simula研究实验室） ； Aarhus University（奥胡斯大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

Journal ref IEEE Software (2025)

The Geometry of Truth: Layer-wise Semantic Dynamics for Hallucination Detection in Large Language Models

Amir Hameed Mir

机构 * Sirraya Labs（Sirraya实验室） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Comments: 14 pages, 14 figures, 5 tables. Code available at: https://github.com/sirraya-tech/Sirraya_LSD_Code

ExeCoder: Empowering Large Language Models with Executability Representation for Code Translation

Minghua He, Yue Chen, Fangkai Yang, Pu Zhao, Wenjie Yin, Yu Kang, Qingwei Lin, Saravan Rajmohan, Dongmei Zhang

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

Comments EMNLP 2025 (Oral)

Generative Large Language Models for Knowledge Representation: A Systematic Review of Concept Map Generation

Xiaoming Zhai

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

Active Layer-Contrastive Decoding Reduces Hallucination in Large Language Model Generation

Hongxiang Zhang, Hao Chen, Muhao Chen, Tianyi Zhang

机构 * Purdue University（普渡大学） ； University of California, Davis（加州大学戴维斯分校） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

Comments 19 pages, 3 figures, EMNLP 2025

GENUINE: Graph Enhanced Multi-level Uncertainty Estimation for Large Language Models

Tuo Wang, Adithya Kulkarni, Tyler Cody, Peter A. Beling, Yujun Yan, Dawei Zhou

机构 * Virginia Polytechnic Institute and State University（弗吉尼亚理工学院和州立大学） ； Ball State University（巴尔的摩州立大学） ； Dartmouth College（达特茅斯学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Accepted by EMNLP 2025