语言大模型 / LLM

Using Large Language Models and Knowledge Graphs to Improve the Interpretability of Machine Learning Models in Manufacturing

利用大型语言模型和知识图谱提升制造领域机器学习模型的可解释性

Thomas Bayer, Alexander Lohr, Sarah Weiß, Bernd Michelberger, Wolfram Höpken

机构 * University of Applied Sciences Ravensburg-Weingarten（拉文斯堡-魏宁根应用科学大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文提出利用知识图谱和大型语言模型提升制造领域机器学习模型的可解释性，通过结构化连接领域知识与模型洞察，生成用户友好的解释，实验证明其在实际制造环境中的有效性。

Comments 14 pages, 8 figures, Submittet to conference

CoEvolve: Training LLM Agents via Agent-Data Mutual Evolution

CoEvolve：通过代理-数据互演训练LLM代理

Shidong Yang, Ziyu Ma, Tongwen Huang, Yiming Hu, Yong Wang, Xiangxiang Chu

机构 * Alibaba Group（阿里巴巴集团） ； AMAP 纠错

专题命中 知识编辑与模型理解 ：LLM(title,title_cn)；分类 cs.CL

AI总结 本文提出CoEvolve框架，通过闭环交互训练提升LLM代理性能，利用反馈信号识别失败模式并指导任务合成，实验显示在AppWorld和BFCL上显著提升表现。

Comments Accepted to ACL 2026

Applied Explainability for Large Language Models: A Comparative Study

应用于大型语言模型的可解释性：一项比较研究

Venkata Abhinandan Kancharla

机构 * NRI Institute of Technology（NRI理工学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文比较了三种可解释性方法在细调DistilBERT模型上的表现，发现梯度方法更稳定直观，注意力方法更高效但对相关特征对齐不足，模型无关方法灵活性高但计算成本高。

Comments 14 pages, 3 figures, comparative study of explainability methods for transformer-based NLP models; also available on Zenodo

Learning Uncertainty from Sequential Internal Dispersion in Large Language Models

从大型语言模型中的序列内部分散性中学习不确定性

Ponhvoan Srey, Xiaobao Wu, Cong-Duy Nguyen, Anh Tuan Luu

机构 * Nanyang Technological University（南洋理工大学） ； Shanghai Jiao Tong University（上海交通大学） ； Centre for AI Research, VinUniversity（Vin大学人工智能研究中心） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出SIVR框架，通过利用隐藏状态中的token和层级特征，以更基本的假设来估计不确定性，从而提高hallucination检测的准确性和泛化能力。

Comments Accepted at ACL 2026 (Main Conference)

Wisdom is Knowing What not to Say: Hallucination-Free LLMs Unlearning via Attention Shifting

智慧在于知道什么不说：通过注意力转移实现无幻觉的LLM去学习

Chenchen Tan, Youyang Qu, Xinghao Li, Hui Zhang, Shujie Cui, Cunjian Chen, Longxiang Gao

机构 * Faculty of Information Technology, Monash University（墨尔本大学信息科技学院） ； Key Laboratory of Computing Power Network and Information Security, Ministry of Education, Shandong Computer Science Center, Qilu University of Technology (Shandong Academy of Sciences)（教育部计算能力网络与信息安全重点实验室，山东计算机科学中心，齐鲁大学（山东科学院）） ； Shandong Provincial Key Laboratory of Computing Power Internet and Service Computing, Shandong Fundamental Research Center for Computer Science（山东省计算能力互联网与服务计算重点实验室，山东省计算机科学基础研究中心） ； School of Computer Science and Technology, Anhui University（安徽大学计算机科学与技术学院） 纠错

专题命中 知识编辑与模型理解 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出注意力转移框架，通过保留上下文抑制和抗幻觉响应塑造，提升LLM去学习效果，在保持性能的同时减少幻觉响应。

Comments Accepted by NeurIPS 2025

Harmonizing Multi-Objective LLM Unlearning via Unified Domain Representation and Bidirectional Logit Distillation

通过统一领域表示和双向logit蒸馏和谐多目标大语言模型去学习

Yisheng Zhong, Sijia Liu, Zhuangdi Zhu

机构 * George Mason University（乔治·马歇尔大学） ； Michigan State University（密歇根州立大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种多目标去学习框架，通过统一领域表示和双向logit蒸馏，解决去学习中的多个目标，包括去除不良知识、保持通用效用、避免对邻近概念的过度拒绝以及确保对抗性探测攻击的鲁棒性。

Enhancing Visual Representation with Textual Semantics: Textual Semantics-Powered Prototypes for Heterogeneous Federated Learning

通过文本语义增强视觉表示：基于文本语义的原型用于异构联邦学习

Xinghao Wu, Jianwei Niu, Xuefeng Liu, Guogang Zhu, Jiayuan Zhang, Shaojie Tang, Wei Chen

机构 * State Key Laboratory of Virtual Reality Technology and Systems, School of Computer Science and Engineering, Beihang University, Beijing, China（虚拟现实技术与系统国家重点实验室，计算机科学与工程学院，北京航空航天大学，北京，中国） ； Zhongguancun Laboratory, Beijing, China（中关村实验室，北京，中国） ； Center for AI Business Innovation, Department of Management Science and Systems, School of Management, University at Buffalo, USA（人工智能商业创新中心，管理科学与系统系，管理学院，布法罗大学，美国） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出FedTSP，利用预训练语言模型构建语义丰富的原型，以解决异构联邦学习中的数据异质性问题，提升模型收敛速度和泛化能力。

Comments Accepted by CVPR 2026 (Highlight)

RAGognizer: Hallucination-Aware Fine-Tuning via Detection Head Integration

RAGognizer: 通过检测头整合实现hallucination-aware微调

Fabian Ridder, Laurin Lessel, Malte Schilling

机构 * Computer Science Department（计算机科学系） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 RAGognizer通过整合轻量级检测头，实现hallucination-aware微调，提升内部状态分离性并减少生成hallucination。

Comments accepted at IJCNN 2026

Mechanisms of Prompt-Induced Hallucination in Vision-Language Models

视觉-语言模型中提示诱导幻觉的机制

William Rudman, Michal Golovanevsky, Dana Arad, Yonatan Belinkov, Ritambhara Singh, Carsten Eickhoff, Kyle Mahowald

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） ； Brown University（布朗大学） ； Technion（技术学院） ； University of Tübingen（图宾根大学） ； Harvard University（哈佛大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究揭示了视觉-语言模型在提示诱导幻觉中的机制，通过分析三种模型发现特定注意力头可显著减少幻觉现象，揭示了模型对提示的响应差异。

Comments ACL 2026 Main

VIB-Probe: Detecting and Mitigating Hallucinations in Vision-Language Models via Variational Information Bottleneck

VIB-Probe：通过变分信息瓶颈检测和缓解视觉-语言模型中的幻觉

Feiran Zhang, Yixin Wu, Zhenghua Wang, Xiaohua Wang, Changze Lv, Xuanjing Huang, Xiaoqing Zheng

机构 * College of Computer Science and Artificial Intelligence, Fudan University, Shanghai, China（复旦大学计算机科学与人工智能学院，上海，中国） ； Shanghai Key Laboratory of Intelligent Information Processing（上海智能信息处理重点实验室） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.AI

AI总结 本文提出VIB-Probe框架，通过变分信息瓶颈理论检测和缓解视觉-语言模型中的幻觉，利用注意力头提取判别模式并过滤语义噪声，实验表明其在多个基准上表现优异。

Teaching Language Models Mechanistic Explainability Through MechSMILES

通过MechSMILES教会语言模型机制性可解释性

Théo A. Neukomm, Zlatko Jončev, Philippe Schwaller

机构 * Laboratory of Artificial Chemical Intelligence (LIAC), Institut des Sciences et Ingénierie Chimiques, Ecole Polytechnique Fédérale de Lausanne (EPFL), Lausanne 1015, Switzerland（人工化学智能实验室（LIAC）、化学与工程学院、瑞士联邦理工学院（EPFL）、拉沃斯纳1015号） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.LG

AI总结 本文提出MechSMILES框架，通过箭头推导法教会语言模型预测化学反应机制，实现了反应路径验证、原子映射和催化剂识别等能力，展示了在复杂机制预测任务中的高准确率。

Hallucination as Trajectory Commitment: Causal Evidence for Asymmetric Attractor Dynamics in Transformer Generation

幻觉作为轨迹承诺：转换器生成中的非对称吸引子动态的因果证据

G. Aytug Akarlar

机构 * Chimera Research Initiative（Chimera研究计划） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究通过相同提示分支实验揭示幻觉是受非对称吸引子动态支配的早期轨迹承诺，发现幻觉轨迹在生成第一个词时即与事实轨迹分离，且需要多步干预才能纠正。

Comments 21 pages, 12 figures, 8 tables. Code and data: https://github.com/akarlaraytu/trajectory-commitment

Do LLMs Really Know What They Don't Know? Internal States Mainly Reflect Knowledge Recall Rather Than Truthfulness

大语言模型真的了解它们不知道的东西吗？内部状态主要反映知识回忆而非真实性

Chi Seng Cheang, Hou Pong Chan, Wenxuan Zhang, Yang Deng

机构 * Singapore Management University（新加坡国立管理学院） ； DAMO Academy, Alibaba Group（阿里集团达摩院） ； Singapore University of Technology and Design（新加坡科技设计大学） 纠错

专题命中 知识编辑与模型理解 ：pretraining(abstract)；分类 cs.CL

AI总结 本文探讨大语言模型是否真正了解其未知领域，通过分析内部状态发现其主要反映知识回忆而非真实性，提出hallucination分类方法以区分不同hallucination类型。

UA-Net: Uncertainty-Aware Network for TRISO Image Semantic Segmentation

UA-Net：用于TRISO图像语义分割的不确定性感知网络

Kyle Lucke, Zuzanna Krajewska-Travar, Shoukun Sun, Lu Cai, John D. Stempien, Min Xian

机构 * University of Idaho（爱达荷大学） ； Idaho National Laboratory（爱达荷国家实验室） 纠错

专题命中 知识编辑与模型理解 ：pretraining(abstract)；分类 cs.LG

AI总结 本文提出UA-Net框架，用于TRISO燃料微图像的五种特征区域分割及生成不确定性图。通过多阶段预训练策略和元模型，实现高精度分割与小缺陷检测，测试集上mIoU和mP达95.5%和97.3%。