语言大模型 / LLM

Dissociating the Internal Representations of Sycophancy in LLMs

区分大语言模型中谄媚行为的内部表征

Anthony Baez, Sheer Karny, Pat Pataranutaporn

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究大语言模型谄媚行为，将其表征分为事实和观点子类型，通过训练线性探针等方法评估不同模型对两子类型表征差异，为研究复杂模型行为表征结构提供了新框架。

Comments Accepted to Mechanistic Interpretability Workshop at ICML 2026

Latent Fact-Checking: Detecting Misinformation through Activation Engineering

潜在事实核查：通过激活工程检测虚假信息

Pedro T. Barcelos, Otávio Parraga, Marcelo M. Mussi, Lucas M. Fraga, Lucas S. Kupssinskü, Rodrigo C. Barros

机构 * PUCRS（巴西天主教大学（里约格兰德 do 苏里）） ； Kunumi Institute（库纳米研究所） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；prompting(abstract)；分类 cs.CL、cs.LG

AI总结 本研究提出基于激活工程的虚假信息检测框架，通过对比激活引出潜在空间的虚假信息方向，在多类模型和基准上实现了优于部分基线的检测性能，为可解释性驱动的虚假信息检测提供了新方向。

Comments 13 pages

Text Corpora as Concept Fields: Black-Box Hallucination and Novelty Measurement

文本语料作为概念场：黑箱幻觉与新颖性度量

Nicholas S. Kersting, Vittorio Castelli, Chieh Ting Yeh, Xinzhu Wang, Saad Taame, Khaoula Allak

机构 * Oracle Corporation（Oracle公司） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 本文提出文本语料的概念场，通过句子嵌入空间中连续句子的delta差异估计局部漂移场。引入向量序列数据库存储嵌入与序列位置及下一delta元数据，用于评估候选句子转换的同意分数。在联邦法规和古腾堡计划上验证了该方法在幻觉检测和新颖性检测中的有效性。

Comments 30 pages, 10 figures, 17 tables; additional analysis in appendix added

Explainability in Practice: A Survey of Explainable NLP Across Various Domains

实践中的可解释性：跨领域可解释自然语言处理综述

Hadi Mohammadi, Robert A. Bagheri, Anastasia Giachanou, Daniel L. Oberski

机构 * Department of Methodology and Statistics, Utrecht University, The Netherlands（方法论与统计学系，乌得勒支大学，荷兰） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本综述针对实际部署的可解释NLP，覆盖7个应用领域，提出两级评估协议，探讨研究缺口并给出未来方向，为跨领域XNLP实践提供参考。

Comments 32 pages, 5 figures, 15 tables, 257 references. Under review at the Journal of Information Science. Supplementary materials and structured data: https://github.com/mohammadi-hadi/xnlp-survey

A Fortran General-Purpose Transpiler: Proof of Concept

Fortran通用转译器：概念验证

Shivamshan Sivanesan, Kazem Ardaneh

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对Fortran专业知识断层问题，提出基于Python的FGPT编译器框架，可将Fortran转译为适配GPU或自动微分的代码，经气候建模内核验证，能自动生成正确的Python实现，为遗留Fortran代码现代化提供可靠路径。

Comments 19 pages, 14 figures, proof of concept

Breaking the Curse of Multilinguality in Many-to-Many Speech-to-Text Translation via a Resource-Aware Mixture of Speech Encoders

通过资源感知型语音编码器混合模型打破多对多语音到文本翻译中的多语言性诅咒

Yexing Du, Kaiyuan Liu, Youcheng Pan, Bo Yang, Chengpeng Fu, Yu Wang, Ming Liu

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 针对多对多语音到文本翻译中的多语言性诅咒问题，提出资源感知型MoSE框架与五阶段课程学习策略，其4B参数模型在45种语言的全方向翻译任务上实现最优性能，显著提升低资源语言表现且不损害高资源性能。

The production of meaning in the processing of natural language

自然语言处理中意义产生的机制

Christopher J. Agostino, Quan Le Thien, Nayan D'Souza, Louis van der Elst

机构 * Department of Physics, Indiana University（印第安纳大学物理系） ； Department of Linguistics, Indiana University（印第安纳大学语言学系） ； Imperial College London（伦敦帝国学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究自然语言处理中意义产生的机制，探讨量子逻辑与经典布尔理论在语义处理中的差异，分析模型在不同参数下的表现及对安全交互的影响。

Comments Accepted to QNLP 2026, 9 pages, 3 figures, 2 tables

Geometric Analysis of Token Selection in Multi-Head Attention

多头注意机制中令牌选择的几何分析

Timur Mudarisov, Mikhal Burtsev, Tatiana Petrova, Radu State

机构 * University of Luxembourg（卢森堡大学） ； London Institute for Mathematical Sciences（伦敦数学科学研究所） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本研究通过几何分析揭示了多头注意力机制中令牌选择的结构特性，提出了精度、召回率和F分数等指标，并展示了头部在不同制度下的几何特征。

APPO: Agentic Procedural Policy Optimization

APPO: 智能体程序策略优化

Xucong Wang, Ziyu Ma, Yong Wang, Yuxiang Ji, Shidong Yang, Guanhua Chen, Pengkun Wang, Xiangxiang Chu

机构 * University of Science and Technology of China（中国科学技术大学） ； AMAP, Alibaba Group（阿里巴巴集团高德地图） ； Southern University of Science and Technology（南方科技大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出APPO方法，通过细粒度分支和程序级优势缩放改进智能体强化学习的信用分配，在13个基准上平均提升近4个点。

Comments 25 pages, including 14 pages of main text and 11 pages of appendix; work in progress

MOON2.0: Dynamic Modality-balanced Multimodal Representation Learning for E-commerce Product Understanding

MOON2.0：动态模态平衡多模态表示学习用于电商产品理解

Zhanheng Nie, Chenghan Fu, Daoze Zhang, Junxian Wu, Wanxian Guan, Pengjie Wang, Jian Xu, Bo Zheng

机构 * Alibaba Group（阿里巴巴集团） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 MOON2.0通过动态模态平衡框架解决电商多模态数据中的模态不平衡、信息对齐不足和噪声处理问题，提出MoE、双层对齐和图像-文本共增强策略，提升零样本性能和多模态对齐质量。

Comments Accepted by the IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2026. 11 pages, 7 figures

OPIUM: Mitigating Steering Externalities and Over-Refusal via Dual Objective Latent Optimization

OPIUM：通过双目标潜在优化减轻引导外部性和过度拒绝

Kavin Aravindan, Arihant Rastogi, Krishak Aneja, Aadi Prasad, Saiyam Jain, Vaishnavi Shivkumar, Ponnurangam Kumaraguru

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究激活引导向量存在的外部性问题，提出无训练方法OPIUM，通过表示匹配净化引导向量，在给定参考行为下优化新向量，改善安全与效用权衡，减轻激活引导的有害副作用。

Comments Accepted to the Mechanistic Interpretability Workshop at the 43rd International Conference on Machine Learning (ICML 2026)

More Edits, More Stable: Understanding the Lifelong Normalization in Sequential Model Editing

更多编辑，更稳定：理解连续模型编辑中的终身规范化

Xin Ma, Wei Chen, Qi Liu, Derong Xu, Zhi Zheng, Tong Xu, Enhong Chen

机构 * State Key Laboratory of Cognitive Intelligence, University of Science and Technology of China（认知智能国家重点实验室，中国科学技术大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文研究了连续模型编辑中的终身规范化，提出理论分析揭示其自增强稳定性循环，并通过StableEdit提升长期稳定性。

Comments Accepted to ICML 2026

Code-MUE: Measuring Code LLMs' Uncertainty through Execution-based Semantic Interaction Graphs

Code-MUE：通过基于执行的语义交互图测量代码语言模型的不确定性

Xiaoning Ren, Yinxing Xue, Lei Ma, Yuheng Huang

机构 * Xi’an Jiaotong University（西安交通大学） ； Institute of AI for Industries, Chinese Academy of Sciences（中国科学院人工智能产业研究院） ； The University of Tokyo（东京大学） ； University of Alberta（阿尔伯塔大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对代码语言模型内在随机性带来的风险，引入纯黑盒框架Code-MUE，通过基于执行的语义交互图测量不确定性，经大规模实证研究验证其与功能正确性强负相关，优于基线，可实现风险检测和选择性预测。

Comments To appear at The ACM SIGSOFT International Symposium on Software Testing and Analysis (ISSTA) 2026

Analysing Moral Bias in Finetuned LLMs through Mechanistic Interpretability

通过机制可解释性分析微调语言模型中的道德偏见

Bianca Raimondi, Daniela Dalbagno, Maurizio Gabbrielli

机构 * Department of Computer Science and Engineering, University of Bologna, Bologna, Italy（计算机科学与工程系，博洛尼亚大学，意大利博洛尼亚） ； Center for Studies and Research in Cognitive Neuroscience, Department of Psychology, University of Bologna, Cesena, Italy（认知神经科学研究中心，心理学系，博洛尼亚大学，意大利塞森纳） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究微调后大语言模型中的道德偏见，通过层修补分析发现诺布效应不仅在微调时习得且定位在特定层，将预训练模型激活修补到关键层可消除该效应，为通过干预解释、定位和缓解模型社会偏见提供新证据。

Comments Preprint. Under review

PRISM Edit: One Vector for All Temporal Answers

PRISM Edit：适用于所有时间答案的单一向量

Chen Huang, Qi Zheng, Ruiqin Zheng, Long Zeng, Yuantong Xu

机构 * Tsinghua University（清华大学） ； ByteDance（字节跳动） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对大语言模型时间事实更新问题，基于因果追踪发现其内部计算支持新旧答案区分，进而引入PRISM Edit，通过优化单一多义词表示及利用固有调制路径，在新基准上评估，相比基线提升了时间一致性等指标且速度更快。

Comments Chen Huang and Qi Zheng contributed equally. Corresponding authors: Long Zeng, Yuantong Xu

On the Effect of Uncertainty on Layer-wise Inference Dynamics

不确定性对逐层推理动态的影响

Sunwoo Kim, Haneul Yoo, Alice Oh

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 通过Tuned Lens分析11个数据集和5个模型，发现确定与不确定预测的逐层概率轨迹高度一致，表明不确定性不影响推理动态，但更强大的模型可能以不同方式处理不确定性。

Comments Accepted to Actionable Interpretability Workshop - ICML 2025

AI Agents Can Already Autonomously Perform Experimental High Energy Physics

AI智能体已能自主执行实验高能物理研究

Eric A. Moreno, Samuel Bright-Thonney, Andrzej Novak, Dolores Garcia, Philip Harris

机构 * Massachusetts Institute of Technology（麻省理工学院） ； NSF AI Institute for Artificial Intelligence and Fundamental Interactions（国家科学基金会人工智能与基本相互作用研究所） ； CERN（欧洲核子研究中心） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 基于大语言模型的AI智能体自主执行高能物理分析全流程，提出JFC框架整合文献检索与多智能体审查，在ALEPH、DELPHI和CMS开放数据上验证，首次由AI自主产生新颖物理结果，旨在减轻技术负担而非取代物理学家。

Vector Quantized Latent Concepts: A Scalable Alternative to Clustering-Based Concept Discovery

向量量化潜在概念：聚类式概念发现的可扩展替代方案

Xuemin Yu, Ankur Garg, Samira Ebrahimi Kahou, Hassan Sajjad

机构 * Dalhousie University, Canada（加拿大达尔豪斯大学） ； University of Calgary, Canada（加拿大卡尔加里大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 提出VQLC框架，通过向量量化学习离散潜在概念，在保持可解释性的同时，实现与K-Means相当的计算效率，并优于层次聚类在大规模数据上的扩展性。

When Do Attention Circuits Form? Developmental Trajectories of Capability and Attention-Sink Emergence Across Three 1B-ClassArchitectures

注意力电路何时形成？三种1B级架构中能力和注意力汇出现的发育轨迹

Yongzhong Xu

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 本文追踪三种1B级语言模型中注意力头电路的形成轨迹，发现归纳电路形成早于注意力汇形成10-20倍令牌，且电路识别无需最终模型。

Comments 27pages, 3 figures

Generating Concept Lexicalizations via Dictionary-Based Cross-Lingual Sense Projection

基于词典的跨语言语义投影生成概念词汇化

David Basil, Chirooth Girigowda, Bradley Hauer, Sahir Momin, Ning Shi, Grzegorz Kondrak

机构 * University of Toronto（多伦多大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 提出一种通过语义投影将英语WordNet概念扩展到新语言的方法，利用双语词典增强对齐并过滤错误投影，在多个语言上提升了精度且保持可解释性和资源效率。

Comments Paper presented at Canadian AI 2026

SARATR-X-v2: Scale-Aware Structural Pre-Training for SAR Foundation Models

SARATR-X-v2：合成孔径雷达基础模型的尺度感知结构预训练

Weijie Li, Yafei Song, Yongxiang Liu, Bowen Peng, Jie Zhou, Jingyuan Xia, Wei Yang, Tianpeng Liu, Zhen Liu, Li Liu

专题命中 知识编辑与模型理解 ：foundation model(title)

AI总结 研究针对SAR预训练中重建目标设计未确定的问题，提出应满足物理稳定性和语义尺度兼容性。通过SARATR-X-v2协调两者，其目标由固定结构提取器构建并融合成监督信号，在多个基准测试中性能最优，确立了预训练目标设计框架。

Do LLMs Know Their Vulnerable Scenarios?

大语言模型知道它们的脆弱场景吗？

Ziheng Peng, Huiqi Deng, Haoran Jing, Xuankun Rong, Jiahui Han, Xiting Wang, Na Zou, Xia Hu

机构 * Renmin University of China（中国人民大学） ； Xi’an Jiaotong University（西安交通大学） ； University of Science and Technology of China（中国科学技术大学） ； Wuhan University（武汉大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究大语言模型在特定场景下的脆弱性，提出Concept2Scenario框架，通过实例化概念空间、归因拒绝抑制等步骤发现脆弱场景，在多模型和基准测试中验证，能提高攻击成功率、可迁移且组合效果优。

Comments 19 pages, 11 Figures, Under Review

Is CLIP Cross-Eyed? Revealing and Mitigating Center Bias in the CLIP Family

CLIP是否双目偏视？揭示并缓解CLIP家族中的中心偏差

Oscar Chew, Hsiao-Ying Huang, Kunal Jain, Tai-I Chen, Khoa D Doan, Kuan-Hao Huang

机构 * Texas A&M University（德克萨斯A&M大学） ； National Taiwan University（国立台湾大学） ； ASUS（华硕） ； VinUniversity 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；prompting(abstract)；分类 cs.CL

AI总结 研究揭示CLIP家族模型存在中心偏差问题，导致对图像边缘重要物体识别困难，通过可解释方法分析发现嵌入表示和注意力机制中的信息丢失是原因，提出无需训练的视觉提示和注意力重分布策略缓解偏差。

Comments COLM 2026

TGIF: Text-Guided Layer Fusion Mitigates Hallucination in Multimodal LLMs

基于文本引导的层融合缓解多模态大语言模型中的幻觉

Chenchen Lin, Sanbao Su, Rachel Luo, Yuxiao Chen, Yan Wang, Marco Pavone, Fei Miao

机构 * University of Connecticut（康涅狄格大学） ； NVIDIA（NVIDIA公司） ； Stanford University（斯坦福大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 TGIF通过文本引导的层融合方法，有效缓解多模态大语言模型中的幻觉问题，提升视觉接地能力。

Comments Accepted at COLM 2026

Skill-RAG: Failure-State-Aware Retrieval Augmentation via Hidden-State Probing and Skill Routing

Skill-RAG: 通过隐藏状态探测与技能路由实现故障状态感知的检索增强

Kai Wei, Raymond Li, Xi Zhu, Zhaoqian Xue, Jiaojiao Han, Jingcheng Niu, Fan Yang

机构 * University of Michigan（密歇根大学） ； University of British Columbia（不列颠哥伦比亚大学） ； Rutgers University（罗格斯大学） ； University of Pennsylvania（宾夕法尼亚大学） ； New Jersey Institute of Technology（新泽西理工学院） ； TU Darmstadt（图腾斯大学） ； Wake Forest University（威克森林大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出Skill-RAG框架，通过轻量级隐藏状态探测器和基于提示的技能路由器，在检索失败时诊断原因并选择四种技能（查询重写、问题分解、证据聚焦、退出）纠正查询-证据错位，显著提升多轮检索后困难案例的准确性。

Social World Models

社交世界模型

Xuhui Zhou, Jiarui Liu, Akhila Yerukola, Hyunwoo Kim, Maarten Sap

机构 * Language Technologies Institute, Carnegie Mellon University, Pittsburgh, PA, USA（卡内基梅隆大学语言技术研究所） ； NVIDIA, Santa Clara, CA, USA（英伟达） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文提出社交世界模型（SWMs）及结构化社交世界表示形式（S3AP），通过显式建模隐藏心理状态提升AI在社交推理任务中的性能。

Equivariant Sparse Autoencoders: Mechanistic Interpretability of Neural Networks on Symmetric Data

等变稀疏自编码器：对称数据上神经网络的机制可解释性

Ege Erdogan, Ana Lucic

机构 * University of Amsterdam（阿姆斯特丹大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 该研究针对稀疏自编码器在对称数据上的不可识别问题，提出等变稀疏自编码器，可避免缺陷并发现更有用的下游任务特征，表明重构质量与特征实用性在对称下可能负相关。

Comments NeurIPS 2025 Mechanistic Interpretability and UniReps workshops

TopoChunker: Topology-Aware Agentic Document Chunking Framework

TopoChunker：基于拓扑的代理文档分块框架

Xiaoyu Liu

机构 * Independent Researcher（独立研究者） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 本文提出TopoChunker，通过结构化中间表示保留跨段依赖，提升RAG的结构感知能力，实验显示其在生成准确率和召回率上优于现有方法，同时降低token开销。

Comments Accepted by NLPCC 2026

Towards Structurally Explainable Machine-Generated Text Detection: A Graph-Perspective Framework

面向结构可解释的机器生成文本检测：一种图视角框架

Xu Zheng, Zhuomin Chen, Esteban Schafir, Sipeng Chen, Hojat Allah Salehi, Haifeng Chen, Farhad Shirani, Mo Sha, Wei Cheng, Dongsheng Luo

机构 * Florida International University（佛罗里达国际大学） ； NEC Laboratories America（NEC美洲实验室） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 针对机器生成文本检测的黑箱局限，本文提出 \textsc{LM$^2$otifs} 图视角框架，通过词汇共现图与图神经网络实现检测，其结构基序的可解释性与性能均优于传统方法。

ASCD: Attention-Steerable Contrastive Decoding for Reducing Hallucination in MLLM

ASCD：用于减少多模态大语言模型（MLLM）幻觉的注意力可导向对比解码

Yujun Wang, Aniri, Jinhe Bi, Soeren Pirk, Yunpu Ma

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 该研究针对MLLM的幻觉问题，提出ASCD方法，通过正负引导调整解码时的注意力分数，在多基准上显著减少幻觉并提升VQA准确率，且无需额外训练。

Comments Accepted at AAAI 2026

Journal ref Proceedings of the AAAI Conference on Artificial Intelligence, 40(12): 10306-10314, 2026