语言大模型 / LLM

The Lattice Representation Hypothesis of Large Language Models

大语言模型的晶格表示假说

Bo Xiong

机构 * Stanford University（斯坦福大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文提出大语言模型的晶格表示假说，通过嵌入几何将概念层次和逻辑运算统一到线性表示中，实验表明LLM嵌入编码概念晶格及其逻辑结构。

Comments Published at ICLR 2026

Toward Reasonable Parrots: Why Large Language Models Should Argue with Us by Design

走向合理的鹦鹉：为何大型语言模型应通过设计与我们辩论

Elena Musi, Nadin Kokciyan, Khalid Al-Khatib, Davide Ceolin, Emmanuelle Dietz, Klara Gutekunst, Annette Hautli-Janisz, Cristian Manuel Santibañez Yañez, Jodi Schneider, Jonas Scholz, Cor Steging, Jacky Visser, Henning Wachsmuth

机构 * University of Liverpool（利兹大学） ； University of Edinburgh（爱丁堡大学） ； University of Groningen（格罗宁根大学） ； Centrum Wiskunde & Informatica（数学与信息学研究中心） ； Airbus Central R&T（空客中央研发与技术部） ； University of Kassel（卡塞尔大学） ； University of Passau（帕绍大学） ； Universidad de Católica de la Santísima de Concepción（圣地亚哥圣母大学） ； University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of Dundee（邓迪大学） ； Leibniz University Hannover（汉诺威莱布尼茨大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 本文提出通过设计使大型语言模型具备辩论能力，以提升人类批判性思维。

LLM-Based vs. Lexicon-Based Sentiment Signals for Tail-Risk Detection in Meme Stocks

基于大语言模型与基于词典的情绪信号在表情包股票尾部风险检测中的比较

Paul Kilian, Markus Kleffmann

机构 * IU International University of Applied Sciences（IU国际应用科学大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 比较基于词典和基于大语言模型的情绪分析在表情包股票尾部风险检测中的应用，构建情绪指标并评估与市场回报关系，结果显示基于LLM的指标表征更丰富，但与市场走势关系因资产而异。

Comments 10 pages, 1 figure, 4 tables

D-Score: A Spectral Hidden-State Signal for Hallucination Detection in Large Language Models

D分数：一种用于大语言模型中幻觉检测的谱隐藏状态信号

Bianca Raimondi, Davide Evangelista, Maurizio Gabbrielli, Elena Loli Piccolomini

机构 * Department of Computer Science and Engineering, University of Bologna（博洛尼亚大学计算机科学与工程系） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究大语言模型幻觉检测，提出基于隐藏激活几何结构的D分数，通过单次前向传播计算，用作幻觉分数。经实验验证，该分数是强大的隐藏状态信号，检测时无需外部验证器等，为幻觉检测提供新方法。

Comments Preprint. Under review

Attention-Guided Layer Selection for Contrastive Decoding in Large Language Models

大语言模型中用于对比解码的注意力引导层选择

Yusuke Sakai, Natthawut Kertkeidkachorn, Kiyoaki Shirai

机构 * Japan Advanced Institute of Science and Technology（日本先进科学技术学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究大语言模型中对比解码的层选择问题，提出Attention-JSD等三种基于注意力引导的策略，实验表明这些策略在TruthfulQA上优于原始DoLa，在多答案指标上有显著提升，凸显注意力分布在解决事实性知识上的优势。

ProvenanceGuard: Source-Aware Factuality Verification for MCP-Based LLM Agents

ProvenanceGuard: 基于MCP的LLM智能体的源感知事实性验证

Ander Alvarez, Santhiya Rajan, Samuel Mugel, Román Orús

机构 * Multiverse Computing ； Parque Cientifico y Tecnológico de Gipuzkoa（吉普斯夸科技园） ； Centre for Social Innovation（社会创新中心） ； Donostia International Physics Center（多诺斯蒂亚国际物理中心） ； Ikerbasque Foundation for Science（伊克尔巴斯克科学基金会） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,title_cn)；分类 cs.CL、cs.AI

AI总结 提出ProvenanceGuard，一种源感知验证器，通过追踪MCP工具调用、分解声明并路由到特定源，检测跨源混淆错误，在医疗领域数据集上优于源无关基线。

Comments 20 pages, 4 figures

TRE: Training-Free Hallucination Detection for Diffusion Language Models

TRE：用于扩散语言模型的无训练幻觉检测

Pengcheng Weng, Yanyu Qian, Yue Tan, Yixin Liu

机构 * University of Bern（伯尔尼大学） ； Nanyang Technological University（南洋理工大学） ； Griffith University（格里菲斯大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)；分类 cs.AI

AI总结 针对扩散语言模型的幻觉问题，现有方法有局限。本文提出无训练的TRE指标，通过在模型解码过程中沿时空维度提取熵信号来估计幻觉风险，经实验验证其性能有竞争力，具有泛化性、效率和鲁棒性等优点。

Comments 25 pages

Entropy Sentinel: Probing Entropy Traces for LLM Monitoring

熵哨兵：基于STEM解码熵迹的连续LLM准确性监控

Pedro Memoli Buffa, Luciano Del Corro

机构 * Departamento de Matematica, FCEyN Universidad de Buenos Aires（数学系，布宜诺斯艾利斯大学） ； ELIAS Lab, Departamento de Ingeniería Universidad de San Andres（ELIAS实验室，圣安德烈斯大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,title_cn)；分类 cs.CL

AI总结 提出利用输出熵迹作为推理时信号，通过轻量分类器预测实例正确性并聚合为领域级准确性估计，在STEM推理基准上验证了其用于监控和数据采集的有效性。

Training-Driven Representational Geometry Modularization Predicts Brain Alignment in Language Models

训练驱动的表征几何模块化预测语言模型中的脑对齐

Yixuan Liu, Zhiyuan Ma, Likai Tang, Runmin Gan, Xinche Zhang, Jinhao Li, Chao Xie, Sen Song

机构 * School of Biomedical Engineering, Tsinghua University, Beijing, China（生物医学工程学院，清华大学，北京，中国） ； Tsinghua Laboratory of Brain and Intelligence, Tsinghua University, Beijing, China（脑与智能实验室，清华大学，北京，中国） ； School of Basic Medical Sciences, Tsinghua University, Beijing, China（基础医学学院，清华大学，北京，中国） ； Department of Psychological and Cognitive Sciences, Tsinghua University, Beijing, China（心理学与认知科学系，清华大学，北京，中国） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL

AI总结 本研究通过训练驱动的表征几何模块化，发现语言模型中的低复杂度模块能更准确预测人类大脑语言网络活动，揭示了表征平滑对神经样语言处理的作用。

Journal ref Proceedings of the Annual Meeting of the Cognitive Science Society, 48 (2026), 167-174

Extracting Algorithms in Pre-trained LLMs: A Case on Hidden Markov Models

从预训练语言模型中提取算法：以隐马尔可夫模型为例

Yijia Dai, Zhaolin Gao, Yahya Sattar, Jennifer J. Sun, Sarah Dean

机构 * Cornell University（康奈尔大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究预训练语言模型从隐马尔可夫模型预测下一个观测值的能力背后算法，通过三阶段流程，先实证比较缩小候选算法范围，再推导理论联系并验证，最后引入主激活探针揭示低维线性表示及变化，将其上下文行为与内部机制联系起来。

DeepFaith: Evidence-Grounded LLMs for Faithful Incident Reporting in Multi-Stage APT Defense

深度信念：用于多阶段APT防御中忠实事件报告的基于证据的大语言模型

Trung V. Phan, Tri Gia Nguyen, Thomas Bauschert

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 针对多阶段APT防御中事件报告难检测解释、输出难理解及大语言模型内容缺乏依据等问题，提出深度信念框架，通过集成多种技术确保生成陈述有依据，实验表明该框架能提升多项指标，为安全运营中心提供可靠报告。

Comments This paper has been submitted to the IEEE International Conference on Network and Service Management (CNSM) 2026

Rethinking Prospect Theory for LLMs: Revealing the Instability of Decision-Making under Epistemic Uncertainty

重新思考用于大语言模型的前景理论：在认知不确定性下决策的不稳定性

Rui Wang, Qihan Lin, Jiayu Liu, Qing Zong, Tianshi Zheng, Dadi Guo, Haochen Shi, Peixuan Han, Weiqi Wang, Yangqiu Song

机构 * Hong Kong University of Science and Technology（香港科技大学） ； Huazhong University of Science and Technology（华中科技大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文重新审视前景理论在大语言模型中的应用，发现其在认知不确定性下的决策稳定性存在问题，指出前景理论可能无法可靠地处理此类不确定性。

TriShieldRAG: A Three-Ring Defense-in-Depth Framework Against Knowledge Corruption in Retrieval-Augmented Generation

TriShieldRAG：一种针对检索增强生成中知识腐败的三环深度防御框架

Susil Kumar Mohanty, Rohit Patel, Kosuru Yuvaraj, Jeenal Chaudhary, Disha Singhania

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究针对检索增强生成中知识腐败问题，构建TriShieldRAG框架，设置摄取防护、检索评分器和跨语言模型共识阶段三个环，推导环2和环3起作用的条件，评估表明该框架能大幅降低攻击成功率并保持良性查询准确性。

Reference Feature Atlases for Mechanistic Auditing of Language Models

用于语言模型机制审计的参考特征图谱

Rui Wu, Tong Che

机构 * Rutgers University（罗格斯大学） ； NVIDIA Research（英伟达研究院） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.AI

AI总结 该研究提出参考特征图谱用于语言模型审计，通过拟合线性解码器实现，有图谱和残差两个互补通道。在多模型上训练并审计米斯特拉尔和文心一言目标，残差通道能控制植入机制，还揭示文心一言相关集群，为模型审计提供新方法。

Emergent Symbolic Structure in Health Foundation Models: Extraction, Alignment, and Cross-Modal Transfer

健康基础模型中的涌现符号结构：提取、对齐与跨模态迁移

Gajendra Katuwal, Advait Koparkar, Salar Abbaspourazad, Anshuman Mishra, Sarvesh Kirthivasan

机构 * Apple（苹果公司） 纠错

专题命中 知识编辑与模型理解 ：foundation model(title,abstract)；分类 cs.LG

AI总结 本文提出一种训练后框架，通过分解冻结嵌入以提取可解释的符号，用于对齐嵌入空间。在PPG和加速度计数据上验证，发现符号能选择性关联健康状况和生理属性，并支持跨模态迁移。

Comments 8 pages, Mechanistic Interpretability Workshop at the 43rd International Conference on Machine Learning, 4 main figures

Journal ref Mechanistic Interpretability Workshop at the 43 rd International Conference on Machine Learning, Seoul, South Korea, 2026

Bifrost: Empowering Pretrained Language Model with Fallibility Representation for Log-Based Fault Diagnosis

Bifrost：利用基于日志的故障诊断的可错性表示赋能预训练语言模型

Minghua He, Tong Jia, Lingzhe Zhang, Chiming Duan, Xinlong Zhao, Leyi Pan, Cheng Wang, Kangjin Wang, Yinghao Yu, Liping Zhang, Yifan Wu, Ying Li

专题命中 知识编辑与模型理解 ：language model(title,abstract)

AI总结 研究基于日志的故障诊断问题，提出Bifrost方法，借鉴站点可靠性工程师经验，基于自监督对比学习设计策略学习日志可错性表示，在多个系统中其生成的日志表示在故障诊断相关指标上优于现有PLMs。

Comments Accepted by ASE 2026 (Research Track)

Through the Bottleneck: How Multi-head Latent Attention Separates Content from Position in Language Models

穿越瓶颈：多头潜在注意力如何在语言模型中分离内容与位置

Dhruvil S, Fenil Sojitra, Ravirajsinh Chauhan

机构 * Indian Institute of Technology Madras（印度理工学院马德拉斯分校） ； P P Savani University（P P萨瓦尼大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究多头潜在注意力（MLA）在语言模型中如何分离内容与位置。通过训练特定Transformer并运用多种分析方法，发现其瓶颈能保留内容丢弃位置信息，归纳头集中在单层，有“语义中心”层，且瓶颈容量供应过剩，重塑了模型相关结构。

Schema-Aware Localisation (SAL): Live Schema Grounding and Hallucination Validation for Oracle NL2SQL

模式感知本地化（SAL）：用于Oracle NL2SQL的实时模式基础与幻觉验证

Sanjay Mishra, Divya Chukkapalli, Ganesh R. Naik

机构 * Torrens University Australia（澳大利亚托伦斯大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究大型语言模型在Oracle数据库执行SQL失败的问题，提出模式感知本地化（SAL）轻量级中间件，通过构建实时模式映射、注入上下文及幻觉索引验证等方法，提升执行基础真值，减少执行失败率。

Comments 18 pages , 3 figures , 14 tables ,1 algorithm

Wired for Overconfidence: A Mechanistic Perspective on Inflated Verbalized Confidence in LLMs

为自信所束缚：对大语言模型中过度自信的机械视角分析

Tianyi Zhao, Yinhan He, Wendy Zheng, Yujie Zhang, Chen Chen

机构 * University of Virginia（弗吉尼亚大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究探讨了大语言模型中过度自信的机制，发现中间层的MLP块和注意力头会生成自信信号，并通过干预提升校准性。

Comments COLM 2026

Robust Interpretation of Historical Documents in Knowledge Graphs Through Query Inference and Execution

通过查询推理和执行对知识图谱中的历史文档进行鲁棒解释

Sebastià Nicolau, Adrià Molina, Oriol Ramos Terrades, Josep Lladós

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 研究如何在利用大语言模型泛化能力时保证可靠性，提出智能检索系统，比较传统RAG与智能GraphRAG架构，引入半符号框架，通过单词识别与代码生成协作构建鲁棒检索查询，提升历史文档分析准确性与可验证性。

Comments Accepted at ICDAR2026

Robust Conformalized Selection with Noisy Responses

具有噪声响应的鲁棒共形选择

Chengyao Yu, Hongxin Wei, Bingyi Jing

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究在含噪声响应数据下的选择问题，提出鲁棒共形选择框架RCS，通过将标签噪声转化为协变量偏移问题，实现有效FDR控制，经实验验证了该方法在模拟和真实数据集上的有效性。

Neural Message-Passing on Attention Graphs for Hallucination Detection

基于注意力图的神经消息传递用于幻觉检测

Fabrizio Frasca, Guy Bar-Shalom, Yftah Ziser, Haggai Maron

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究大语言模型幻觉检测问题，提出CHARM方法，将其视为图学习任务，通过在属性图上应用图神经网络解决，实验证明该方法优于其他方法，揭示图结构作用，展现跨数据集转移的零样本性能。

Comments ICLR 2026

ATLAS: Multi-View Code Representation Tool for C and C++ Source Programs

ATLAS: C和C++源代码的多视图代码表示工具

Jaid Monwar Chowdhury, Ahmad Farhan Shahriar Chowdhury, Humayra Binte Monwar, Mahmuda Naznin

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)

AI总结 提出ATLAS工具，无需完整构建即可为C/C++生成对齐的AST、CFG和DFG，支持部分输入，输出JSON/DOT/PNG，在TheAlgorithms语料上CFG正确率达96.80%（C）和91.67%（C++）。

Comments 5 pages, 4 figures, 2 tables; Video demonstration: https://youtu.be/50DvEbenp14; Tool repository: https://github.com/jaid-monwar/ATLAS-multi-view-code-representation-tool.git

When Activation Oracles Learn Not to Read: Concept-Specific Blind Spots in Fine-Tuned Oracles

当激活预言机学会不读取时：微调预言机中的特定概念盲点

Tobias Bersia, Tatiana Gaintseva

机构 * Queen Mary University of London（伦敦玛丽女王大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究在禁忌词猜测设置下，激活预言机经微调后成为特定概念反读取器的现象，发现其无法恢复自身训练时存在的概念，失败源于读取路径，揭示了行为泄漏等因素可分离，引发对可解释性接口可靠性的担忧。

Hallucination Rates in Language Generation

语言生成中的幻觉率

Debmalya Panigrahi, Fan Wei, Ian Zhang

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究有（无限）幻觉的语言生成极限，表明即使幻觉率为0也使极限生成更强大，展示了由幻觉率和生成目标语言比例表征的语言集合严格层次结构，确立幻觉率为语言生成理论研究的重要参数。

KANEx: Translating Kolmogorov-Arnold Networks' Interpretability to Medical Explainability

KANEx：将柯尔莫哥洛夫-阿诺德网络的可解释性转化为医学可解释性

Krithi Shailya, Ananya Lakshmi Ravi, Venkatanathan K. V., Sowmya S. Sundaram, Gokul S. Krishnan, Aditi Anand, Balaraman Ravindran

机构 * Indian Institute of Technology Madras（印度理工学院马德拉斯分校） ； Vanderbilt University School of Medicine（范德堡大学医学院） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI

AI总结 研究针对医学应用中视觉模型黑箱问题，提出KANEx框架，利用柯尔莫哥洛夫-阿诺德网络的符号透明度为VLM推理奠基，设计KAN-Map热图生成方法，经实验验证该方法能提升语义相似度、视觉定位及推理质量，为可信医学人工智能发展助力。

Comments MICCAI 2026

DuoAD: Leveraging [CLS] Dual Characteristics for Training-Free Few-Shot Anomaly Detection

DuoAD：利用[CLS]双重特征进行无训练少样本异常检测

Jyun-Ze Tang, Po-Han Huang, Ming-Ching Chang, Chih-Fan Hsu, Jeng-Lin Li

机构 * Inventec Corporation（英业达股份有限公司） ； University at Albany, State University of New York（纽约州立大学奥尔巴尼分校） 纠错

专题命中 知识编辑与模型理解 ：foundation model(abstract)；分类 cs.AI

AI总结 研究针对现有视觉基础模型无训练异常检测依赖局部特征、未充分利用全局信息的问题，提出DuoAD框架，利用ViT [CLS]令牌双重特征，通过自动增强选择和注意力引导特征重加权实现无训练少样本异常检测，取得优异结果并建立新的技术水平。

Comments Code: https://github.com/inventec-ai-center/DuoAD

Parallel Tokenizers: Rethinking Encoder Models' Vocabulary Design in Cross-Lingual Transfer of Low-Resource Languages

并行分词器：重新思考低资源语言跨语言转移中编码器模型的词汇设计

Muhammad Dehan Al Kautsar, Fajri Koto

机构 * Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL

AI总结 针对低资源语言跨语言转移中因词汇映射问题限制表示学习的情况，提出并行分词器框架，先单语训练再对齐词汇表，实验表明该方法训练的模型在多任务中优于传统基线，对推进多语言表示学习意义重大。

Comments 17 pages, 25 tables, 6 figures

Ground4D: Consistency-Aware 4D Reconstruction from Monocular Video

Ground4D: 从单目视频进行一致性感知的四维重建

Qing Zhao, Weijian Deng, Pengxu Wei, Liang Lin

机构 * School of Computer Science and Engineering, Sun Yat-sen University, China（中山大学计算机科学与工程学院） ； Tsinghua Shenzhen International Graduate School, Tsinghua University, China（清华大学深圳国际研究生院） 纠错

专题命中 知识编辑与模型理解 ：foundation model(abstract)

AI总结 提出Ground4D框架，结合3D基础模型进行几何初始化与动态高斯泼溅进行一致性优化，实现从单目视频的高保真4D重建与新视角渲染。