语言大模型 / LLM

Distributed Interpretability and Control for Large Language Models

大语言模型的分布式可解释性与控制

Dev Arpan Desai, Shaoyi Huang, Zining Zhu

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种适用于多GPU大语言模型的激活层可解释性和控制方法，通过减少激活内存和提升吞吐量，实现了对模型输出的可控调整，无需微调。

Hallucination as output-boundary misclassification: a composite abstention architecture for language models

幻觉作为输出边界误分类：一种用于语言模型的复合回避架构

Angelina Hintsanen

机构 * NEXUS Laboratory（NEXUS实验室） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(abstract)；prompting(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种复合架构，结合指令拒绝与结构回避门，通过计算支持不足分数来减少语言模型的幻觉问题，实验表明两者互补可提升准确性与减少幻觉。

Comments Theoretical manuscript extending an earlier proof-of-concept workshop paper accepted to the ICLR 2026 Workshop on LLM Reasoning; 13 pages, 3 tables

ReDAct: Uncertainty-Aware Deferral for LLM Agents

ReDAct：基于不确定性的延迟策略用于LLM代理

Dzianis Piatrashyn, Nikita Kotelevskii, Kirill Grishchenkov, Nikita Glazkov, Ivan Nasonov, Ilya Makarov, Timothy Baldwin, Preslav Nakov, Roman Vashurin, Maxim Panov

机构 * Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； Ocapital ； National University of Science and Technology (NUST) MISIS（国立科技大学（NUST）MISIS） ； AXXX ； Ivannikov Institute for System Programming of the Russian Academy of Sciences（俄罗斯科学院伊万尼科夫系统编程研究所） ； Trusted AI Center, RAS（俄罗斯科学院可信人工智能中心） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文提出ReDAct方法，通过在LLM代理中引入小规模和大规模模型，利用小模型的低成本和大模型的高可靠性，在不确定时延迟决策，从而在降低推理成本的同时保持决策质量。

The Mechanistic Invariance Test: Genomic Language Models Fail to Learn Positional Regulatory Logic

机制不变性测试：基因组语言模型未能学习位置调控逻辑

Bryan Cheng, Jasper Zhang

专题命中 知识编辑与模型理解 ：language model(title,abstract)

AI总结 研究通过机制不变性测试揭示基因组语言模型在位置调控逻辑理解上的缺陷，发现模型依赖AT含量相关性而非真实位置调控逻辑，需改进架构以应对合成生物学等应用需求。

Comments 14 pages, 4 figures, Accepted to Workshop on Latent and Implicit Thinking - Going Beyond CoT Reasoning, Machine Learning for Genomics Explorations, and Generative and Experimental Perspectives for Biomolecular Design at ICLR 2026

Probing 3D Chromatin Structure Awareness in Evo2 DNA Language Model

探究Evo2 DNA语言模型对三维染色质结构的认知

UkJin Lee

专题命中 知识编辑与模型理解 ：language model(title,abstract)

AI总结 研究探讨Evo2模型是否能识别三维染色质结构，发现其仅能学习局部CTCF规则，但无法可靠生成收敛CTCF环和恢复TAD边界，提示需双向模型架构整合细胞类型和三维接触以开发更高级的DNA语言模型。

Trust Through Transparency: Explainable Social Navigation for Autonomous Mobile Robots via Vision-Language Models

通过透明实现信任：通过视觉语言模型实现自主移动机器人的可解释社交导航

Oluwadamilola Sotomi, Devika Kodi, Aliasghar Arab

机构 * New York University, Tandon School of Engineering（纽约大学坦登工程学院） ； General Autonomy Inc.（通用自主公司） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)

AI总结 本文提出一种多模态可解释模块，结合视觉语言模型和热图提升自主导航的透明度，通过自然语言总结使机器人感知、分析并表达观察结果，实验表明实时解释能提升用户信任和理解。

Comments Submitted to IEEE Conferences

ART: Attention Replacement Technique to Improve Factuality in LLMs

ART：通过注意力替换技术提升大语言模型的事实性

Ziqin Luo, Yihao Quan, Xiaofeng Zhang, Xiaosong Yuan, Chen Shen

机构 * Department of Automation and Intelligent Sensing, Shanghai Jiao Tong University（上海交通大学自动化与智能感知系） ； Fudan University（复旦大学） ； Alibaba Cloud Computing（阿里云计算） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出ART技术，通过替换大语言模型浅层的均匀注意力模式为局部注意力模式，减少幻觉问题，适用于多种LLM架构。

Graph Representation-based Model Poisoning on the Heterogeneous Internet of Agents

基于图表示的模型中毒攻击：异构物联网中的攻击

Hanlin Cai, Houtianfu Wang, Haofan Dong, Kai Li, Sai Zou, Ozgur B. Akan

机构 * Internet of Everything (IoE) Group, Department of Engineering, University of Cambridge（剑桥大学工程系万物互联组） ； CISTER Research Centre（CISTER研究中心） ； Guizhou University（贵州大学） ； Center for neXt-Generation Communications (CXC), Koç University（科奇大学下一代通信中心） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出一种基于图表示的模型中毒攻击，利用监听到的良性更新构建特征相关图，并利用变分图自编码器生成恶意更新，以降低不同LLM模型的准确性，逃避现有防御机制。

Comments This paper has been accepted by the IEEE 22nd International Wireless Communications & Mobile Computing Conference (IWCMC 2026, Shanghai, China)

Improving Semantic Uncertainty Quantification in Language Model Question-Answering via Token-Level Temperature Scaling

通过词级温度缩放改进语言模型问答中的语义不确定性量化

Tom A. Lamb, Desi R. Ivanova, Philip H. S. Torr, Tim G. J. Rudner

机构 * University of Oxford（牛津大学） ； University of Toronto（多伦多大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title)；分类 cs.LG

AI总结 本文通过系统评估校准与判别两个方面，提出词级温度缩放方法，有效提升语义校准、判别及下游熵值，优于传统基线和更复杂的重校准方法。

Digital Skin, Digital Bias: Uncovering Tone-Based Biases in LLMs and Emoji Embeddings

数字皮肤，数字偏见：揭示基于肤色的LLM和表情符号嵌入中的偏见

Mingchen Li, Wajdi Aljedaani, Yingjie Liu, Navyasri Meka, Xuan Lu, Xinyue Ye, Junhua Ding, Yunhe Feng

机构 * University of North Texas（北德克萨斯大学） ； International Center for Artificial Intelligence Research and Ethics（国际人工智能研究与伦理中心） ； Southern Methodist University（南卫理公会大学） ； The University of Arizona（亚利桑那大学） ； The University of Alabama（阿拉巴马大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了LLM和表情符号嵌入模型中基于肤色的偏见，发现表情符号模型在肤色表示上存在严重缺陷，揭示了潜在的偏见问题，呼吁开发者和平台进行审计和缓解。

Comments Accepted at WWW'26

ExplainFuzz: Explainable and Constraint-Conditioned Test Generation with Probabilistic Circuits

ExplainFuzz: 基于概率电路的可解释且受约束的测试生成

Annaëlle Baiget, Jaron Maene, Seongmin Lee, Benjie Wang, Guy Van den Broeck, Miryung Kim

机构 * UCLA（加州大学洛杉矶分校） ； KU Leuven（鲁汶大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 ExplainFuzz利用概率电路学习并查询基于语法规则的测试输入的结构分布，通过条件化能力整合测试约束，提升生成输入的现实性和多样性，显著提高缺陷触发率。

Comments 19 pages

Mitigating Hallucination on Hallucination in RAG via Ensemble Voting

通过集成投票缓解RAG中的幻觉

Zequn Xie, Zhengyang Sun

机构 * Polytechnic Institute Zhejiang University Hangzhou, China ； School of Computer Science ； Technology Xinjiang University Urumqi, China 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出VOTE-RAG框架，通过集成投票机制缓解RAG中的幻觉问题，实验表明其性能优于复杂框架，且结构简单、并行高效。

Comments arXiv admin note: text overlap with arXiv:2505.18581 by other authors

SemanticScanpath: Combining Gaze and Speech for Situated Human-Robot Interaction Using LLMs

语义扫描路径：利用语言模型结合目光和语音实现情境化的人机交互

Elisabeth Menendez, Michael Gienger, Santiago Martínez, Carlos Balaguer, Anna Belardinelli

机构 * Universidad Carlos III de Madrid (UC3M)（马德里卡洛斯三世大学） ； Honda Research Institute Europe（本田欧洲研究所） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)

AI总结 本文提出结合语音和目光的语义扫描路径表示，使语言模型能更准确地理解情境，解决模糊请求。通过文本语义翻译用户扫描路径和语音请求，验证了系统在多个任务和场景中的优越性。

ConceptTracer: Interactive Analysis of Concept Saliency and Selectivity in Neural Representations

ConceptTracer：神经表示中概念显著性与选择性的交互分析

Ricardo Knauer, Andre Beinrucker, Erik Rodner

机构 * KI-Werkstatt, University of Applied Sciences Berlin（柏林应用科学大学KI-Werkstatt） 纠错

专题命中 知识编辑与模型理解 ：foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 ConceptTracer通过人类可解释的概念视角，分析神经网络表示中的概念显著性与选择性，帮助识别响应强的概念神经元，展示其在TabPFN表示中的实用性。

Comments XAI 2026 Late-Breaking Work Track

Improving Robustness In Sparse Autoencoders via Masked Regularization

通过掩码正则化提升稀疏自编码器的鲁棒性

Vivek Narayanaswamy, Kowshik Thopalli, Bhavya Kailkhura, Wesam Sakla

机构 * Lawrence Livermore National Laboratory, CA, USA（劳伦斯利弗莫尔国家实验室，加利福尼亚州，美国） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出掩码正则化方法，通过在训练中随机替换token以打破共现模式，提升稀疏自编码器的鲁棒性，减少特征吸收，增强可探查性能并缩小OOD差距。

Comments 4 pages, 1 figure

Countering the Over-Reliance Trap: Mitigating Object Hallucination for LVLMs via a Self-Validation Framework

对抗过度依赖陷阱：通过自验证框架缓解LVLMs中的物体幻觉

Shiyu Liu, Xinyi Wen, Zhibin Lan, Ante Wang, Jinsong Su

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI

AI总结 本文提出自验证框架，通过验证生成描述中物体存在的可信度，缓解LVLMs中的物体幻觉问题，在图像描述任务中取得显著改进。

Comments Code is available at https://github.com/Liushiyu-0709/SelfVal