语言大模型 / LLM

HueManity: Probing Fine-Grained Visual Perception in MLLMs

HueManity: 探索 MLLMs 中的细粒度视觉感知

Rynaa Grover, Jayant Sravan Tamarapalli, Sahiti Yerramilli, Nilay Pande

机构 * Google（谷歌） ； Waymo 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 HueManity 通过细粒度视觉感知基准测试揭示 MLLMs 在捕捉细粒度视觉细节方面的显著缺陷。

Journal ref ICML 2025 Workshop on Assessing World Models

The Illusion of Certainty: Uncertainty Quantification for LLMs Fails under Ambiguity

确定性的幻觉：在歧义下LLM的不确定性量化失效

Tim Tomov, Dominik Fuchsgruber, Tom Wollschläger, Stephan Günnemann

机构 * School of Computation, Information ； Technology \& Munich Data Science Institute - Technical University of Munich 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本研究揭示了在歧义环境下LLM的不确定性量化方法存在缺陷，提出了MAQA*和AmbigQA*数据集以评估模型在歧义数据上的表现。

CMOOD: Concept-based Multi-label OOD Detection

基于概念的多标签异常检测

Zhendong Liu, Yi Nian, Yuehan Qin, Henry Peng Zou, Li Li, Xiyang Hu, Yue Zhao

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 COOD提出了一种基于概念的零样本多标签OOD检测框架，通过增强语义空间和改进评分函数，有效区分复杂标签依赖的OOD样本。

Cross-Lingual Probing and Community-Grounded Analysis of Gender Bias in Low-Resource Bengali

跨语言探测与社区导向分析低资源孟加拉语中的性别偏见

Md Asgor Hossain Reaj, Rajan Das Gupta, Jui Saha Pritha, Abdullah Al Noman, Abir Ahmed, Golam Md Mohiuddin, Tze Hui Liew

机构 * Department of Computer Science（计算机科学系） ； AIUB, Dhaka, Bangladesh ； Department of Information Technology（信息科技系） ； Wilmington University, Delaware, USA ； WUST, Virginia, USA ； Faculty of Information Science（信息科学系） ； Technology Multimedia University, Melaka, Malaysia（技术多媒体大学, Melaka, Malaysia） ； Centre for Intelligent Cloud Computing（智能云计算中心） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本研究通过跨语言探测和社区导向分析，揭示了孟加拉语中性别偏见的特征，强调需本地化方法和社区参与以减少偏见。

Comments Accepted in 2025 4th International Conference on Smart Cities, Automation & Intelligent Computing Systems (ICON-SONICS)

Medal Matters: Probing LLMs' Failure Cases Through Olympic Rankings

奖牌 matters：通过奥运排名探测 LLMs 的失败案例

Juhwan Choi, Seunguk Yu, JungMin Yun, YoungBin Kim

机构 * AITRCS, Republic of Korea, Seoul（韩国首尔AITRCS研究中心） ； Chung-Ang University, Republic of Korea, Seoul（韩国首尔 Chung-Ang 大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 通过奥运排名数据探测 LLMs 在知识整合和推理方面的局限性，揭示其在任务二中的失败案例，并提供改进方向及研究资源。

Comments COLM 2025 ORIGen Workshop

Does Less Hallucination Mean Less Creativity? An Empirical Investigation in LLMs

减少幻觉是否意味着减少创造力？在大语言模型中的实证研究

Mohor Banerjee, Nadya Yuki Wangsajaya, Syed Ali Redha Alsagoff, Min Sen Tan, Zachary Choy Kit Chun, Alvin Chan Guo Wei

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本研究探讨了三种减少幻觉的方法对大语言模型创造力的影响，发现CoVe促进发散思维，DoLa抑制创造力，RAG影响较小，为科学应用中的准确性与创造性平衡提供指导。

Comments Accepted at the AAAI 2026 Workshop on AI for Scientific Research (AI4Research)

On LLMs' Internal Representation of Code Correctness

关于LLMs内部对代码正确性的表示

Francisco Ribeiro, Claudio Spiess, Prem Devanbu, Sarah Nadi

机构 * New York University Abu Dhabi（纽约大学阿布扎比分校） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文研究了LLMs内部对代码正确性的表示，通过对比隐藏状态识别正确性表示，并展示其在提升代码生成质量与可靠性方面的贡献。

Comments Accepted for ICSE'26

Training instability in deep learning follows low-dimensional dynamical principles

深度学习中的训练不稳定性遵循低维动力学原理

Zhipeng Zhang, Zhenjie Yao, Kai Li, Lei Yang

机构 * China Mobile Research Institute（中国移动研究院） ； China Mobile GBA Innovation Institute（中国移动广州创新研究院） ； Institute of Microelectronics, Chinese Academy of Sciences（中国科学院微电子研究所） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文通过分析深度学习训练过程的稳定性，揭示了其遵循低维动力学原理，并提出通过受控扰动审计来评估训练稳定性，发现稳定性与最终性能脱节、随机性缓冲学习动态等规律。

Benchmarking Concept-Spilling Across Languages in LLMs

在LLMs中跨语言评估概念溢出

Ilia Badanin, Daniil Dzenhaliou, Imanol Schlag

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出了一种评估多语言LLMs语义鲁棒性的框架，通过分析模型在生成多义词时的表现，揭示模型和语言间的语义鲁棒性差异，并贡献了可扩展的评估基准和验证流程。

Uncertainty-Aware Collaborative System of Large and Small Models for Multimodal Sentiment Analysis

面向大规模和小规模模型的不确定性感知协作系统用于多模态情感分析

Shiqin Han, Manning Gao, Menghua Jiang, Yuncheng Jiang, Haifeng Hu, Sijie Mai

机构 * School of Computer Science, South China Normal University（计算机科学学院，华南师范大学） ； School of Artificial Intelligence, South China Normal University（人工智能学院，华南师范大学） ； School of Electronics and Information Technology, Sun Yat-sen University（电子与信息工程学院，中山大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出U-ACS系统，通过整合UBM与MLLMs，利用不确定性感知机制提升多模态情感分析的效率与性能。

Concept Attractors in LLMs and their Applications

大语言模型中的概念吸引子及其应用

Sotirios Panagiotis Chytas, Vikas Singh

机构 * University of Wisconsin-Madison（威斯康星大学麦迪逊分校） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出基于吸引子的简单方法，用于大语言模型中的概念映射和实际任务处理，提供高效替代方案。

LIBERTy: A Causal Framework for Benchmarking Concept-Based Explanations of LLMs with Structural Counterfactuals

LIBERTy：一种基于因果框架的基准测试框架，用于基于概念的LLM解释的结构反事实评估

Gilat Toker, Nitay Calderon, Ohad Amosy, Roi Reichart

专题命中 知识编辑与模型理解 ：LLM(abstract)；post-training(abstract)；分类 cs.CL、cs.AI

AI总结 LIBERTy提出了一种基于因果框架的基准测试框架，通过结构反事实评估LLM基于概念的解释，改进了可解释性方法的可信度。

Loop as a Bridge: Can Looped Transformers Truly Link Representation Space and Natural Language Outputs?

循环作为桥梁：循环变换器能否真正连接表示空间和自然语言输出？

Guanxu Chen, Dongrui Liu, Jing Shao

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了循环变换器是否能通过迭代机制弥合内部知识与自然语言输出之间的差距，发现循环次数增加虽缩小差距，但内部知识退化是主因，且表征感知能力仅在最终循环中存在。

Comments 9 pages,6 figures

Towards Interpretability Without Sacrifice: Faithful Dense Layer Decomposition with Mixture of Decoders

无需牺牲的可解释性：混合解码器的忠实密集层分解

James Oldfield, Shawn Im, Sharon Li, Mihalis A. Nicolaou, Ioannis Patras, Grigorios G Chrysos

机构 * UW-Madison（威斯康星大学麦迪逊分校） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出混合解码器（MxDs）通过层级稀疏性实现密集层分解，保持原始解码器的表达能力，显著提升稀疏性-准确性前沿性能。

Comments NeurIPS 2025 camera-ready version

Semantic Gravity Wells: Why Negative Constraints Backfire

语义重力井：为何负约束失效

Shailesh Rana

机构 * Independent Researcher（独立研究者） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了负约束失效的机制，发现其失效源于语义压力与抑制信号的不对称性，揭示了命名禁止词会激活模型生成该词的矛盾现象。

Comments 10 pages, 8 figures. Code: https://github.com/gut-puncture

Explaining Low Perception Model Competency with High-Competency Counterfactuals

用高能力反事实解释低感知模型能力

Sara Pohland, Claire Tomlin

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出五种生成高能力反事实图像的方法，用于解释模型预测不确定性的原因，并通过实验验证了其在生成语言解释中的有效性。

Journal ref Explainable Artificial Intelligence. xAI 2025. Communications in Computer and Information Science, vol 2580

Autoregressive Semantic Visual Reconstruction Helps VLMs Understand Better

自回归语义视觉重建有助于VLMs更好地理解

Dianyi Wang, Wei Song, Yikun Wang, Siyuan Wang, Kaicheng Yu, Zhongyu Wei, Jiaqi Wang

机构 * Fudan University（复旦大学） ； Shanghai Innovation Institute（上海创新研究院） ； AutoLab, Westlake University（西湖大学AutoLab） ； Zhejiang University（浙江大学） ； Shanghai AI Lab（上海人工智能实验室） ； University of Southern California（美国南加州大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 自回归语义视觉重建通过提升多模态理解能力，改进了VLMs对视觉信息的把握

A Platform for Interactive AI Character Experiences

一个交互式AI角色体验的平台

Rafael Wampfler, Chen Yang, Dillon Elste, Nikola Kovacevic, Philine Witzig, Markus Gross

机构 * ETH Zurich（苏黎世联邦理工学院） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；foundation model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一个平台，用于创建可信的交互式AI角色，通过整合多种AI技术，实现故事驱动的对话体验。

Journal ref SIGGRAPH Conference Papers '25, August 10-14, 2025, Vancouver, BC, Canada

Lie to Me: Knowledge Graphs for Robust Hallucination Self-Detection in LLMs

对谎言说谎：知识图谱在大语言模型鲁棒性幻觉自检测中的应用

Sahil Kale, Antonio Luca Alfeo

机构 * eCampus University（eCampus大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出利用知识图谱提升大语言模型幻觉自检的鲁棒性，通过转换响应为图谱并估算幻觉可能性，实现准确率和F1分数的显著提升。

Comments Accepted to ICPRAM 2026 in Marbella, Spain

Sparsity and Superposition in Mixture of Experts

稀疏性与叠加在专家混合模型中的作用

Marmik Chaudhari, Jeremi Nuer, Rome Thorstenson

机构 * Arcadia Research Team（Arcadia研究团队） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 该研究探讨了混合专家模型中稀疏性和叠加的关系，发现网络稀疏性更能表征MoE，并提出了基于单语义特征表示的专家专业化定义，表明适当初始化下专家会围绕一致特征组合组织，从而提升模型可解释性而不牺牲性能。

Activations as Features: Probing LLMs for Generalizable Essay Scoring Representations

激活作为特征：探测LLMs用于通用化作文评分表示

Jinwei Chi, Ke Wang, Yu Chen, Xuanye Lin, Qiang Xu

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文通过分析LLMs中间层激活，探索其在跨提示作文评分中的判别能力，发现激活能有效适应不同评分标准，提升作文评分的通用性。

RomanLens: The Role Of Latent Romanization In Multilinguality In LLMs

RomanLens: 潜在罗曼化在LLMs多语言性中的作用

Alan Saji, Jaavid Aktar Husain, Thanmay Jayakumar, Raj Dabre, Anoop Kunchukuttan, Ratish Puduppully

机构 * Nilekani Centre at AI4Bharat（AI4Bharat 奈尔肯中心） ； Singapore University of Technology and Design（新加坡科技设计大学） ； Indian Institute of Technology Madras（印度理工学院马德拉斯分校） ； National Institute of Information and Communications Technology（信息与通信技术国家研究所） ； Indian Institute of Technology Bombay（印度理工学院孟买分校） ； Microsoft（微软） ； IT University of Copenhagen（哥本哈根IT大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 RomanLens研究了罗曼化在LLMs多语言处理中的潜在作用，发现中间层常以罗曼化形式表示目标词，并通过实验表明罗曼化有助于语言转换。

Comments 19 pages, 19 figures

Journal ref Findings of the Association for Computational Linguistics: ACL 2025, pages 26410-26429, Vienna, July 2025

Task Matrices: Linear Maps for Cross-Model Finetuning Transfer

任务矩阵：用于跨模型微调转移的线性映射

Darrin O' Brien, Dhikshith Gajulapalli, Eric Xia

机构 * Algoverse AI Research（Algoverse AI研究院） ； Brown University（布朗大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；prompting(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出任务矩阵，通过线性变换提升跨模型微调转移性能，验证了预训练与微调架构间的线性编码存在，并展示了高效可推广的数据近似方法。

Comments NeurIPS Unireps 2025

BaRISTA: Brain Scale Informed Spatiotemporal Representation of Human Intracranial Neural Activity

BaRISTA：人类脑内神经活动的脑尺度时空表示

Lucine L. Oganesian, Saba Hashemi, Maryam M. Shanechi

机构 * University of Southern California（南加州大学） 纠错

专题命中 知识编辑与模型理解 ：foundation model(abstract)；pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 BaRISTA提出了一种多区域神经活动时空变换器模型及自监督任务，通过调整空间尺度提升下游解码性能。

Comments Published at the 39th Annual Conference on Neural Information Processing Systems (NeurIPS 2025). Code available at https://github.com/ShanechiLab/BaRISTA

Journal ref NeurIPS 2025

Representation Invariance and Allocation: When Subgroup Balance Matters

表示不变与分配：当子组平衡至关重要时

Anissa Alloula, Charles Jones, Zuzanna Wakefield-Skorniewska, Francesco Quinzan, Bartłomiej Papież

机构 * University of Oxford（牛津大学） ； Imperial College London（伦敦帝国理工学院） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 研究探讨了子组平衡对模型性能的影响，提出潜在分离假设，并通过实验验证，为数据收集和平衡提供指导。

Detecting Hallucinations in Graph Retrieval-Augmented Generation via Attention Patterns and Semantic Alignment

通过注意力模式和语义对齐检测图检索增强生成中的幻觉

Shanghao Li, Jinda Han, Yibo Wang, Yuanjie Zhu, Zihe Song, Langzhou He, Kenan Kamel A Alghythee, Philip S. Yu

机构 * University of Illinois Chicago（伊利诺伊大学芝加哥分校） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出通过注意力模式和语义对齐检测GraphRAG中的幻觉，开发了轻量级检测器GGA，提升了系统可靠性。

Mechanistic Interpretability of GPT-2: Lexical and Contextual Layers in Sentiment Analysis

GPT-2的机制可解释性：情感分析中的词汇层与上下文层

Amartya Hatua

机构 * AI Center of Excellence Fidelity Investments（福达投资人工智能卓越中心） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 GPT-2情感分析中，早期层负责词汇检测，晚期层通过统一机制整合上下文现象，推翻了中层专业化假设。

UncertaintyZoo: A Unified Toolkit for Quantifying Predictive Uncertainty in Deep Learning Systems

UncertaintyZoo: 一个统一的工具包，用于量化深度学习系统中的预测不确定性

Xianzong Wu, Xiaohong Li, Lili Quan, Qiang Hu

机构 * Tianjin University（天津大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 UncertaintyZoo是一个统一的工具包，整合了29种不确定性量化方法，用于量化深度学习系统中的预测不确定性。

Detecting AI Hallucinations in Finance: An Information-Theoretic Method Cuts Hallucination Rate by 92%

在金融领域检测AI幻觉：一种信息论方法将幻觉率降低92%

Mainak Singha

机构 * Astrophysics Science Division, NASA, Goddard Space Flight Center（国家航空航天局（NASA）天体物理学科学部门，戈达德太空飞行中心） ； Department of Physics, The Catholic University of America（美国天主教大学物理系） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出ECLIPSE框架，通过信息论方法检测金融领域AI幻觉，显著提升检测性能。

Comments 17 pages, 7 figures. Information-theoretic, hallucination detector for financial application. Feedback from researchers and practitioners is welcome

H-Neurons: On the Existence, Impact, and Origin of Hallucination-Associated Neurons in LLMs

H-Neurons: 关于大语言模型中与幻觉相关的神经元的存在、影响及其起源

Cheng Gao, Huimin Chen, Chaojun Xiao, Zhiyi Chen, Zhiyuan Liu, Maosong Sun

机构 * Tsinghua University（清华大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了大语言模型中与幻觉相关的神经元的存在、影响及起源，揭示了这些神经元在预测幻觉和因果行为中的作用，为提升模型可靠性提供新视角。

Comments 20 pages, 4 figures