语言大模型 / LLM

It's Not Always Sycophancy: Measuring LLM Conformity as a Function of Epistemic Uncertainty

并非总是谄媚：基于认知不确定性测量LLM的从众行为

Kevin H. Guo, Chao Yan, Avinash Baidya, Katherine Brown, Xiang Gao, Juming Xiong, Zhijun Yin, Bradley A. Malin

机构 * Vanderbilt University（范德比尔特大学） ； Vanderbilt University Medical Center（范德比尔特大学医学中心） ； Intuit AI Research（Intuit AI研究院） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出MUSE框架，通过区分谄媚从众和不确定性驱动的从众，揭示LLM在用户反驳时改变立场的行为机制，并发现两种从众均随用户感知专业性和建议合理性增强。

Evaluating the Relevance of Uncertainty Estimators for LLM Hallucination

评估不确定性估计器与LLM幻觉的相关性

Yedidia Agnimo, Anna Korba, Annabelle Blangero, Nicolas Chesneau, Karteek Alahari

机构 * CREST, ENSAE Institut Polytechnique de Paris（CREST，巴黎高等理工学院） ； Ekimetrics France（法国Ekimetrics） ； Centre Inria de l’Université Grenoble Alpes（格勒诺布尔阿尔卑斯大学信息研究院） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 通过系统实证研究，评估信息论、基于采样和反思性等不确定性估计器与LLM幻觉之间的关联，发现关联性高度可变且通常较弱，挑战了将不确定性作为幻觉直接信号的做法。

Comments 35 pages, 7 figures, 9 tables

Emergent Causal-Geometric Dynamics Across Depth in Large Language Models

大型语言模型中跨深度的涌现因果几何动力学

Shahar Haim, Daniel C McNamee

机构 * Champalimaud Centre for the Unknown（查普拉米乌德未知中心） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 通过结合几何分析与因果干预，揭示了解码器-only大型语言模型中从上下文处理到预测形成的跨层转变，并发现后期层中角度结构参数化下一词分布相似性并实现选择性因果控制。

Erased but Exploitable: Black-box Embedding-Aware Prompting Against Unlearned Text-to-Image Diffusion Models

被擦除但可被利用：针对已遗忘文本到图像扩散模型的黑盒嵌入感知提示攻击

Arian Komaei Koma, Seyed Amir Kasaei, AmirMahdi Sadeghzadeh, Mohammad Hossein Rohban

机构 * Department of Computer Engineering（计算机工程系） 纠错

专题命中 知识编辑与模型理解 ：prompting(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出一种黑盒嵌入感知对抗提示攻击BEAP，利用大语言模型迭代生成有效对抗提示，以恢复被遗忘概念，并在攻击成功率上提升超过60%。

The Labyrinth and the Thread: Rethinking Regularizations in Sequential Knowledge Editing for Large Language Models

迷宫与线索：重新思考大语言模型顺序知识编辑中的正则化方法

Zheng Wang, Kaixuan Zhang, Wanfang Chen, Jingwen Zhang, Xiaonan Lu

机构 * Bosch Center for Artificial Intelligence (BCAI)（博世人工智能中心（BCAI）） ； Bosch (China) Investment Ltd.（博世（中国）投资有限公司） ； School of Statistics, East China Normal University（东华大学统计学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文通过优化分析证明顺序编辑与一次性编辑的等价性，揭示稳定性源于累积编辑约束而非专门正则化，从而简化大语言模型知识编辑流程。

Comments Accepted for publication at ICML 2026

Tracing Computation Density in LLMs

追踪LLMs中的计算密度

Corentin Kervadec, Iuliia Lysova, Iuri Macocco, Marco Baroni, Gemma Boleda

机构 * Universitat Pompeu Fabra（庞培法布拉大学） ； ICREA 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出s-Trace方法估计最优子图，发现LLM计算分为早期稀疏核心和后期密集细化两个阶段，且计算量与模型不确定性相关。

Probing the Knowledge Boundary: An Interactive Agentic Framework for Deep Knowledge Extraction

探测知识边界：一种用于深度知识提取的交互式智能体框架

Yuheng Yang, Siqi Zhu, Tao Feng, Ge Liu, Jiaxuan You

机构 * University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Westlake University（西交利物浦大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；pretraining(abstract)

AI总结 提出一种交互式智能体框架，通过四种自适应探索策略和三级知识处理流水线，系统性地提取和量化大语言模型的知识，发现递归分类法最有效，并揭示了知识缩放定律、Pass@1与Pass@k的权衡以及训练数据对知识轮廓的影响。

Comments Homepage: https://ulab-uiuc.github.io/KnowledgeExtraction/

Innovation: An Almost Characterization of Hallucination

创新：幻觉的几乎刻画

Nishant P. Das, Piyush Srivastava

机构 * School of Technology and Computer Science, Tata Institute of Fundamental Research, Mumbai, Maharashtra - 400 005, India（技术与计算机科学学院，塔塔基础研究机构，孟买，马哈拉施特拉邦 - 400 005, 印度） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文引入“创新”属性来刻画大语言模型幻觉的必然性，证明创新与幻觉几乎等价，并基于创新率给出新的幻觉率下界。

Aperiodic and Low-Frequency Spectral Bias in Reconstruction based EEG Foundation Models

基于重建的脑电图基础模型中的非周期和低频谱偏差

Aditya Kommineni, Emily Zhou, Kleanthis Avramidis, Simon Bock Segaard, Jeppe Roden Münster, Andreas Peter Juhl Hansen, Takfarinas Medani, Tiantian Feng, Richard Leahy, Shrikanth Narayanan

机构 * University of Southern California（美国南加州大学） ； Aalborg University（奥尔堡大学） 纠错

专题命中 知识编辑与模型理解 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究揭示基于重建预训练的脑电图基础模型存在非周期和低频成分偏差，导致低资源场景下性能不佳，并提出通过辅助损失关注高频振荡结构来改进。

Comments 18 pages, 13 figures, 3 tables

Mechanistic Interpretability of Antibody Language Models Using SAEs

使用 SAE 对抗体语言模型的机制可解释性研究

Rebonto Haque, Oliver M. Turnbull, Anisha Parsan, Nithin Parsan, John J. Yang, Anna L. Beukenhorst, Charlotte M. Deane

机构 * Department of Statistics, University of Oxford, UK（英国牛津大学统计系） ； Reticular, San Francisco, USA（美国旧金山Reticular公司） ； EECS, MIT, Cambridge MA, USA（美国麻省理工学院电子工程与计算机科学系） ； Leyden Laboratories BV, Leiden, The Netherlands（荷兰莱顿实验室） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本研究采用 TopK 和 Ordered 稀疏自编码器（SAE）对抗体语言模型进行机制可解释性分析，发现 TopK SAE 能揭示有意义的生物学潜在特征但无法保证生成控制，而 Ordered SAE 通过层次结构可靠识别可操控特征但激活模式更复杂。

Comments v3: 15 pages; corrected author list and affiliations in the main text; minor text changes; updated steering results following minor code changes; conclusions and findings remain unchanged; included link to data and code in the Data Availability section

Left-Right Symmetry Breaking in CLIP-style Vision-Language Models Trained on Synthetic Spatial-Relation Data

CLIP风格视觉语言模型在合成空间关系数据训练中的左右对称性破缺

Takaki Yamamoto, Chihiro Noguchi, Toshihiro Tanizawa

机构 * InfoTech, Toyota Motor Corporation（丰田汽车公司信息科技部门） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 通过可控一维图像文本测试平台，研究基于Transformer的视觉语言编码器在CLIP风格对比学习下如何通过位置与标记嵌入交互产生左右关系理解，并发现标签多样性比布局多样性更关键。

Comments Accepted at ICML 2026

QUACK: Questioning, Understanding, and Auditing Communicated Knowledge in Multimodal Social Deduction Agents

QUACK: 多模态社交推理智能体中的沟通知识质疑、理解与审计

Ye Yuan, Rui Song, Weien Li, Zeyu Li, Haochen Liu, Xiangyu Kong, Changjiang Han, Yonghan Yang, Zichen Zhao, Zixuan Dong, Fuyuan Lyu, Bowei He, Haolun Wu, Jikun Kang, Xue Liu

机构 * McGill University（麦吉尔大学） ； Mila - Quebec AI Institute（魁北克人工智能研究所） ； University of Cambridge（剑桥大学） ； MBZUAI - Mohamed bin Zayed University of Artificial Intelligence（MBZUAI - 摩苏尔·本·扎耶德人工智能大学） ； University of Toronto（多伦多大学） ； Salesforce 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 提出QUACK框架，通过游戏结果、行为轨迹和话语一致性三级评估，自动审计多模态社交推理智能体语言与感知行为的一致性，发现最强智能体仍有15.1%的空间幻觉和过半无据指控。

Leveraging Visual Signals for Robust Token-Level Uncertainty in Vision-Language Generation

利用视觉信号实现视觉-语言生成中鲁棒的词元级不确定性

Joseph Hoche, David Brellmann, Gianni Franchi

机构 * AMIAD, Pôle Recherche, Palaiseau（AMIAD研究部，帕莱索） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；language model(abstract)

AI总结 针对大型视觉语言模型不确定性量化中视觉信息利用不足的问题，提出基于视觉锚定的词元级不确定性量化框架VIG-TUQ，通过加权语言不确定性与视觉锚定分数，无需训练即可提升不确定性估计性能。

Where Does Authorship Signal Emerge in Encoder-Based Language Models?

作者身份信号在基于编码器的语言模型中出现在哪里？

Francis Kulumba, Guillaume Vimont, Laurent Romary, Florian Cafiero

机构 * Inria Paris（巴黎国家信息与自动化研究所） ； Sorbonne Université（索邦大学） ； IRIF（IRIF研究所） ； LRE, EPITA Ecole nationale des chartes – PSL（LRE，EPITA国立档案馆 – 法国社会科学研究院） 纠错

专题命中 知识编辑与模型理解 ：language model(title)；分类 cs.CL

AI总结 通过机械可解释性工具，研究不同评分机制对基于编码器的作者身份归因模型性能的影响，发现评分机制决定了编码器在何处整合作者身份信号。

Comments 12 pages, 6 figures. Under review

Why LLMs Hallucinate on Structured Knowledge: A Mechanistic Analysis of Reasoning over Linearized Representations

为什么LLMs会在结构化知识上产生幻觉：对线性化表示推理的机制分析

Shanghao Li, Jinda Han, Yibo Wang, Yuanjie Zhu, Zihe Song, Langzhou He, Kenan Kamel A Alghythee, Philip S. Yu

机构 * University of Illinois Chicago（伊利诺伊大学芝加哥分校） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文通过机制分析发现，大型语言模型在结构化知识推理中产生幻觉是由于注意力过度集中于捷径式结构线索和前馈层未能将知识语义接地，导致模型依赖参数记忆。

Comments To appear in Proceedings of ACL 2026

Furina: Fragmented Uncertainty-Driven Refusal Instability Attack

Furina: 碎片化不确定性驱动的拒绝不稳定攻击

Tongxi Wu, Jian Zhang, Yang Gao

机构 * School of Intelligence Science and Technology（智能科学与技术学院） ； State Key Laboratory for Novel Software Technology（新型软件技术国家重点实验室） ； Nanjing University（南京大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 通过揭示大语言模型安全行为存在不稳定区域，提出多指标诊断框架并开发Furina攻击方法，利用碎片化场景提示诱导不确定性放大，实现高效越狱。

Comments This work is accepted as a regular paper at ICML 2026

UCPO: Uncertainty-Aware Policy Optimization

UCPO：不确定性感知策略优化

Xianzhou Zeng, Jing Huang, Chunmei Xie, Gongrui Nan, Siye Chen, Mengyu Lu, Weiqi Xiong, Qixuan Zhou, Junhao Zhang, Qiang Zhu, Yadong Li, Xingzhong Xu

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对现有强化学习范式在不确定性奖励下存在的优势偏差和过度自信问题，提出三元优势解耦和动态不确定性奖励调整机制，显著提升模型在知识边界外的可靠性。

Comments Accepted by ICML 2026

Dissecting Multimodal In-Context Learning: Modality Asymmetries and Circuit Dynamics in modern Transformers

解析多模态上下文学习：现代Transformer中的模态不对称性与电路动力学

Yiran Huang, Karsten Roth, Quentin Bouniot, Wenjia Xu, Zeynep Akata

机构 * Technical University of Munich（慕尼黑技术大学） ； Munich Center for Machine Learning（慕尼黑机器学习中心） ； DeepMind（深Mind） ； Beijing University of Posts（北京邮电大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 通过可控实验，研究现代Transformer中多模态上下文学习的基本机制，发现模态间学习不对称性，并揭示其背后的归纳式电路机制。

Comments ICML 2026 Spotlight

Probing Cultural Awareness in LLMs: A Case Study of Cross-Culture Aesthetic Stylistics

探究大型语言模型的文化意识：跨文化美学文体学案例研究

Jiashuo Wang, Fenggang Yu, Jian Wang, Chak Tou Leong, Xiaoyu Shen, Chunpu Xu, Jiawen Duan, Wenjie Li, Johan F. Hoorn

机构 * Department of Computing, Hong Kong Polytechnic University（香港理工大学计算机系） ； Institute of Digital Twin, Eastern Institute of Technology, Ningbo（宁波东部技术研究所数字孪生研究所） ； Department of Language Science and Technology, Hong Kong Polytechnic University（香港理工大学语言科学与技术系） ； School of Design, Hong Kong Polytechnic University（香港理工大学设计学院） ； Research Institute for Quantum Technology, Hong Kong Polytechnic University（香港理工大学量子技术研究所） ； Department of Communication Science, Vrije Universiteit Amsterdam（阿姆斯特丹自由大学传播科学系） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 通过构建C4STYLI基准（包含香港和中国大陆的高度风格化翻译电影片名和广告标语），评估大型语言模型在跨文化美学文体识别和生成方面的能力，发现模型依赖表层语言信息而非风格结构，对香港特定风格结构敏感度有限。

Comments IJCAI 2026 Human-Centred AI track

LEC: Linear Expectation Constraints for Selection-Conditioned Risk Control in Selective Prediction and Routing Systems

LEC: 选择性预测与路由系统中基于选择条件风险控制的线性期望约束

Zhiyuan Wang, Aniri, Tianlong Chen, Yue Zhang, Heng Tao Shen, Xiaoshuang Shi, Kaidi Xu

机构 * University of Electronic Science and Technology of China（电子科技大学） ； Munich Center for Machine Learning（慕尼黑机器学习中心） ； University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校） ； Shandong University（山东大学） ； Tongji University（同济大学） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 知识编辑与模型理解 ：foundation model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出LEC框架，通过线性期望约束将选择性预测转化为决策问题，在可交换性假设下利用校准集计算风险约束下的保留最大化阈值，并扩展到双模型路由系统，实现选择条件误差控制。

Comments Accepted by ICML 2026 Regular

BioFact-MoE: Biologically Factorized Mixture of Experts for Vision-Language Prognostic Modeling in Hepatocellular Carcinoma

BioFact-MoE：基于生物学因子分解的混合专家模型用于肝细胞癌的视觉-语言预后建模

Junlin Yang, Tian Yu, Nicha C. Dvornek, Yuexi Du, Peiyu Duan, Annabella Shewarega, Lawrence H. Staib, James S. Duncan, Julius Chapiro

机构 * Department of Radiology \& Biomedical Imaging, Department of Biomedical Engineering, Department of Electrical Engineering, Department of Statistics \& Data Science Yale University, New Haven, CT, 06510, USA 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出BioFact-MoE框架，通过生物学监督的混合专家模型显式分解肝脏和肿瘤因子，在肝细胞癌预后预测中提升准确性和生物学可解释性。

Comments Early accepted at MICCAI 2026

Helicase: Uncertainty-Guided Supply Chain Knowledge Graph Construction with Autonomous Multi-Agent LLMs

Helicase: 不确定性引导的供应链知识图谱构建与自主多智能体大语言模型

Yunbo Long, Haolang Zhao, Ge Zheng, Alexandra Brintrup

机构 * Department of Engineering, University of Cambridge（剑桥大学工程系） ； The Alan Turing Institute（艾伦·图灵研究所） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；分类 cs.AI

AI总结 提出Helicase，一种基于多智能体大语言模型的自主系统，通过不确定性引导的迭代验证和知识图谱构建，解决供应链中需要多跳推理的结构化推断问题，并引入SCQA基准评估。

Atom-level Protein Representation Learning Improves Protein Structure Prediction

原子级蛋白质表示学习改进蛋白质结构预测

Taewon Kim, Hyosoon Jang, Hyunjin Seo, Seonghwan Seo, Hyeongwoo Kim, Wonho Zhung, Mingyeong Shin, Wooyoun Kim, Sungsoo Ahn

机构 * KAIST（韩国科学技术院） 纠错

专题命中 知识编辑与模型理解 ：pretraining(abstract)；分类 cs.AI

AI总结 提出结构感知预训练方法TriProRep，通过VQ-VAE联合建模三种对齐的残基级视图，在结构预测任务中优于仅序列和先前结构感知表示模型。

Comments Project Page: https://holymollyhao.github.io/TriProRep/

TPS-Drive: Task-Guided Representation Purification for VLM-based Autonomous Driving

TPS-Drive: 基于VLM的自动驾驶任务引导表示净化

Jiaxiang Li, Yumao Liu, Ke Ma

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科学与技术大学（广州）） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)

AI总结 提出TPS-Drive框架，通过任务引导的表示净化（Agent-Centric Tokenizer）解决VLM在自动驾驶中的空间幻觉和表示干扰问题，实现精确的3D空间预测与安全规划。

Uncertainty-aware Machine Learning Interatomic Potentials via Learned Functional Perturbations

通过学习功能扰动实现不确定性感知的机器学习原子间势

Olga Zaghen, Maksim Zhdanov, Dario Coscia, David R. Wessels, Erik J. Bekkers

专题命中 知识编辑与模型理解 ：foundation model(abstract)

AI总结 提出通过学习功能扰动将确定性MLIP转化为概率模型，并用连续排序概率分数（CRPS）端到端微调，以高效量化不确定性，在带电粒子基准和二氧化硅上分别比现有贝叶斯方法BLIP提升CRPS 19-32%和Spearman相关系数从0.75到0.84。