语言大模型 / LLM

MI-MIDI: Mechanistic Interpretability of Text-to-MIDI Generation Models via Probing, Lenses and Steering

MI-MIDI：基于探测、透镜与调控的文本生成MIDI模型的可机理解释

Jakub Poćwiardowski, Mateusz Modrzejewski

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本研究针对两款文本生成MIDI模型，采用探测、透镜等方法开展可机理解释，揭示架构对音乐结构的塑造作用，提出双取向调控协议并提供音乐概念追踪工具包。

Comments 13 pages

Decomposed Entailment for Factuality Checking and Hallucination Detection

用于事实性核查与幻觉检测的分解式蕴含关系

Achir Oukelmoun, Nasredine Semmar, Gaël De Chalendar

机构 * CEA LIST 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本研究提出轻量级黑箱框架HallDetect，将生成内容分解为原子主张并经对比式蕴含模型验证，在多基准上优于同资源基线，可定位幻觉错误。

From SQL Errors to Concept Gaps: An AI-Powered Knowledge Graph Analytics Platform for Personalized Feedback

从SQL错误到概念缺口：用于个性化反馈的AI驱动知识图谱分析平台

Abdulrahman AlRabah, Weijian Zhou, Xing Gao, Abdussalam Alawini

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 该研究提出一款AI驱动知识图谱平台，可关联SQL错误与课程概念缺口，经评估其概念提取有效性达95.7%，三元组正确率达63.8%，能为SQL学习提供个性化诊断反馈。

SAGE: Semantic Explainability of Attention-Based Survival Models in Computational Pathology

SAGE：计算病理学中基于注意力的生存模型的语义可解释性

Abdallah Lamane, Abdul Rahman Diab, Ren-Chin Wu, William Lotter

专题命中 知识编辑与模型理解 ：language model(abstract)；foundation model(abstract)；分类 cs.AI

AI总结 该研究提出SAGE框架，可从ABMIL模型提取全局语义解释，在7个TCGA癌症队列的生存预测中恢复预后特征，揭示癌症特异性生物学，为病理学家解释模型行为提供支持。

Comments Proceedings of the MICCAI Workshop on Interpretability of Machine Intelligence in Medical Image Computing (iMIMIC)

CADIR: A Cross-Backend Editable Intermediate Representation for Agentic CAD Generation

CADIR：一种用于智能体CAD生成的跨后端可编辑中间表示

Yu Liu, Jingzhe Ni, Yiming Chen, Junqi Huang, Ruofeng Tong, Min Tang, Peng Du

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究提出CADIR跨后端可编辑中间表示，结合几何签名匹配与构造图检索，解决现有CAD生成方法的跨系统编辑与建模历史保留问题，实验验证其几何保真度与可靠性优于现有方案。

Verifiable Checks for Business Rule Consistency

业务规则一致性的可验证检查

Joseph Tafese, Milad Hooshyar, Sam Bayless, Nick Feng, Arie Gurfinkel

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对大型系统中业务规则自然语言文档与内部实现的一致性检查难题，提出结合LLMs与形式化验证的SIRNA框架，经税务成本计算案例验证，其可减少误报漏报并具备可解释性。

Comments Formal Methods in Computer-Aided Design 2026

Uncertainty quantification for trustworthy deep learning: Methods and measures

面向可信深度学习的不确定性量化：方法与度量

H. Martin Gillis, Thomas Trappenberg

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本综述针对深度学习的不确定性量化，梳理五大类方法及相关任务，整合评估框架，还探讨大语言模型不确定性与开放研究方向，为可信深度学习提供结构化批判性参考。

Prosody-driven Jailbreaks in Audio LLMs: A Controlled Study and Mechanistic Analysis

音频大语言模型中基于韵律的越狱：一项对照研究与机制分析

Jiachen Qian, Junyu Li

机构 * City University of Hong Kong（香港城市大学） ； City University of Hong Kong (Dongguan)（香港城市大学（东莞）） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；foundation model(abstract)；分类 cs.CL

AI总结 该研究通过控制文本内容改变语音传递预设构建评估协议与基准，发现特定韵律特征的语音能提升音频大语言模型的越狱成功率，表明语音传递是音频大语言模型安全评估的重要因素。

Comments Accepted at ACM Multimedia 2026 (ACM MM '26). 9 pages, 3 figures. Supplementary material included

Journal ref Proceedings of the 34th ACM International Conference on Multimedia (MM '26), November 10-14, 2026, Rio de Janeiro, Brazil

Rethinking CD: A Reproducibility Study and Extension on the Ineffectiveness of Contrastive Decoding at Mitigating Object Hallucinations in MLLMs

重新思考对比解码：关于多模态大语言模型中对比解码在减轻对象幻觉方面无效性的可重复性研究与扩展

Arnav Bendre, Guneesh Gupta, Kavish Grover, Chayan Aggarwal, Shreyansh Modi

机构 * Indian Institute of Technology, Roorkee（印度理工学院鲁尔基分校） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究多模态大语言模型中对比解码减轻对象幻觉的有效性，通过重现和扩展相关研究，进行多实验验证其在不同数据集上效果，发现其带来的改善常是虚假的，挑战了当前策略有效性，推动更可靠方法开发。

Comments 32 pages, 9 Figures, submitted to TMLR

FinAbstain: Uncertainty-Calibrated Multimodal RAG for Selective Financial Forecasting

FinAbstain：用于选择性金融预测的不确定性校准多模态检索增强生成模型

Dorothy Torres, Wei Cheng, Henan Huang

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究针对大语言模型在金融预测中证据不足时高置信度的问题，提出FinAbstain框架，通过多模态检索增强生成及选择性预测，经多种不确定性评估方法和指标评估，贡献了时间安全架构、复合不确定性公式和可重复评估蓝图。

Robust Conformalized Selection with Noisy Responses

具有噪声响应的鲁棒共形选择

Chengyao Yu, Hongxin Wei, Bingyi Jing

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究在含噪声响应数据下的选择问题，提出鲁棒共形选择框架RCS，通过将标签噪声转化为协变量偏移问题，实现有效FDR控制，经实验验证了该方法在模拟和真实数据集上的有效性。

Sparse Concept Channels in Frozen 3D CT Vision Encoders

冻结的3D CT视觉编码器中的稀疏概念通道

Farhad Nooralahzadeh, Lea Bogensperger, Christian Bluethgen, Michael Krauthammer

专题命中 知识编辑与模型理解 ：language model(abstract)；prompting(abstract)；分类 cs.AI

AI总结 研究3D医学图像解释中视觉语言模型内部单元对临床发现的编码，提出无训练概念通道探测（CCP）方法，通过实验证明该方法能清晰表征冻结医学编码器对发现的表示，在临床疗效和NLG指标上表现优且延迟低。

The Devil is in the Spectrum: Mitigating Representation Collapse in LLMs via Topologically Regularized Side-Path

问题出在频谱中：通过拓扑正则化侧路径减轻大语言模型中的表示坍缩

Yiheng Tao, Kaiwen Cheng, Yao Lu, Chang Liu, Jie Chen

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究针对大语言模型表示坍缩问题，通过频谱分析得出混合效率与信息容量的权衡，提出TRSP方法，采用无参数三角盒机制和长度感知门正则化令牌交互拓扑，实验证明该方法在多方面有显著改进。

Comments 22pages, 4 figures, poster of icml 2026

Position: Natural Language Should Not Fully Replace Formal Languages

立场：自然语言不应完全取代形式语言

Eitan Wagner, Elisha Rosensweig, Omri Abend

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 针对自然语言能否完全取代形式语言的争议，引入基于“任务特异性”的形式框架并证明“特异性交叉定理”，通过跨模态案例分析表明二者各有优势，是互补工具，倡导开发混合系统。

Comments To be published in ICML 2026 (position track)

Gotta Catch them all: the modes of Sycophancy

必须抓住它们：谄媚的模式

Shreyans Jain, Alexandra Yost, Amirali Abdullah

机构 * Thoughtworks（Thoughtworks公司） ； Southern Utah University (SUU)（南犹他大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究大语言模型谄媚行为，通过分析948种社会压力情境下的三种假设模式，发现其并非单一倾向，而是结构化家族，内部表示从第14层起线性可分，出现在不同处理阶段，依赖不同注意力电路，为更精确测量和干预提供依据。

FinBench: Time-Gated Calibration and Uncertainty Benchmarking for Agentic Financial Forecasting

FinBench：用于智能金融预测的时间门控校准与不确定性基准测试

Rishab Ghosh, Vinay Devarakonda

机构 * UT Austin（得克萨斯大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 介绍用于金融预测的FinBench基准，它通过时间门控避免前瞻偏差，用适当评分规则评估。任务要求模型输出正回报概率和预测区间，用多种分数评估，通过小型试点运行展示校准敏感指标能区分不同预测行为。

Comments 9 pages, 3 figures

Are Arithmetic Heuristic Neurons Form-Invariant? A Mechanistic Analysis of Symbols, Text, and Code in LLMs

算术启发式神经元是否形式不变？对大语言模型中符号、文本和代码的机制分析

Sharath Naganna, Tanvir Ahmed Sijan, Uddipta Kalita

机构 * Indian Institute of Technology Bombay（印度孟买理工学院） ； Jahangirnagar University（贾汉吉尔纳加尔大学） ； National Institute of Technology, Silchar（锡尔恰尔国立理工学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究大语言模型中算术启发式神经元在符号算术、自然语言文字问题和Python代码中是否形式不变。通过两阶段管道识别神经元，发现跨格式有共享电路，其对后期算术计算必要且充分，跨格式失败因激活状态，共享神经元所属启发式家族一致。

Comments Under Review

SGMCE: Segment-Grounded Morphological Concept Explanation for Malaria Parasite Species Identification in Thick Blood Smears

SGMCE：厚血涂片疟原虫物种识别的基于片段的形态学概念解释

Ahmed Tahiru Issah, Charles B. Delahunt, Carine Mukamakuza

机构 * Carnegie Mellon University（卡内基梅隆大学） ； University of Washington（华盛顿大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究旨在解决厚血涂片疟原虫物种识别中深度学习缺乏形态学证据的问题，提出SGMCE框架，无需额外训练等，通过提取特征、查询GPT-4o生成自然语言解释，经多指标验证，在多种检测中取得较好结果。

Comments Accepted for publication in the 30th Conference on Medical Image Understanding and Analysis (MIUA 2026), Dublin. To appear in Springer Lecture Notes in Computer Science (LNCS)

Knowing You at First Glance: Inferring Apparent Personality from Faces

一眼识你：从面部推断表面人格

Shuhuan Chen, Xiangyu Zhu, Weisong Zhao, Haichao Shi, Xiao-Yu Zhang, Zhen Lei

机构 * Institute of Automation, CAS（中国科学院自动化研究所） ； Institute of Information Engineering, CAS（中国科学院信息工程研究所） ； School of Cyber Security, UCAS（中国科学院大学网络空间安全学院） ； School of Artificial Intelligence, UCAS（中国科学院大学人工智能学院） ； Centre for Artificial Intelligence and Robotics, Hong Kong Institute of Science & Innovation, CAS（中国科学院香港创新研究院人工智能与机器人中心） ； School of Computer Science and Engineering, the Faculty of Innovation Engineering, M.U.S.T（澳门科技大学创新工程学院计算机科学与工程系） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究从面部图像推断表面人格，提出GlanceFace框架，利用视觉语言模型、语义增强模块及不确定性感知学习策略，在基于MBTI的基准测试中表现出色，揭示面部特征与人格特质关系，助力具身智能体交互策略。

Comments Accepted by The 9th Chinese Conference on Pattern Recognition and Computer Vision, PRCV2026

Music-to-Dance Generation via Atomic Movements

通过原子运动生成音乐驱动的舞蹈

Xinhao Cai, Yixuan Sun, Minghang Zheng, Qingchao Chen, Xin Jin, Song-chun Zhu, Yang Liu

机构 * Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机研究所） ； School of Electronics Engineering and Computer Science, Peking University（北京大学电子工程与计算机科学学院） ； National Institute of Health Data Science, Peking University（北京大学健康数据科学研究所） ； State Key Laboratory of General Artificial Intelligence, Peking University（北京大学通用人工智能国家重点实验室） ； Beijing Institute for General Artificial Intelligence（北京通用人工智能研究院） ； School of Intelligence Science and Technology, Peking University（北京大学智能科学与技术学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究音乐驱动的舞蹈生成问题，提出结构感知框架，将编排建模为原子运动序列，经数据分割、聚类及大语言模型处理得到原子运动注释，设计两阶段生成框架，提升舞蹈生成的结构连贯性、节奏对齐和自然度，增强可解释性与可控编辑性。

DeepBias: Adaptive In-depth Probing of Social Biases in LVLMs

深度偏差：对大型视觉语言模型中社会偏差的自适应深度探测

Anqi Li, Jie Zhang, Zhongqi Wang, Songkai Xue, Jiahao Wang, Shiguang Shan, Xilin Chen

专题命中 知识编辑与模型理解 ：language model(abstract)；preference optimization(abstract)；分类 cs.AI

AI总结 研究大型视觉语言模型中社会偏差问题，提出DeepBias自适应框架，通过“生成-演化-探测”循环及智能体深度探测偏差，构建DeepBiasBench基准，实验证明其有效性，为LVLM安全评估建立进化范式。

MMRM: A Multiplex Multimodal Representation Model for Product Ranking in E-commerce Search

MMRM：一种用于电子商务搜索中产品排名的多重多模态表示模型

Zhen-Lin Chen, Maosen Sheng, Peng Lin, Jianmin Chen, Zhuojian Xiao, Dongyue Wang, Xiwei Zhao

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 针对电子商务搜索排名中多模态信息利用的局限，提出MMRM框架，通过共享主干从多信号学习生成多重商品表示，引入多重用户表示策略，并经实验验证其有效性，已成功应用于京东搜索引擎提升性能。

Comments Accepted by SIGIR2026

EvidentialRAG: Quantifying and Mitigating Information Conflict in Multi-Source Retrieval-Augmented Generation via Evidential Deep Learning

证据RAG：通过证据深度学习量化和缓解多源检索增强生成中的信息冲突

S M Asif Hossain, Ruksat Khan Shayoni, M. F. Mridha

机构 * School of Computing, Wichita State University（威奇托州立大学计算学院） ； Department of Computer Science, American International University-Bangladesh（美国国际孟加拉大学计算机科学系） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究多源检索增强生成中信息冲突问题，提出ERAG框架，通过将检索块转换为概率证据、用轻量级评估器和融合规则处理不确定性，实验表明该框架在标准问答有竞争力，在冲突情况下行为改善，是可信信息处理实用机制。

MLPs are Hebbians: Constructing Efficient Fact-Storing MLPs for Transformers

多层感知器是赫布型的：为Transformer构建高效的事实存储多层感知器

Roberto Garcia, Jerry Liu, Ronny Junkins, Sabri Eyuboglu, Atri Rudra, Christopher Ré

机构 * Institute for Computational & Mathematical Engineering, Stanford University（斯坦福大学计算与数学工程研究所） ； Department of Computer Science, Stanford University（斯坦福大学计算机科学系） ； Department of Computer Science and Engineering, University at Buffalo（布法罗大学计算机科学与工程系） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究大语言模型中MLP层以最优速率存储事实知识的现象，开发首个与Transformer兼容的事实存储MLP闭式构造，具有最优存储缩放等特性，所需参数更少，还能用于事实召回任务及实现模块化事实编辑。

Optimizing Against Safety Representations: Activation-Guided Adversarial Suffixes and the Geometry of Refusal

针对安全表示的优化：激活引导的对抗后缀与拒绝几何

Ege Çakar, Hannah Guan, Kayden Kehe

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究大语言模型安全表示，引入激活引导的对抗后缀攻击方法，如Activation-Guided GCG和Soft-GCG，发现安全表示分布特点，不同规模模型的抗性不同，结果阐明安全机制编码及破解方式，为设计对齐策略提供指导。

Comments Accepted at the AAAI 2026 Summer Symposium Series. This paper was presented at the ICLR Re-Align workshop under a different name, "Accelerating Adversarial Suffix Optimization via Continuous Relaxation and Activation-Guided Objectives"

Mixture of Probes: Learning from Privileged Modalities in Multimodal LLMs Through Probing

混合探针：通过探针在多模态大语言模型中从特权模态学习

Dominick Reilly, Qiyu Wu, Hiromi Wakaki, Srijan Das, Yuki Mistufuji

机构 * Sony Group Corporation（索尼集团公司） ； Sony AI（索尼人工智能） ； University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究多模态大语言模型在特权模态设置下的问题，提出混合探针（MoP）框架及MoP跨模态训练（MoP-X），通过结构化探测机制分离模态信号，经评估在多任务中优于基线，有效利用辅助模态训练可提升性能。

Comments Preprint (16 pages)

SOAP-Bubbles: Structured Weight Uncertainty for Neural Networks

SOAP-Bubbles：神经网络的结构化权重不确定性

Adrian Robert Minut, Nico Daheim, Marco Miani, Mohammad Emtiyaz Khan, Wu Lin, Thomas Möllenhoff

机构 * Sapienza University of Rome（罗马大学） ； Ubiquitous Knowledge Processing Lab (UKP Lab), Department of Computer Science, Technical University of Darmstadt（达姆施塔特工业大学计算机科学系泛在知识处理实验室） ； National Research Center for Applied Cybersecurity ATHENE（国家应用网络安全研究中心ATHENE） ； Technical University of Denmark（丹麦技术大学） ； TU Darmstadt & Hessian Center for AI (hessian.AI)（达姆施塔特工业大学与黑森人工智能中心） ； RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能项目中心） ； University of Central Florida（中佛罗里达大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；pretraining(abstract)；分类 cs.LG

AI总结 通过将IVON方法适配到SOAP优化器的特征空间，提出EVON优化器以低代价获得非对角协方差后验，在语言模型预训练中优于现有对角协方差方法。

Comments Code available at: https://github.com/team-approx-bayes/evon

Propose and Attend: Training-free MLLM Grounding Confidence via Multi-Token Localized Attention

提出并关注：通过多令牌局部注意力实现无训练的多模态大语言模型接地置信度

Daniel Shalam, Emanuel Ben Baruch, Avi Ben Cohen, Tal Remez

机构 * Amazon（亚马逊） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究多模态大语言模型接地置信度问题，提出无训练的多令牌局部注意力（MTLA）方法，通过在声称区域内求和并跨预测令牌聚合恢复更强接地信号，在多模型家族和模态中提升了幻觉AUROC及零样本检测AP。

Probing Geospatial SSL Representations with Environmental Signals

利用环境信号探测地理空间自监督学习表示

Rohita Mocharla, Vishal M. Patel

机构 * Johns Hopkins Applied Physics Laboratory（约翰·霍普金斯大学应用物理实验室） ； Johns Hopkins University（约翰·霍普金斯大学） 纠错

专题命中 知识编辑与模型理解 ：foundation model(abstract)；pretraining(abstract)；分类 cs.LG

AI总结 针对地理空间自监督学习表示内在信息分析不足问题，用匹配的ERA5环境变量探测其对环境信号的编码能力，发现相关指标可区分下游性能相近模型，还开源了配套标注数据集。

Unsupervised Features Mining via Activation Geometry

通过激活几何进行无监督特征挖掘

Amit LeVi, Elad David, Max Fomin

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 介绍通过激活几何挖掘（MAG）的无监督框架，在输入前加指令Q，用m(Q∣p)-m(p)衡量其对模型内部表征的影响，探索多种MAG，所提取特征可预测模型理解与判断，还用于选择最佳训练数据集。

Journal ref ICML 2026, workshop on Failure Modes in Agentic AI (FAGEN)