语言大模型 / LLM

Concept Tokens: Learning Behavioral Embeddings Through Concept Definitions

概念标记：通过概念定义学习行为嵌入

Ignacio Sastre, Aiala Rosá

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 Concept Tokens通过概念定义学习行为嵌入，能有效控制冻结语言模型的行为，减少幻觉并提升合规性。

Journal ref Findings of the Association for Computational Linguistics: ACL 2026, pages 26501-26518, 2026

Robust Interpretation of Historical Documents in Knowledge Graphs Through Query Inference and Execution

通过查询推理和执行对知识图谱中的历史文档进行鲁棒解释

Sebastià Nicolau, Adrià Molina, Oriol Ramos Terrades, Josep Lladós

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 研究如何在利用大语言模型泛化能力时保证可靠性，提出智能检索系统，比较传统RAG与智能GraphRAG架构，引入半符号框架，通过单词识别与代码生成协作构建鲁棒检索查询，提升历史文档分析准确性与可验证性。

Comments Accepted at ICDAR2026

Beyond Black-Box Obfuscation: Mechanistic Analysis and Defense of White-Box Monitors

超越黑盒混淆：白盒监测器的机制分析与防御

Maheep Chaudhary, Fazl Barez

机构 * University of Oxford（牛津大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究针对大语言模型白盒监测器可被规避且缺乏防御措施的问题，通过红队实验揭示几何转移和协方差操纵两种逃避策略，引入SafetyNet集成方法，在多模型家族实验中取得高AUROC分数，为稳健潜在空间监测提供了实证和起点。

A First-Principles Theory of Slow Thinking and Active Perception

慢思考与主动感知的第一性原理理论

Hongkang Yang, Zhi-Qin John Xu, Feiyu Xiong, Weinan E

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文旨在为思维和感知提供数学公式，提出“主动提升”理论，推导慢思考相关内容，涵盖其设计、训练和推理，得出大设计空间及相关层次，还包括推理过程、训练目标等，有诸多技术副产品。

Comments Published on 2026/05/11 in Journal of Machine Learning

Journal ref Journal of Machine Learning 5 (2026) 197-352

SPHINX: First Explain, Then Explore

SPHINX: 先解释，再探索

Nguyen Do, Tue M. Cao, Tien Van Do, András Hajdu, Tamás Bérczes, My T. Thai

机构 * University of Florida（佛罗里达大学） ； University of Debrecen（德布勒恩大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出SPHINX闭环框架，通过可解释AI分析驾驶策略的失败模式，并利用视觉语言模型生成针对性对抗场景，提升自动驾驶策略鲁棒性。

Comments 13 pages

An Isotropic Approach to Efficient Uncertainty Quantification with Gradient Norms

基于梯度范数的高效不确定性量化方法

Nils Grünefeld, Jes Frellsen, Christian Hardmeier

机构 * IT University of Copenhagen（哥本哈根信息技术大学） ； Pioneer Centre for Artificial Intelligence（人工智能先锋中心） ； Technical University of Denmark（丹麦技术大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出一种轻量级方法，通过梯度范数和参数协方差的近似，实现对神经网络预测不确定性的高效量化，验证了其在不同基准测试中的有效性。

Comments ProbML 2026

Caption Bottleneck Models

标题瓶颈模型

Seref Baris Cagliyan, Umut Ozdemir, Merve Tapli, Emre Akbas

机构 * Dept. of Computer Eng., Middle East Technical University (METU)（中东技术大学计算机工程系） ； Robotics & AI Center (ROMER), METU（中东技术大学机器人与人工智能中心） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；post-training(abstract)

AI总结 提出标题瓶颈模型（CaBM），用自由形式自然语言替代固定概念集，通过LMM生成标题并严格基于文本训练分类器，实现无信息泄露的架构并自主发现高质量概念。

Comments Accepted to ECCV 2026

Closing the Activation-Cone Blind Spot: Response-Time Probing and Unified Defense

关闭激活锥盲点：响应时间探测与统一防御

Subhadip Mitra

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 针对大语言模型推理时安全方法，发现提示时激活防御对预填充攻击存在结构性盲点，提出响应时间探测（线性探针）结合停止机制，将预填充攻击成功率降至0，并与AlphaSteer组合实现正交防御。

Comments 27 pages, 12 figures, 18 tables. Code and data: https://github.com/bassrehab/response-time-probing

Emergence of Minimal Circuits for Indirect Object Identification in Attention-Only Transformers

注意力-only变换器中间接对象识别最小电路的涌现

Rabin Adhikari

机构 * Saarland University（萨尔大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本研究通过从头训练小型注意力-only变换器，在符号化的间接对象识别任务中发现，单层模型仅需两个注意力头即可实现完美准确率，揭示了任务特定训练如何诱导可解释的最小电路。

Comments Published at ACL (Volume 4: Student Research Workshop) ISBN: 979-8-89176-393-7 URL: https://aclanthology.org/2026.acl-srw.4

Towards the interoperability of low-code platforms

迈向低代码平台的互操作性

Iván Alfonso, Aaron Conrardy, Jordi Cabot

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出通过半自动迁移模型提升低代码平台互操作性，分析主流平台的导入导出能力，并结合大语言模型图像识别功能实现模型迁移。

Comments Submitted to International Conference on Advanced Information Systems Engineering (CAiSE25)

Journal ref Lecture Notes in Business Information Processing (LNBIP), Springer, 2025

Correct When Paired, Wrong When Split: Decoupling and Editing Modality-Specific Neurons in MLLMs

配对时正确，分离时错误：多模态大语言模型中模态特定神经元的解耦与编辑

Tingchao Fu, Wenkai Wang, Fanxiao Li, Huadong Zhang, Jinhong Zhang, Dayang Li, Yunyun Dong, Renyang Liu, Wei Zhou

机构 * School of Information Science and Engineering, Yunnan University（云南大学信息科学与工程学院） ； School of Software, Yunnan University（云南大学软件学院） ； National University of Singapore（新加坡国立大学） ； School of Engineering, Yunnan University（云南大学工程学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 针对多模态大语言模型知识编辑中存在的解耦失败问题，提出DECODE方法，通过显式解耦和定位模态特定神经元组，实现跨模态触发下的有效知识更新。

Comments 18 pages, 11 figures

A Unified Definition of Hallucination: It's The World Model, Stupid!

幻觉的统一定义：是世界模型的问题，笨蛋！

Emmy Liu, Varun Gangal, Chelsea Zou, Michael Yu, Xiaoqi Huang, Alex Chang, Zhuofu Tao, Karan Singh, Sachin Kumar, Steven Y. Feng

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract_cn)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出幻觉的统一定义，即用户可观察到的错误内部世界建模，并连接至HalluWorld基准测试，以区分真实幻觉与规划或奖励错误。

Comments ICML 2026. HalluWorld benchmark at https://github.com/DegenAI-Labs/HalluWorld

When New Generators Arrive: Lifelong Machine-Generated Text Attribution via Ridge Feature Transfer

当新生成器到来：基于岭特征迁移的终身机器生成文本归因

Zhen Sun, Yifan Liao, Zhicong Huang, Jiaheng Wei, Cheng Hong, Yutao Yue, Xinlei He

机构 * Wuhan University（武汉大学） ； Ant Group（蚂蚁集团） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科学与技术大学（广州）） ； Institute of Deep Perception Technology, JITRI（感知技术研究院，JITRI） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 针对终身机器生成文本归因中持续适应新生成器与保留旧知识难以平衡的问题，提出轻量级分析更新框架RidgeFT，通过协方差校准和固定随机特征实现无需示例回放的闭式更新。

Comments 12 pages

SpanNorm: Reconciling Training Stability and Performance in Deep Transformers

SpanNorm: 在深度Transformer中协调训练稳定性与性能

Chao Wang, Bei Li, Jiaqi Zhang, Xinyu Liu, Yuchun Fan, Linkun Lyu, Xin Chen, Jingang Wang, Tong Xiao, Peng Pei, Xunliang Cai

机构 * Meituan Inc.（美团公司） ； NLP Lab, School of Computer Science and Engineering（自然语言处理实验室，计算机科学与工程学院） ； Northeastern University, Shenyang, China（东北大学，沈阳，中国） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出SpanNorm技术，通过结合前归一化和后归一化的优势，解决深度Transformer中训练稳定性与性能之间的根本性权衡问题，理论分析和实验结果表明其在密集和专家混合（MoE）场景中均优于传统归一化方案。

Comments Accepted by ICML2026

Structured Prompt Optimization Meets Reinforcement Learning for Global and Local Interpretability over Complex Text

结构化提示优化结合强化学习实现复杂文本的全局与局部可解释性

Tianyang Zhou, Wenbo Chen, Pierre Jinghong Liang, Leman Akoglu

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Amazon（亚马逊） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出eXTC框架，通过结构化提示优化、基于SOP的推理蒸馏和强化学习扩展，在分类性能和解释质量上显著优于现有范式。

Building Reliable Long-Form Generation via Hallucination Rejection Sampling

通过幻觉拒绝采样构建可靠的长文本生成

Lin Li, Georgia Channing, Suhaas M Bhat, Gabriel Davis Jones, Yarin Gal

机构 * Georgia Institute of Technology（佐治亚理工学院） ； University of California, Berkeley（加州大学伯克利分校） ； University of Cambridge（剑桥大学） ； DeepMind（深度思维） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出分段幻觉拒绝采样框架SHARS，利用任意幻觉检测器在生成过程中拒绝并重采样幻觉片段，以缓解长文本生成中的幻觉累积问题，提升事实一致性。

Comments accepted by ICML 2026

Understanding the Self-Reflection Mechanisms of LLMs through Biased Attitude Associations

理解大语言模型通过偏见态度关联的自我反思机制

Jingshen Zhang, Bo Wang, Boci Yang, Dongming Zhao, Ruifang He, Yuexian Hou, Zifei Yu

专题命中 知识编辑与模型理解 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出 ReBias-Lens 框架，通过价态波动指标分析大语言模型自我反思如何重新配置偏见态度关联，发现层间平滑化减少整体偏见但局部偏见顽固放大。

Uncertainty Quantification for Multimodal Retrieval Augmented Generation

多模态检索增强生成的不确定性量化

Simon Binz, Heydar Soudani, Faegheh Hasibi

专题命中 知识编辑与模型理解 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出 LeMUQ 方法，通过多模态和检索感知的概率信号建模不确定性，提升多模态 RAG 系统的可靠性，AUROC 平均提升 3.8%。

When 2D Tasks Meet 1D Serialization: On Serialization Friction in Structured Tasks

当2D任务遇到1D序列化：结构化任务中的序列化摩擦

Chung-Hsiang Lo, Lu Li, Diji Yang, Tianyu Zhang, Yunkai Zhang, Yoshua Bengio, Yi Zhang

机构 * Northeastern University（东北大学） ； University of Pennsylvania（宾夕法尼亚大学） ； UC Santa Cruz（加州大学圣克鲁兹分校） ； Mila - Quebec AI Institute（魁北克人工智能研究所） ； University of Montreal（蒙特利尔大学） ； BAIR, UC Berkeley（伯克利大学BAIR实验室） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究通过矩阵转置、康威生命游戏和LU分解三个任务，发现将二维布局任务序列化为一维文本会因表示不匹配导致性能下降，且错误呈现空间结构模式。

Leveraging Visual Signals for Robust Token-Level Uncertainty in Vision-Language Generation

利用视觉信号实现视觉-语言生成中鲁棒的词元级不确定性

Joseph Hoche, David Brellmann, Gianni Franchi

机构 * AMIAD, Pôle Recherche, Palaiseau（AMIAD研究部，帕莱索） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；language model(abstract)

AI总结 针对大型视觉语言模型不确定性量化中视觉信息利用不足的问题，提出基于视觉锚定的词元级不确定性量化框架VIG-TUQ，通过加权语言不确定性与视觉锚定分数，无需训练即可提升不确定性估计性能。

Clarify, Abstain or Answer? Strategising in Conversation with Belief-Augmented Generation

澄清、弃权或回答？基于信念增强生成的对话策略

Joris Baan, Wilker Aziz, Barbara Plank, Raquel Fernández

机构 * University of Amsterdam（阿姆斯特丹大学） ； MCML Munich（慕尼黑MCML） ； LMU Munich（慕尼黑莱茵-魏尔堡大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出信念增强生成（BAG）方法，通过将大语言模型自身的信念状态注入提示，使其推理多个采样响应并决定对话策略（回答、澄清或弃权），从而提升多轮模糊问答的准确性和策略决策的忠实度。

Ellipsoid Control: A White-list Jailbreak Defense via Benign Latent Modeling

椭球控制：通过良性潜在建模的白名单越狱防御

Luoyu Chen, Weiqi Wang, Zhiyi Tian, Feng Wu, Ahmed Asiri, Shui Yu

专题命中 知识编辑与模型理解 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出一种基于白名单视角的测试时防御方法Ellipsoid Control，通过拟合良性数据的各向异性椭球约束投影梯度下降，在任意输入上触发拒绝同时最小化良性潜在几何的扭曲，从而在增强安全性的同时保持模型效用。

Comments Under review by TIFS

Creating Learning Scaffolds for Engineering Design Using Concept Catalyst

使用概念催化剂为工程设计创建学习支架

Madhuri Singh, Gennie Mansi, Mark Owen Riedl

专题命中 知识编辑与模型理解 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出了一种利用大型语言模型快速生成工程设计挑战支架问题的方法，以减轻教师准备时间，帮助学生更直观地理解设计过程中的关键概念。

Comments Accepted for an Interactive Demo by ISLS 2026

Geometry-Lite: Interpretable Safety Probing via Layer-Wise Margin Geometry

Geometry-Lite: 通过层间边际几何进行可解释的安全探测

Woo Seob Sim, Yu Rang Park

机构 * Yonsei University（延世大学） ； Yonsei University College of Medicine（延世大学医学院） ； Department Biomedical Systems Informatics（生物医学系统信息学部门） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文研究了大语言模型在提示级别上的安全探测问题，提出了一种名为Geometry-Lite的紧凑探测器，通过层间边际几何分析来提高安全检测的可解释性和准确性。

Task-conditioned probing of instruction-tuned multimodal LLMs: Region-specific brain alignment patterns under naturalistic stimuli

基于任务的指令调制多模态大语言模型探测：在自然主义刺激下的区域特定大脑对齐模式

Subba Reddy Oota, Khushbu Pahwa, Prachi Jindal, Satya Sai Srinath Namburi, Maneesh Singh, Tanmoy Chakraborty, Bapi S. Raju, Manish Gupta

机构 * Technische Universität Berlin（柏林技术大学） ； Rice University（Rice 大学） ； AWS AI Labs, Amazon（Amazon 人工智能实验室） ； IIT Delhi（德里理工学院） ； University of Wisconsin - Madison（威斯康星大学麦迪逊分校） ； Spector Inc（Spector 公司） ； IIIT-Hyderabad（海得拉巴理工学院） ； Microsoft（微软） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本研究探讨了指令调制多模态大语言模型在自然主义刺激下的大脑对齐模式，通过比较不同模型在视频和音频任务中的表现，揭示了指令调制对模型表示能力的影响。

Comments 57 pages, 39 figures

GaussianDWM: 3D Gaussian Driving World Model for Unified Scene Understanding and Multi-Modal Generation

GaussianDWM: 基于3D高斯场景表示的统一场景理解和多模态生成驱动世界模型

Tianchen Deng, Xuefeng Chen, Yi Chen, Qu Chen, Yuyao Xu, Lijin Yang, Le Xu, Yu Zhang, Bo Zhang, Wuxiong Huang, Hesheng Wang

机构 * Shanghai Jiao Tong University（上海交通大学） ； Tsinghua University（清华大学） ； MEGVII Technology（商汤科技） ； Mach Drive 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；language model(abstract)

AI总结 本文提出基于3D高斯表示的统一驱动世界模型框架，实现3D场景理解和多模态生成，并通过语言引导采样策略和双条件生成模型提升生成效果，实验验证其在nuScenes和NuInteract数据集上的优越性能。

Comments Accepted by CVPR 2026

When Answers Stray from Questions: Hallucination Detection via Question-Answer Orthogonal Decomposition

当答案偏离问题：通过问题-答案正交分解进行幻觉检测

Siyang Yao, Erhu Feng, Yubin Xia

机构 * Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出QAOD框架，通过正交分解回答表示以抑制领域变化，结合双策略实现领域内检测与跨领域泛化，提升检测鲁棒性。

Communicating Sound Through Natural Language

通过自然语言传达声音

Emanuele Rossi, Emanuele Rodolà

机构 * Sapienza University of Rome（罗马萨皮恩扎大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出 lexical acoustic coding 框架，利用预训练语言模型发送端和接收端代理通过自然语言传输声音，通过词汇化音频描述实现音质与信息的平衡。

Comments Includes link to demo page

CUE: Concept-Aware Multi-Label Expansion to Mitigate Concept Confusion in Long-Tailed Learning

CUE: 基于概念的多标签扩展以缓解长尾学习中的概念混淆

Ruichi Zhang, Chikai Shang, Jiacheng Yang, Mengke Li, Yang Zhou, Junlong Gao, Yang Lu

机构 * Key Laboratory of Multimedia Trusted Perception and Efficient Computing, Ministry of Education of China, Xiamen University, China（中国教育部多媒体可信感知与高效计算重点实验室，厦门大学，中国） ； College of Computer Science and Software Engineering, Shenzhen University, China（深圳大学计算机科学与软件工程学院，中国） ； Institute of High Performance Computing, A*STAR, Singapore（新加坡A*STAR高性能计算研究所） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；foundation model(abstract)

AI总结 本文提出CUE，通过引入多标签概念信号缓解长尾分布下类别间关系的破坏，实验表明其在多个长尾基准上表现优异。

Comments 10 pages. Accepted by CVPR 2026

Superminds Test: Actively Evaluating Collective Intelligence of Agent Society via Probing Agents

超级心智测试：通过探测代理主动评估代理社会的集体智慧

Xirui Li, Ming Li, Yunze Xiao, Ryan Wong, Dianqi Li, Timothy Baldwin, Tianyi Zhou

机构 * University of Maryland（马里兰大学） ； Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究通过Superminds测试评估代理社会的集体智慧，发现规模扩大并未带来集体智慧，交互浅显是主要限制因素。