语言大模型 / LLM

Do Activation Verbalization Methods Convey Privileged Information?

激活 verbalization 方法是否传递了特权信息？

Millicent Li, Alberto Mario Ceballos Arroyo, Giordano Rogers, Naomi Saphra, Byron C. Wallace

机构 * Northeastern University（东北大学） ； Kempner Institute, Harvard University（哈佛大学凯姆纳研究所） ； Boston University（波士顿大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.LG

AI总结 本文评估了激活 verbalization 方法的有效性，发现其可能反映生成器模型的知识而非目标模型的操作，需更精准的基准测试。

Comments ICML 2026. 41 pages, 23 tables, 6 figures

Max-pooling Network Revisited: Analyzing the Role of Semantic Probability in Multiple Instance Learning for Hallucination Detection

最大池化网络再审视：分析语义概率在多实例学习中的作用以检测幻觉

Shota Fujikawa, Issei Sato

机构 * Department of Computer Science, The University of Tokyo（东京大学计算机科学系） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文通过分析HaMI在决策边界的理论，提出基于最大池化和轻量级MLP的高效方法，提升幻觉检测效率并保持性能。

Epistemic Uncertainty for Test-Time Discovery

测试时发现的知识不确定性

Kainat Riaz, Muhammad Ahmed Mohsin, Ahsan Bilal, Muhammad Umer, Ayesha Mohsin, Aqib Riaz, Ali Subhan, John M. Cioffi

机构 * Stanford University（斯坦福大学） ； National University of Sciences and Technology（国家安全科学与技术大学） ； University of Oklahoma（俄克拉荷马大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出UG-TTT方法，通过维护低秩适配器的集成来区分未探索区域与困难问题，利用互信息量化分歧以提升探索效率，从而在科学发现任务中提高最大奖励和解的多样性。

Spectral Characterization and Mitigation of Sequential Knowledge Editing Collapse

谱分析与序列知识编辑崩溃的缓解

Chi Zhang, Mengqi Zhang, Xiaotian Ye, Runxi Cheng, Zisheng Zhou, Ying Zhou, Pengjie Ren, Zhumin Chen

机构 * Shandong University（山东大学） ； School of Computer Science, Beijing University of Posts and Telecommunications（北京邮电大学计算机学院） ； Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文通过谱分析揭示了序列知识编辑中模型泛化能力与预训练权重矩阵主导奇异方向的关系，提出REVIVE框架通过显式保留主导奇异子空间来稳定编辑过程，提升编辑效果并保持模型泛化能力。

Comments 22 pages, 18 figures, Accepted to ACL 2026 (Main Conference)

Sanity Checks for Long-Form Hallucination Detection

长形式幻觉检测的合理性检查

Geigh Zollicoffer, Minh Vu, Hongli Zhan, Raymond Li, Manish Bhattarai

机构 * Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室） ； The University of Texas at Austin（德克萨斯大学奥斯汀分校） ； University of British Columbia（不列颠哥伦比亚大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种控制不变性方法，通过强制和移除测试区分推理本身与最终答案的表面关联，展示轻量级评分器TRACT在未扰动轨迹上的有效性。

Feature Rivalry in Sparse Autoencoder Representations: A Mechanistic Study of Uncertainty-Driven Feature Competition in LLMs

稀疏自编码表示中的特征竞争：对LLMs中不确定性驱动特征竞争的机理研究

Harshavardhan

机构 * Independent Researcher（独立研究员） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究稀疏自编码中特征竞争与模型不确定性之间的关系，发现高熵问题在特定层产生更强的竞争，且竞争方向影响输出，竞争分数预测答案正确性。

Comments 10 pages, 6 figures

Don't Retrain, Align: Adapting Autoregressive LMs to Diffusion LMs via Representation Alignment

无需再训练，对齐：通过表征对齐将自回归语言模型适应到扩散语言模型

Fred Zhangzhi Peng, Alexis Fox, Anru R. Zhang, Alexander Tong

机构 * Duke University（杜克大学） ； AITHYRA 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出REPR-ALIGN方法，通过表征对齐将自回归模型转换为扩散模型，实现4倍训练加速，尤其在低数据情况下效果显著。

Comments Code available at https://github.com/pengzhangzhi/Open-dLLM

Don't Throw Away Your Beams: Improving Consistency-based Uncertainties in LLMs via Beam Search

不要抛弃你的光束：通过光束搜索改进大语言模型中的基于一致性不确定性的方法

Ekaterina Fadeeva, Maiya Goloburda, Aleksandr Rubashevskii, Roman Vashurin, Artem Shelmanov, Preslav Nakov, Mrinmaya Sachan, Maxim Panov

机构 * ETH Zurich（苏黎世联邦理工学院） ； MBZUAI（穆萨伊人工智能研究院） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出通过光束搜索改进大语言模型中的基于一致性的不确定性量化方法，减少方差并提升性能，实验证明其在六个问答数据集上达到最先进的性能。

The Cost of Context: Mitigating Textual Bias in Multimodal Retrieval-Augmented Generation

上下文的成本：减轻多模态检索增强生成中的文本偏差

Hoin Jung, Xiaoqian Wang

机构 * Elmore Family School of Electrical and Computer Engineering（埃尔莫夫家族电气与计算机工程学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文探讨了多模态大语言模型在整合检索增强生成时出现的文本偏差问题，提出BAIR方法通过恢复视觉显著性并施加位置感知惩罚来提升多模态接地和诊断可靠性。

Understanding Annotator Safety Policy with Interpretability

通过可解释性理解标注者安全政策

Alex Oesterling, Donghao Ren, Yannick Assogba, Dominik Moritz, Sunnie S. Y. Kim, Leon Gatys, Fred Hohman

机构 * Harvard University（哈佛大学） ； Apple（苹果公司） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 本文提出Annotator Policy Models，通过学习标注行为揭示安全政策差异，解决标注分歧根源问题，提升安全政策设计的透明性和包容性。

Comments 38 pages, 13 figures, ACM FAccT 2026

Agentopic: A Generative AI Agent Workflow for Explainable Topic Modeling

Agentopic：一种用于可解释主题建模的生成式AI代理工作流

Brice Valentin Kok-Shun, Johnny Chan, Gabrielle Peko, David Sundaram

机构 * The University of Auckland, New Zealand（奥克兰大学，新西兰） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 Agentopic通过多代理协作实现主题识别与解释，提升可解释性与准确性，其在BBC数据集上达到0.95的F1分数，优于LDA并接近BERTopic。

Comments 16 pages, 2 figures

Constructing Interpretable Features from Compositional Neuron Groups

从组合神经元组中构建可解释特征

Or Shafran, Atticus Geiger, Mor Geva

机构 * Blavatnik School of Computer Science and AI, Tel Aviv University（特拉维夫大学Blavatnik计算机科学与人工智能学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出SNMF方法，通过半非负矩阵分解直接分解MLP激活，生成稀疏线性组合的可解释特征，并在多个模型上验证其在因果操控中的优越性。

Comments Accepted at ACL 2026 main conference

From Skill Text to Skill Structure: The Scheduling-Structural-Logical Representation for Agent Skills

从技能文本到技能结构：面向智能体技能的调度-结构-逻辑表示

Qiliang Liang, Hansi Wang, Zhong Liang, Yang Liu

机构 * Key Laboratory of Computational Linguistics, Ministry of Education, Peking University（计算语言学重点实验室，教育部，北京大学） ； School of Computer Science, Peking University（北京大学计算机学院） ； Department of Chinese Language and Literature, Peking University（北京大学中文语言文学系） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 本文提出调度-结构-逻辑（SSL）表示法，通过解耦技能调度信号、执行结构和逻辑证据，提升智能体技能的可搜索性和可审查性，实验表明其在技能发现和风险评估任务中优于纯文本基线。

Comments 21 pages, 1 figure

Question-Adaptive Graph Learning for Multi-hop Retrieval Augmented Generation

针对多跳检索的问答图学习

Yuchen Yan, Peiyan Zhang, Zhihua Liu, Hao Wang, Yatao Bian, Weiming Li, Xiaoshuai Hao

机构 * Department of Computer Science, National University of Singapore（新加坡国立大学计算机科学系） ； Hong Kong University of Science（香港科学大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种多跳问答检索的图学习框架，通过多信息层级知识图和问题自适应图神经网络，提升复杂语义问题的理解与噪声抑制能力，实验表明在高跳数问题上提升33.8%。

Comments Accepted by SIGIR2026

Intervention-Aware Multiscale Representation Learning from Imaging Phenomics and Perturbation Transcriptomics

基于影像表型和扰动转录组的干预感知多尺度表征学习

Jiayuan Chen, Ruoqi Liu, Zishan Gu, Ping Zhang

机构 * The Ohio State University（俄亥俄州立大学） 纠错

专题命中 知识编辑与模型理解 ：foundation model(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 本文提出一种干预感知蒸馏框架，利用扰动转录组指导图像表征学习，通过基因表达和干预元数据生成化学感知的代码本，提升对未见干预的迁移能力及药物-靶点基因发现。

Comments CVPR 2026 main conference

Artificial General Intelligence Forecasting and Scenario Analysis: State of the Field, Methodological Gaps, and Strategic Implications

人工通用智能预测与情景分析：领域现状、方法缺口与战略影响

Gopal P. Sarma, Sunny D. Bhatt, Michael Jacob, Rachel Steratore

机构 * Research Report（研究报告） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文综述了人工通用智能到来预测方法现状，评估其可靠性，并分析战略与政策影响。指出现有方法局限，提出更稳健预测基础设施的研究方向。

Comments 75 pages, 1 figure

Journal ref RAND Corporation, 2026. https://www.rand.org/pubs/research_reports/RRA4692-1.html

AI models of unstable flow exhibit hallucination

AI模型在不稳定流中的表现出现幻觉

Ramdhan Wibawa, Birendra Jha

机构 * University of Southern California（南加州大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究发现AI模型在模拟不稳定流时出现物理不合理的幻觉现象，通过DeepFingers框架改进了多尺度流体动态建模。

EvoForest: A Novel Machine-Learning Paradigm via Open-Ended Evolution of Computational Graphs

EvoForest：一种通过计算图开放式进化实现的新型机器学习范式

Kamer Ali Yuksel, Hassan Sawaf

机构 * aiXplain, Inc.（aiXplain公司） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 本文提出EvoForest，一种混合神经符号系统，通过端到端开放式进化计算图，联合进化可重用计算结构、可调用函数族和可训练低维连续组件，以解决结构预测问题中的计算发现挑战。

From Fallback to Frontline: When Can LLMs be Superior Annotators of Human Perspectives?

从后备到前线：当LLMs能成为人类视角的超级标注者吗？

Hasan Amin, Harry Yizhou Tian, Xiaoni Duan, Chien-Ju Ho, Rajiv Khanna, Ming Yin

机构 * Purdue University（普渡大学） ； Washington University in St. Louis（华盛顿大学圣路易斯分校） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文探讨LLMs在预测主观任务中群体子观点时超越人类标注者的条件，指出LLMs的结构特性如低方差和减少的表示与处理偏差是其优势来源，而非经验因素。

Comments ACL 2026

Generative midtended cognition and Artificial Intelligence. Thinging with thinging things

生成性中介认知与人工智能。思考与思考之物

Xabier E. Barandiaran, Marta Pérez-Verdugo

机构 * IAS-Research Centre for Life, Mind and Society, Dept. Philosophy, UPV/EHU, University of the Basque Country, Donostia, Gipuzkoa (Spain)（生命、心智与社会研究中心，哲学系，巴斯克大学，Donostia, Gipuzkoa (西班牙)） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文探讨生成性中介认知概念，分析生成AI与人类认知的结合，提出该认知类型更接近社会认知而非传统扩展认知，并定义了生成性中介认知的两个维度：宽度和深度。

Comments 16 pages, 2 figures. Post-print of article published in Synthese. The final published version is available open access at https://doi.org/10.1007/s11229-025-04961-4

Journal ref Synthese 205 (2025) 137

GRAIL: Autonomous Concept Grounding for Neuro-Symbolic Reinforcement Learning

GRAIL：自主概念 grounding 用于神经符号强化学习

Hikaru Shindo, Henri Rößler, Quentin Delfosse, Kristian Kersting

机构 * Technical University of Darmstadt（达姆施塔特技术大学） ； Google Intrinsic（谷歌内在） ； German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI）） ； Centre for Cognitive Science, TU Darmstadt（达姆施塔特技术大学认知科学中心） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 GRAIL通过环境交互自主 grounding 关系概念，利用大语言模型提供弱监督，提升在稀疏奖励和概念对齐问题中的性能，实验显示其在Atari游戏中表现优异。

Comments Preprint

Decoding by Perturbation: Mitigating MLLM Hallucinations via Dynamic Textual Perturbation

解码中的扰动：通过动态文本扰动缓解多模态大语言模型的幻觉

Sihang Jia, Shuliang Liu, Songbo Yang, Yibo Yan, Xin Zou, Xuming Hu

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港理工大学（广州）） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出Decoding by Perturbation方法，通过动态文本扰动缓解多模态大语言模型的幻觉问题，通过控制文本干预减少语言先验的影响，提升解码稳定性。

Interpretable DNA Sequence Classification via Dynamic Feature Generation in Decision Trees

通过决策树中的动态特征生成实现可解释的DNA序列分类

Nicolas Huynh, Krzysztof Kacprzyk, Ryan Sheridan, David Bentley, Mihaela van der Schaar

机构 * University of Cambridge（剑桥大学） ； CU Anschutz Medical Campus（安舒茨医疗校区） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出DEFT框架，通过动态生成高级序列特征提升决策树在DNA序列分类中的可解释性和预测性能。

Comments AISTATS 2026

Evidential Transformation Network: Turning Pretrained Models into Evidential Models for Post-hoc Uncertainty Estimation

证据转换网络：将预训练模型转换为证据模型以进行事后不确定性估计

Yongchan Chun, Chanhee Park, Jeongho Yoon, Jaehyung Seo, Heuiseok Lim

机构 * Korea University（高丽大学） ； Konkuk University（建国大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出ETN，一种轻量级模块，将预训练模型转换为证据模型，以提升不确定性估计，同时保持精度并增加极小计算开销。

Comments Accepted to CVPR 2026 (Highlight)

DSCA: Dynamic Subspace Concept Alignment for Lifelong VLM Editing

DSCA: 动态子空间概念对齐用于终身视觉语言模型编辑

Gyanendra Das, Sai Satyam Jena

机构 * Zynix AI, FL, USA（Zynix AI（美国佛罗里达州）） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；instruction tuning(abstract)；分类 cs.AI、cs.LG

AI总结 DSCA通过动态子空间对齐技术，在视觉语言模型中实现精准非干扰编辑，提升终身学习的稳定性与知识保留能力。

Comments Accepted at CVPR 2026

Digital Skin, Digital Bias: Uncovering Tone-Based Biases in LLMs and Emoji Embeddings

数字皮肤，数字偏见：揭示基于肤色的LLM和表情符号嵌入中的偏见

Mingchen Li, Wajdi Aljedaani, Yingjie Liu, Navyasri Meka, Xuan Lu, Xinyue Ye, Junhua Ding, Yunhe Feng

机构 * University of North Texas（北德克萨斯大学） ； International Center for Artificial Intelligence Research and Ethics（国际人工智能研究与伦理中心） ； Southern Methodist University（南卫理公会大学） ； The University of Arizona（亚利桑那大学） ； The University of Alabama（阿拉巴马大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了LLM和表情符号嵌入模型中基于肤色的偏见，发现表情符号模型在肤色表示上存在严重缺陷，揭示了潜在的偏见问题，呼吁开发者和平台进行审计和缓解。

Comments Accepted at WWW'26

LAG-XAI: A Lie-Inspired Affine Geometric Framework for Interpretable Paraphrasing in Transformer Latent Spaces

LAG-XAI：一种受李群启发的仿射几何框架用于Transformer潜在空间中的可解释性改写

Olexander Mazurets, Olexander Barmak, Leonid Bedratyuk, Iurii Krak

机构 * Khmelnytskyi National University（赫梅利尼茨基国立大学） ； Taras Shevchenko National University of Kyiv（基辅塔拉斯·舍甫琴科国立大学） ； V.M. Glushkov Institute of Cybernetics of NAS of Ukraine（乌克兰国家科学院V.M.格卢什科夫控制论研究所） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出LAG-XAI框架，通过仿射变换建模改写过程，揭示潜在空间中的几何结构，实验显示其在分类任务中具有较高的AUC值，并在检测LLM幻觉中表现出色。

Mechanistic Knobs in LLMs: Retrieving and Steering High-Order Semantic Features via Sparse Autoencoders

大语言模型中的机制调节：通过稀疏自编码器检索和引导高阶语义特征

Ruikang Zhang, Shuo Wang, Qi Su

机构 * Peking University（北京大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出基于稀疏自编码器的框架，通过对比特征检索管道和生成验证，实现对高阶语言行为相关语义内部特征的引导，展示了在Big Five人格特质案例中的精准双向调控效果。

Enhancing Hallucination Detection via Future Context

通过未来上下文增强幻觉检测

Joosung Lee, Cheonbok Park, Hwiyeol Jo, Jeonghoon Kim, Joonsuk Park, Kang Min Yoo

机构 * NAVER CLOUD（NAVER云） ； NAVER AI Lab（NAVER人工智能实验室） ； KAIST（韩国科学技术院） ； University of Richmond（里士满大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出通过采样未来上下文来增强幻觉检测，结合多种采样方法提升检测性能。

Comments Findings of ACL 2026

ZINA: Multimodal Fine-grained Hallucination Detection and Editing

ZINA：多模态细粒度幻觉检测与编辑

Yuiga Wada, Kazuki Matsuda, Komei Sugiura, Graham Neubig

机构 * Keio AI Research Center（庆应义塾大学人工智能研究中心） ； Keio University（庆应义塾大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出ZINA方法，用于多模态大语言模型的细粒度幻觉检测与编辑，通过构建VisionHall数据集验证了其在检测和编辑任务中的优越性。

Comments CVPR 2026 Main Conference