语言大模型 / LLM

Sparse Shift Autoencoders for Identifying Concepts from Large Language Model Activations

稀疏位移自编码器用于从大语言模型激活中识别概念

Shruti Joshi, Andrea Dittadi, Sébastien Lachapelle, Dhanya Sridhar

机构 * Mila-Qu\'ebec AI Institute \& Universit\'e de Montr\'eal ； Technical University of M\"unich ； Samsung - SAIT AI Lab, Montr\'eal 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出稀疏位移自编码器，通过学习嵌入差异的稀疏表示，实现对大语言模型中概念的可识别性操控，从而提升模型的可解释性和可控性。

Comments 27 pages, 9 figures

Factuality Challenges in the Era of Large Language Models

大语言模型时代的真实性挑战

Isabelle Augenstein, Timothy Baldwin, Meeyoung Cha, Tanmoy Chakraborty, Giovanni Luca Ciampaglia, David Corney, Renee DiResta, Emilio Ferrara, Scott Hale, Alon Halevy, Eduard Hovy, Heng Ji, Filippo Menczer, Ruben Miguez, Preslav Nakov, Dietram Scheufele, Shivam Sharma, Giovanni Zagni

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 大语言模型时代，研究探讨了事实核查者、新闻机构和研究界在应对生成式AI真实性挑战中的技术、监管和教育措施。

Comments Our article offers a comprehensive examination of the challenges and risks associated with Large Language Models (LLMs), focusing on their potential impact on the veracity of information in today's digital landscape

Journal ref Nat Mach Intell 6, 852--863 (2024)

Thought Virus: Viral Misalignment via Subliminal Prompting in Multi-Agent Systems

Thought Virus: 通过潜意识提示在多智能体系统中产生病毒性偏差

Moritz Weckbecker, Jonas Müller, Ben Hagag, Michael Mulet

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 知识编辑与模型理解 ：prompting(title,abstract)；LLM(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究揭示了多智能体系统中通过潜意识提示传播偏见的风险，指出单个智能体的潜意识提示可能影响整个网络的诚实性，提出新的安全攻击向量。

Comments 18 pages, 10 figures, 2 tables. Code available at https://github.com/Multi-Agent-Security-Initiative/thought_virus

Unified Vision-Language Modeling via Concept Space Alignment

通过概念空间对齐实现统一的视觉-语言建模

Yifu Qiu, Paul-Ambroise Duquenne, Holger Schwenk

机构 * University of Edinburgh（爱丁堡大学） ； FAIR at Meta（Meta公司FAIR团队） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；instruction tuning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 通过概念空间对齐实现统一的视觉-语言建模，V-SONAR在多语言和多模态任务中超越现有模型。

Comments ICLR 2026

Designing Social Robots with Ethical, User-Adaptive Explainability in the Era of Foundation Models

在基础模型时代设计具有伦理性和用户适应性的社交机器人

Fethiye Irmak Dogan, Alva Markelius, Hatice Gunes

机构 * University of Cambridge（剑桥大学） 纠错

专题命中 知识编辑与模型理解 ：foundation model(title,abstract)；LLM(abstract)

AI总结 本文提出在基础模型驱动的社交机器人中，需通过伦理性和用户适应性的可解释性设计，解决适应与解释委托给基础模型带来的挑战。

Comments Companion Proceedings of the 21st ACM/IEEE International Conference on Human-Robot Interaction

Personalities at Play: Probing Alignment in AI Teammates

性格的博弈：探究AI队友的对齐

Mohammad Amin Samadi, Nia Nixon

机构 * School of Education University of California Irvine（教育学院 加州大学尔湾分校） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 研究探讨AI队友的性格对齐，通过多维度评估发现其性格表现受提示策略、供应商差异和记忆构建影响，强调需综合考虑记忆和系统设计以有效评估AI性格。

GlassMol: Interpretable Molecular Property Prediction with Concept Bottleneck Models

GlassMol：通过概念瓶颈模型实现可解释的分子属性预测

Oscar Rivera, Ziqing Wang, Matthieu Dagommer, Abhishek Pandey, Kaize Ding

机构 * Northwestern University（西北大学） ； AbbVie（阿比维） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 GlassMol通过自动化概念整理和LLM引导的概念选择，解决分子属性预测中的可解释性与性能权衡问题。

Self-Correction Inside the Model: Leveraging Layer Attention to Mitigate Hallucinations in Large Vision Language Models

模型内部的自我校正：利用层注意力缓解大视觉语言模型中的幻觉

April Fu

机构 * Independent Researcher（独立研究者） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)

AI总结 本文提出了一种利用层注意力的内部自我校正机制，通过自我细化提高大视觉语言模型的视觉接地性，有效缓解幻觉问题。

Fourier-Attentive Representation Learning: A Fourier-Guided Framework for Few-Shot Generalization in Vision-Language Models

傅里叶-注意力表示学习：一种引导少样本泛化的视觉-语言模型框架

Hieu Dinh Trung Pham, Huy Minh Nhat Nguyen, Cuong Tuan Nguyen

机构 * Vietnamese German University（越南德语大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)

AI总结 本文提出FARL框架，通过傅里叶分析解缠视觉表示，提升视觉-语言模型在少样本场景下的泛化能力。

Probing Materials Knowledge in LLMs: From Latent Embeddings to Reliable Predictions

探测大语言模型中的材料知识：从潜在嵌入到可靠预测

Vineeth Venugopal, Soroush Mahjoubi, Elsa Olivetti

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究发现大语言模型在材料科学任务中表现依赖于输出模态，微调提升符号任务准确性但数值任务仍不一致，提取中间层嵌入可提高性能但存在瓶颈，长期跟踪显示模型性能波动大，影响科学应用的可重复性。

Comments Under Review

DenoiseFlow: Uncertainty-Aware Denoising for Reliable LLM Agentic Workflows

DenoiseFlow：面向可靠LLM代理工作流的不确定性感知去噪

Yandong Yan, Junwei Peng, Shijie Li, Chenxi Li, Yifei Shang, Can Deng, Ruiting Dai, Yongqiang Zhao, Jiaqi Zhu, Yu Huang

机构 * School of Computer Science, Peking University（北京大学计算机科学学院） ； School of Electronics Engineering and Computer Science, Peking University（北京大学电子工程与计算机科学学院） ； SKLCCSE, School of Computer Science and Engineering, Beihang University（北航计算机科学与工程学院） ； Tsinghua University（清华大学） ； University of Electronic Science and Technology of China（电子科技大学） ； Key Laboratory of High Confidence Software Technologies(PKU), MOE（北京大学高可信软件技术重点实验室） ； Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所） ； National Engineering Research Center for Software Engineering, Peking University（软件工程国家工程研究中心） 纠错

专题命中 知识编辑与模型理解 ：LLM(title)；分类 cs.AI

AI总结 DenoiseFlow通过闭环框架实现多步推理的不确定性感知去噪，提升LLM代理工作流的可靠性与效率。

MOON: Generative MLLM-based Multimodal Representation Learning for E-commerce Product Understanding

MOON: 基于生成式多模态大语言模型的电商产品理解多模态表示学习

Daoze Zhang, Chenghan Fu, Zhanheng Nie, Jianyu Liu, Wanxian Guan, Yuan Gao, Jun Song, Pengjie Wang, Jian Xu, Bo Zheng

机构 * Alibaba Group（阿里巴巴集团） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 MOON通过生成式多模态大语言模型改进电商产品理解的多模态表示学习，引入引导的MoE模块、核心语义区域检测和负采样策略，提升零样本性能和泛化能力。

Comments Accepted by WSDM 2026 (oral). 11 pages, 9 figures

Sometimes You Need Facts, and Sometimes a Hug: Understanding Older Adults' Preferences for Explanations in LLM-Based Conversational AI Systems

有时你需要事实，有时你需要一个拥抱：理解老年人在基于LLM的对话AI系统中对解释的偏好

Niharika Mathur, Tamara Zubatiy, Agata Rozga, Jodi Forlizzi, Elizabeth Mynatt

专题命中 知识编辑与模型理解 ：LLM(title)

AI总结 研究探讨老年人在基于LLM的对话AI系统中对解释的偏好，通过实验发现解释的高情境依赖性及互动性，为设计更符合老年人需求的AI系统提供指导。

Comments To be published at ACM CHI 2026

Negative Pre-activations Differentiate Syntax

负预激活区分句法

Linghao Kong, Angelina Ning, Micah Adler, Nir Shavit

机构 * MIT（麻省理工学院） ； Red Hat AI（红帽人工智能） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究发现，Wasserstein神经元中的负预激活在句法处理中起关键作用，其删除显著影响语法性能，而其他神经元的删除影响较小。

Comments 10 pages, 7 figures

Voices, Faces, and Feelings: Multi-modal Emotion-Cognition Captioning for Mental Health Understanding

声音、面孔与情感：多模态情绪-认知描述用于心理健康理解

Zhiyuan Zhou, Yanrong Guo, Shijie Hao

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)

AI总结 ECMC通过多模态数据生成情绪-认知描述，提升心理健康评估的准确性和可解释性。

Comments Accepted at AAAI 2026

Revealing Combinatorial Reasoning of GNNs via Graph Concept Bottleneck Layer

通过图概念瓶颈层揭示图神经网络的组合推理

Yue Niu, Zhaokai Sun, Jiayi Yang, Xiaofeng Cao, Rui Fan, Xin Sun, Hanli Wang, Wei Ye

机构 * Tongji University, Shanghai, China（同济大学） ； City University of Macau, Macau, China（澳门城市大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出图概念瓶颈层，通过将概念视为图词并利用语言模型学习嵌入，提升GNNs的组合推理可解释性与性能。

Comments 20 pages

Bilinear representation mitigates reversal curse and enables consistent model editing

双线性表示缓解反转诅咒并实现一致的模型编辑

Dong-Kyum Kim, Minsung Kim, Jea Kwon, Nakyeong Yang, Meeyoung Cha

机构 * MPI-SP（马克斯·普朗克研究所（德国）） ； SNU（首尔国立大学（韩国）） ； KAIST（韩国科学技术院（韩国）） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 双线性表示缓解语言模型的反转诅咒，通过构建内在几何结构实现一致的模型编辑。

Comments ICLR 2026

I Predict Therefore I Am: Is Next Token Prediction Enough to Learn Human-Interpretable Concepts from Data?

我预测因此我存在：仅靠下一个令牌预测是否足以从数据中学习人类可解释的概念？

Yuhang Liu, Dong Gong, Yichao Cai, Erdun Gao, Zhen Zhang, Biwei Huang, Mingming Gong, Anton van den Hengel, Javen Qinfeng Shi

机构 * Responsible AI Research Centre（负责任人工智能研究中心） ； Australian Institute for Machine Learning（澳大利亚机器学习研究所） ； Adelaide University（阿德莱德大学） ； School of Computer Science and Engineering（计算机科学与工程学院） ； The University of New South Wales（新南威尔士大学） ； Halıcıoğlu Data Science Institute（哈利奇奥格卢数据科学研究所） ； University of California San Diego（加州大学圣地亚哥分校） ； School of Mathematics and Statistics（数学与统计学学院） ； The University of Melbourne（墨尔本大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出了一种新的生成模型，通过理论分析证明LLM通过下一个令牌预测能学习人类可解释的概念，并验证了该理论在模拟数据和现有模型上的有效性。

PHyCLIP: $\ell_1$-Product of Hyperbolic Factors Unifies Hierarchy and Compositionality in Vision-Language Representation Learning

PHyCLIP通过$\ell_1$-Product度量结合双曲因子，统一了视觉-语言表示学习中的层次结构与组合性

Daiki Yoshikawa, Takashi Matsubara

机构 * Hokkaido University（北海道大学） ； CyberAgent 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.LG

AI总结 PHyCLIP通过$\ell_1$-Product度量结合双曲因子，统一了视觉-语言表示学习中的层次结构与组合性。

Comments 24 pages. Codes are available at https://github.com/tksmatsubara/PHyCLIP

Journal ref International Conference on Learning Representations (ICLR), 2026

SUIT: Knowledge Editing with Subspace-Aware Key-Value Mappings

SUIT: 基于子空间感知的关键值映射知识编辑

Haewon Park, Sangwoo Kim, Yohan Jo

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL

AI总结 SUIT通过子空间感知的关键值映射提升知识编辑的准确性与稳定性

Comments 31 pages, 13 figures, 17 tables

Advancing Complex Video Object Segmentation via Progressive Concept Construction

通过渐进式概念构建推进复杂视频对象分割

Zhixiong Zhang, Shuangrui Ding, Xiaoyi Dong, Songxin He, Jianfan Lin, Junsong Tang, Yuhang Zang, Yuhang Cao, Dahua Lin, Jiaqi Wang

机构 * Shanghai Jiao Tong University（上海交通大学） ； Shanghai Innovation Institute（上海创新研究院） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； The Chinese University of Hong Kong（香港中文大学） ； Harbin Institute of Technology（哈尔滨工业大学） ； CPII under InnoHK（InnoHK下的CPII） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI

AI总结 SeC通过渐进式概念构建方法，在复杂视频对象分割任务中实现了显著性能提升，特别是在语义复杂场景下的表现优于现有方法。

Comments project page: https://rookiexiong7.github.io/projects/SeC/ ; code: https://github.com/OpenIXCLab/SeC ; dataset: https://huggingface.co/datasets/OpenIXCLab/SeCVOS

Dynamic Weight Grafting: Localizing Finetuned Factual Knowledge in Transformers

动态权重嫁接：在Transformer中本地化微调的事实知识

Todd Nief, David Reber, Sean Richardson, Ari Holtzman

机构 * Department of Computer Science, University of Chicago（计算机科学系，芝加哥大学） ； Department of Statistics, University of Chicago（统计学系，芝加哥大学） ； Data Science Institute, University of Chicago（数据科学研究所，芝加哥大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；分类 cs.LG

AI总结 研究提出动态权重嫁接技术，揭示Transformer在生成过程中通过两种路径检索微调事实知识：增强残差流与即时回忆信息。

Bi-TEAM: A Unified Cross-Scale Representation Learning Framework for Chemically Modified Biomolecules

Bi-TEAM：一种统一的跨尺度表示学习框架用于化学修饰的生物分子

Chunbin Gu, Zijun Gao, Mutian He, Jingjie Zhang, Haipeng Wen, Zihao Luo, Xiaorui Wang, Hanqun Cao, Jiajun Bu, Chang-Yu Hsieh, Pheng Ann Heng

专题命中 知识编辑与模型理解 ：language model(abstract)

AI总结 Bi-TEAM 通过统一生物语义与化学精度，提供了一种统一的跨尺度表示学习框架，用于化学修饰生物分子的高效建模与预测。

Comments 57 pages, 16 figures

AI Safety Evaluations Need To Consider Cascading Effects

AI安全评估需要考虑连锁效应

Anna Neumann, Jatinder Singh

专题命中 知识编辑与模型理解 ：foundation model(abstract)

AI总结 本文提出通过分析AI供应链中各组件的连锁效应，改进AI安全评估方法，以提升系统透明度和安全性。

Comments As accepted in the IASEAI 2026 Proceedings, Track 11: Epistemological challenges of AI