语言大模型 / LLM

LLM-XTM: Enhancing Cross-Lingual Topic Models with Large Language Models

LLM-XTM：利用大语言模型增强跨语言主题模型

Minh Chu Xuan, Tien-Phat Nguyen, Linh Ngo Van, Dinh Viet Sang, Nguyen Thi Ngoc Diep, Trung Le

机构 * Hanoi University of Science and Technology（河内科学技术大学） ； VNU University of Engineering and Technology（VNU工程技术大学） ； Monash University（墨尔本大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,title_cn)；large language model(title)；language model(title)；分类 cs.CL

AI总结 提出LLM-XTM框架，通过LLM引导的主题精炼与自一致性不确定性量化，以黑盒方式稳定提升跨语言主题模型的连贯性和对齐性，减少对双语资源的依赖。

Comments ACL 2026

Whom to Query for What: Adaptive Group Elicitation via Multi-Turn LLM Interactions

为谁查询什么：通过多轮LLM交互的自适应群体征询

Ruomeng Ding, Tianwei Gao, Thomas P. Zollo, Eitan Bachmat, Richard Zemel, Zhun Deng

机构 * University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校） ； Columbia University（哥伦比亚大学） ； Ben-Gurion University of the Negev（贝内-约尔大学内盖夫分校） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 针对有限预算下群体属性不确定性降低问题，提出结合LLM期望信息增益与异构图神经网络传播的自适应群体征询框架，实现问题与受访者联合选择，在三个真实数据集上显著提升群体响应预测。

Comments Published as a conference paper at ICML 2026

Uncertainty-Aware Clarification in LLM Agents with Information Gain

基于信息增益的LLM智能体不确定性感知澄清

Mengyi Deng, Zhiwei Li, Xin Li, Tingyu Zhu, Ying Zhao, Zhijiang Guo, Wei Wang

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对用户指令不明确导致LLM智能体工具操作错误的问题，提出一种以信息增益奖励为导向的澄清框架，通过贝叶斯信念更新量化澄清问题的效用，训练智能体生成高信息增益的澄清，在τ-Bench环境中将任务成功率提升3.7%，仅增加0.3个交互步骤。

Journal ref ICML 2026

SeSE: Black-Box Uncertainty Quantification for Large Language Models Based on Structural Information Theory

SeSE: 基于结构信息理论的大语言模型黑盒不确定性量化

Xingtao Zhao, Hao Peng, Dingli Su, Xianghua Zeng, Chunyang Liu, Jinzhi Liao, Philip S. Yu

机构 * School of Cyber Science and Technology Beihang University（北航信息科学与技术学院） ； School of Computer Science and Engineering Beihang University（北航计算机科学与工程学院） ； Didi Chuxing（滴滴出行） ； Laboratory for Big Data and Decision National University of Defense Technology（国防科技大学大数据与决策实验室） ； Department of Computer Science University of Illinois Chicago（伊利诺伊大学芝加哥分校计算机科学系） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 提出SeSE框架，通过构建语义空间的最优层次抽象并计算结构熵，实现大语言模型的黑盒不确定性量化，理论推广了语义熵并在长文本生成中优于现有方法。

Comments Accepted by UAI 2026

Investigating Novice Researchers' Perceptions of Research Privacy Within LLM-Assisted Workflows

调查新手研究者在LLM辅助工作流中对研究隐私的看法

Shuning Zhang, Changxi Wen, Eve He, Ying Ma, Robert Xiao, Xin Yi, Hewu Li

专题命中 知识编辑与模型理解 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 通过半结构化访谈44名跨学科研究者，发现新手研究者因发表压力而加速依赖LLM，同时存在隐私误解，并提出输入分段、对抗性探测等缓解措施，但参与者认为效果有限。

Probe Before You Edit: Probing-Guided Molecular Optimization for LLM Agents in Structure-Based Drug Design

编辑前先探测：基于探测引导的分子优化用于基于结构的药物设计中的LLM代理

Zaifei Yang, Weiyu Chen, Yaqing Wang, James Kwok

机构 * The Hong Kong University of Science and Technology（香港科学与技术大学） ； City University of Hong Kong（香港城市大学） ； Beijing Institute of Mathematical Sciences and Applications（北京数学科学应用研究所） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,title_cn)；分类 cs.AI

AI总结 提出PROBE框架，通过探测口袋-配体复合物的编辑响应来引导LLM代理进行分子优化，解决结合亲和力与成药性之间的冲突，在CrossDocked2020上达到最优性能。

PsychoPass: Geometric Profiling of Multi-Turn Adversarial LLM Conversations

PsychoPass: 多轮对抗性LLM对话的几何轮廓分析

Muberra Ozmen, Subhabrata Majumdar

机构 * Coveo Montreal, QC, Canada（加拿大蒙特利尔 Coveo） ； Indian Institute of Management Bangalore（班加罗尔印度管理学院） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出PsychoPass框架，通过提取对话轨迹在嵌入空间中的几何特征，在有害内容生成前预测多轮越狱攻击，并发现早期几何信号具有鲁棒性。

SRA: Span Representation Alignment for Large Language Model Distillation

SRA: 面向大型语言模型蒸馏的跨度表示对齐

Quoc Phong Dao, Hoang Son Nguyen, Pham Khanh Chi, Tung Nguyen, Linh Ngo Van, Nguyen Thi Ngoc Diep, Trung Le

机构 * Hanoi University of Science and Technology（河内科学技术大学） ； VNU University of Engineering and Technology（VNU工程大学） ； Monash University（莫纳什大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 提出SRA框架，通过将蒸馏对齐单元从token转为跨度的质心表示，并引入几何正则化和对齐跨度logit蒸馏，显著提升跨分词器知识蒸馏性能。

Comments ACL 2026

When Graph Tokens Sink: A Mechanistic Analysis of Graph Language Models

当图标记沉没：图语言模型的机制分析

Ding Zhang, Runtao Zhou, Wenqing Zheng, Rizal Fathony, Bayan Bruss, Chirag Agarwal

机构 * University of Virginia（弗吉尼亚大学） ； Capital One 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)；分类 cs.LG

AI总结 本文通过分析图语言模型中图标记的内部行为，发现激活层面的显著性与图信息利用之间存在解耦，揭示了现有图标记构建、放置和对齐机制的局限性。

SVHalluc: Benchmarking Speech-Vision Hallucination in Audio-Visual Large Language Models

SVHalluc: 音频-视觉大语言模型中的语音-视觉幻觉基准测试

Chenshuang Zhang, Kyeong Seon Kim, Chengxin Liu, Tae-Hyun Oh

机构 * KAIST（韩国国立信息通信研究院） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(title)；分类 cs.AI、cs.LG

AI总结 针对音频-视觉大语言模型中的语音-视觉幻觉问题，提出SVHalluc基准，从语义和时间两个维度评估模型将语音内容与视觉信号对齐的能力，发现现有模型存在跨模态理解局限。

Comments Accepted at CVPR 2026

When Should LLMs Be Less Specific? Selective Abstraction for Reliable Long-Form Text Generation

LLM何时应降低具体性？面向可靠长文本生成的选择性抽象

Shani Goren, Ido Galil, Ran El-Yaniv

机构 * Technion（技术离子大学） ； NVIDIA（英伟达） 纠错

专题命中 知识编辑与模型理解 ：LLM(title_cn,summary_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 针对LLM在长文本生成中因低置信度而丢弃有价值信息的问题，提出选择性抽象框架，通过原子级抽象替换不确定内容，在保持语义的同时提升准确性和可靠性。

Hallucination Is Linearly Decodable from Mid-Layer Hidden States in Quantized LLMs

幻觉可从量化LLM中间层隐藏状态线性解码

Aizierjiang Aiersilan

机构 * University of Macau（澳门大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title_cn,summary_cn)；分类 cs.CL、cs.LG

AI总结 研究开源LLM在4位量化下中间层隐藏状态是否编码线性可分的真实性信号，发现单层线性探针AUROC达0.904-1.000，优于采样方法，且信号近似线性。

Automatic Layer Selection for Hallucination Detection

幻觉检测的自动层选择

Xinpeng Wang, William X. Cao, Andrew Gordon Wilson, Zhe Zeng

机构 * University of Washington（华盛顿大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对大语言模型中幻觉检测的层选择问题，提出无需训练的FEPoID准则，自动识别最优中间层，并结合截断策略提升检测性能。

Comments Accepted at ICML 2026

Representational Capacity: Geometric Limits on Feature Representation in Transformer Language Models

表示能力：Transformer语言模型中特征表示的几何限制

Alexander Guha

机构 * Arizona State University（亚利桑那州立大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 基于线性表示和叠加假设，通过嵌入矩阵的余弦相似度分布估计模型可支持的近正交方向数量，推导出容量公式，并发现容量对偏差ε指数敏感。

Comments 22 pages, 10 figures. Submitted to NeurIPS 2026. This is a condensed version of thesis: https://hdl.handle.net/2286/R.2.N.204857

Knowledge Editing in Masked Diffusion Language Models

掩码扩散语言模型中的知识编辑

Haewon Park, Yohan Jo

机构 * Graduate School of Data Science, Seoul National University（首尔国立大学数据科学研究生院） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.CL

AI总结 研究将定位-编辑方法从自回归模型迁移到掩码扩散模型，发现编辑位置可迁移但多词编辑性能下降，并提出优化中间状态的简单修正方法。

Building Reliable Long-Form Generation via Hallucination Rejection Sampling

通过幻觉拒绝采样构建可靠的长文本生成

Lin Li, Georgia Channing, Suhaas M Bhat, Gabriel Davis Jones, Yarin Gal

机构 * Georgia Institute of Technology（佐治亚理工学院） ； University of California, Berkeley（加州大学伯克利分校） ； University of Cambridge（剑桥大学） ； DeepMind（深度思维） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出分段幻觉拒绝采样框架SHARS，利用任意幻觉检测器在生成过程中拒绝并重采样幻觉片段，以缓解长文本生成中的幻觉累积问题，提升事实一致性。

Comments accepted by ICML 2026

NeuroArmor: Safe-Variant-Guided Representation Consistency for Selective Re-Anchoring in Jailbreak Defense

NeuroArmor：基于安全变体引导的表示一致性实现越狱防御中的选择性重新锚定

Zhongyang Lin, Ziran Zhao, Feifei Zhai, Pengyuan Liu

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出NeuroArmor白盒运行时防御方法，通过为每个提示构建安全变体作为局部安全参考，在隐藏状态空间进行一致性检查并路由异常，有效降低恶意攻击成功率同时保持低误报率。

Comments 16 pages, 4 figures, 17 tables. Submitted to ACL ARR

HyperPatch: Sequential Knowledge Editing Under n-ary Structural Drift

HyperPatch: n元结构漂移下的顺序知识编辑

Yu-Kai Chan, Wen-Sheng Lien, Dong-Ting Yao, Bo-Kai Ruan, Kwan-Yeung Lin, Hong-Han Shuai, Meng-Fen Chiang

机构 * National Yang Ming Chiao Tung University 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 针对非平稳环境中n元事件顺序更新引发的结构漂移问题，提出HyperPatch框架，通过超图流形上的稳定性建模，实现参数保留的知识编辑，在MQuAKE-CF和MQuAKE-T基准上分别取得96.24%和21.06%的跳步准确率相对提升。

Comments Accepted to Proceedings of the 32nd ACM SIGKDD Conference on Knowledge Discovery and Data Mining (KDD 2026)

Reconstructing Content with Collaborative Attention for Universal Multimodal Representation Learning

通过协同注意力重建内容以提升多模态嵌入质量

Jiahan Chen, Da Li, Hengran Zhang, Yinqiong Cai, Lixin Su, Jiafeng Guo, Daiting Shi, Dawei Yin, Keping Bi

机构 * State Key Laboratory of AI Safety（人工智能安全国家重点实验室） ； Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） ； University of Chinese Academy of Sciences（中国科学院大学） ； Baidu Inc.（百度公司） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 提出CoCoA预训练范式，通过重构注意力流和基于EOS的重建任务，利用协同注意力优化多模态嵌入，使模型将输入语义压缩到<EOS>令牌中，从而提升嵌入质量。

Evaluating the Reversal Curse in Model Editing

评估模型编辑中的逆转诅咒

Hao-Xiang Xu, Jun-Yu Ma, Zhen-Hua Ling, Quan Liu, Cong Liu, Jia-Chen Gu

机构 * National Engineering Research Center of Speech and Language Information Processing（语音与语言信息处理国家级工程研究中心） ； University of Science and Technology of China（中国科学技术大学） ； iFLYTEK Research（iFLYTEK研究院） ； University of California, Los Angeles（美国加州大学洛杉矶分校） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文研究双向语言模型编辑，提出反向泛化指标并构建BAKE基准，发现多数编辑方法在反向评估中存在系统性缺陷，并分析逆转诅咒的成因及缓解策略。

Comments Accepted by TMLR

Learning Self-Interpretation from Interpretability Artifacts: Training Lightweight Adapters on Vector-Label Pairs

从可解释性工件中学习自我解释：在向量-标签对上训练轻量级适配器

Keenan Pepper, Alex McKenzie, Florin Pop, Stijn Servaes, Martin Leitgab, Mike Vaiana, Judd Rosenblatt, Michael S. A. Graziano, Diogo de Lucena

机构 * University of Washington（华盛顿大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 通过训练轻量级适配器（标量仿射适配器，仅需d_model+1参数）在可解释性工件上，保持语言模型完全冻结，实现了跨任务和模型族的可靠自我解释，在稀疏自编码器特征标注、主题识别和多跳推理桥接实体解码等任务上显著优于未训练基线。

Comments 26 pages, 18 tables, 17 figures. Code and data at https://github.com/agencyenterprise/selfie-adapters

Using Reward Uncertainty to Induce Diverse Behaviour in Reinforcement Learning

利用奖励不确定性在强化学习中诱导多样化行为

Anthony GX-Chen, Ankit Anand, Gheorghe Comanici, Zaheer Abbas, Eser Aygün, David Smalling, Shibl Mourad, Doina Precup, André Barreto, Mark Rowland

机构 * New York University（纽约大学） ； Google DeepMind（谷歌DeepMind） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对传统强化学习缺乏多样性的问题，提出将奖励函数替换为奖励分布，通过非线性集合目标自然产生可控的多样化行为，并推导出梯度估计器，实验证明其鲁棒性和理论优势。

Comments Core contributors: Anthony GX-Chen, Ankit Anand, Gheorghe Comanici, André Barreto, Mark Rowland

IdEst: Assessing Self-Supervised Learning Representations via Intrinsic Dimension

IdEst: 通过内在维度评估自监督学习表示

Julie Mordacq, Vicky Kalogeiton, Steve Oudot

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 知识编辑与模型理解 ：pretraining(abstract)；分类 cs.LG

AI总结 提出IdEst方法，利用最小生成树维度估计器评估自监督学习表示的内在维度，发现其与下游线性探测性能强相关，并能高效选择超参数。

Comments ICML 2026

Concept-wise Attention for Fine-grained Concept Bottleneck Models

面向细粒度概念瓶颈模型的概念级注意力机制

Minghong Zhong, Guoshuai Zou, Kanghao Chen, Dexia Chen, Ruixuan Wang

专题命中 知识编辑与模型理解 ：language model(abstract)

AI总结 提出概念级注意力机制（CoAt-CBM），通过可学习概念视觉查询和概念对比优化，实现自适应细粒度图像-概念对齐，解决预训练偏差和概念互斥问题，显著提升性能。

Comments Withdrawn by authors for revision and improvement