语言大模型 / LLM

Uncertainty-Aware Trust Estimation for Multi-LLM Systems via Structured Expert Judgement

通过结构化专家判断对多语言模型系统进行不确定性感知信任估计

Jiawei Zheng, Jiazhen Zhang

机构 * DigitLab, University of Exeter（数字实验室，埃克塞特大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究多语言模型聚合问题，核心方法是采用结构化专家判断，通过上下文感知校准问题及库克式对数加权估计专家可靠性，主要贡献是在异构和受污染情况下实现更好的准确性-可靠性平衡，强调聚合时需校准信任。

Constrained Paraphrase Consistency for LLM Hallucination Detection

约束释义一致性用于大语言模型幻觉检测

Shanshan Lin, Dongsheng Hong, Sibo Ju, Chao Chen, Xi Zhang, Xiangwen Liao

机构 * Fuzhou University（福州大学） ； Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）） ； Beijing University of Posts and Telecommunications（北京邮电大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 提出约束一致性幻觉检测器(CCHD)，通过约束优化利用释义一致性，无需额外数据，在多个基准上超越现有方法。

Comments Accepted to ICASSP 2026

VADER: Adaptive Debiasing for Hallucination Mitigation in Video Large Language Models

VADER：用于视频大语言模型幻觉缓解的自适应去偏方法

Dong Xing, Jiaxin Chen, Hang Yang, Peixun Liu, Qiushi Yang, Yuqing Wang

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(title)

AI总结 本研究针对视频大语言模型的幻觉问题，提出无训练自适应去偏框架VADER，通过视觉焦点重分配与选择性证据擦除模块结合对比解码，在LLaVA-Video-7B等模型的EventHallusion任务上取得显著性能提升。

CyberSelf: Embodied Self-Distancing for Emotional Support in Virtual Reality

CyberSelf：用于虚拟现实中情绪支持的具身自我疏离

Bing Li, Dr Yan Hu, Tinghui Li, Yinuo Zhang, Wen Ma, Yuanfeng Zhou, Professor Yiran Shen

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出VR情绪支持系统CyberSelf，整合相似化身、克隆语音与LLM实时对话，短期及长期研究显示其可提升情绪与应对指标，实现具身自我疏离以支持情绪调节。

Mitigating Scaffolding Collapse in Socratic Tutors via Representation Alignment

通过表示对齐减轻苏格拉底式导师中的支架坍塌

Jing Shao, Qifeng Wu, Hanyu Zhang, Sixia Sun, Jun Zhuang

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；preference optimization(abstract)

AI总结 研究基于大语言模型的苏格拉底式导师的支架坍塌问题，提出支架保留表示对齐方法，先监督微调预热，再结合轨迹加权优化与表示损失，经多学科和策略评估，该方法能提升长程苏格拉底辅导的鲁棒性。

Comments preprint, under review

Collective Hallucination in Multi-Agent LLMs:Modeling and Defense

多智能体大语言模型中的集体幻觉：建模与防御

Saeid Jamshidi

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 提出一种系统级模型描述多智能体LLM中幻觉的传播与放大，并设计交互感知控制方法，通过置信加权聚合、自适应影响调节、外部验证和隔离不可靠智能体来抑制错误传播，在TruthfulQA和TriviaQA上使幻觉降低39%，事实准确率提升至0.87。

LLM-Based Embeddings for Program Analysis and Optimization

基于大语言模型嵌入的程序分析与优化

Calvin Higgins, Marco Alvarez

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 该研究首次将LLMCompiler生成的程序嵌入应用于程序分析与优化任务，结合源与IR代码嵌入在算法分类上错误率1.54%、较SOTA提升12%，为代码优化提供新方向。

Journal ref 2025 International Joint Conference on Neural Networks (IJCNN), Rome, Italy, 2025, pp. 1-8

HAFI-VLM: A Frequency Perspective for Diagnosing and Enhancing Visual Perception in Vision-Language Models

HAFI-VLM：用于诊断和增强视觉语言模型中视觉感知的频率视角

Jin Cui, Chuanchang Su, Jiayi Lu, Xinyue Long, Boran Zhao, Pengju Ren

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 该研究针对VLMs视觉预测不可靠的频谱响应刚性问题，提出HAFI-VLM，通过任务条件频率通路与相关组件优化，在多个VLMs基准上提升了视觉感知性能。

Comments 11 pages, 8 figure

Beyond Single-Use Tokens: Durable Authorization State for Replay-Resistant LLM Agent Actions

超越单次使用令牌：面向抗重放的大语言模型智能体行动的持久授权状态

Jinghan Xu, Longze Fan, Zeyuan Wang, Xinjin Li, Hankai Liu

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 该研究针对大语言模型智能体重规划等行为引发的语义重放问题，提出 CapLease 授权消耗层，结合服务器账本实现抗重放，证明持久授权状态是抗重放智能体执行的系统要求。

What VGGT Knows About Overlap: Probing Geometric Foundation Models for Co-Visibility

VGGT 对重叠的理解：探索共可见性的几何基础模型

Filippo Ziliotto, Luciano Serafini, Lamberto Ballan, Tommaso Campari

机构 * University of Padova（帕多瓦大学） ； Fondazione Bruno Kessler (FBK)（布鲁诺·凯斯勒基金会） 纠错

专题命中 知识编辑与模型理解 ：foundation model(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究三维重建和机器人定位中共可见性问题，通过探索 VGGT 模型，发现其隐式编码共可见性及层间特性，引入 Co-VGGT 方法，该方法冻结 VGGT 并训练轻量级头，在基准测试中表现出色，提升了共可见性分类效果。

STAPO: Selective Trajectory-Aware Policy Optimization for LLM Agent Training

STAPO：用于大语言模型智能体训练的选择性轨迹感知策略优化

Qiuyi Qi, Tian Liang, Mutian Bao, Jinjian Zhang, Dongnan Liu, Wei Zhou, Linjian Mo, Ming Kong, Jie Liu, Feng Zhang, Qiang Zhu

机构 * Zhejiang University（浙江大学） ； Ant Group（蚂蚁集团） ； City University of Hong Kong（香港城市大学） ； College of Artificial Intelligence, Shanghai Institute for Advanced Study, Zhejiang University（浙江大学上海高等研究院人工智能学院） ； School of Earth Sciences, Zhejiang University（浙江大学地球科学学院） ； Department of Computer Science, City University of Hong Kong（香港城市大学计算机科学系） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对强化学习训练大语言模型智能体时轨迹忽视问题，提出归一化熵，引入STAPO框架，利用其定位异常步骤，通过联合机制优化，提升轨迹感知并保持训练稳定性，实验验证其有效性和鲁棒性。

Comments ACL 2026 MainConference

DexterSQL: Deep Schema Exploration and Rule-based Correction for Text-to-SQL Generation

DexterSQL：用于Text-to-SQL生成的深度模式探索与基于规则的修正

Anik Pramanik, Murat Kantarcioglu, Vincent Oria, Shantanu Sharma

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 DexterSQL是基于提示的非微调Text-to-SQL系统，通过深度模式探索器、数据库无关规则创建器、多路径SQL生成三个组件，在BIRD-Dev数据集上提升了开源与闭源大语言模型的Text-to-SQL生成准确率。

Attention-Path Fragility as an Uncertainty Signal in Large Language Models

注意力路径脆弱性作为大语言模型中的不确定性信号

Minsoo Kim, Sungyoung Ji, Kisung Moon, Ilyong Yoon

专题命中 知识编辑与模型理解 ：large language model(title)；language model(title)；分类 cs.CL、cs.AI

AI总结 本研究提出 ASMI 作为大语言模型的不确定性信号，通过掩码注意力头测量子网络间的 BALD 互信息，在基于事实的问答任务中优于基线，可有效识别自信但脆弱的预测。

Comments 19 pages, Under review

Cultural Awareness is Represented but Not Decoded: Tracing Mythological Knowledge across 18 Open-Source LLMs

文化意识被表征但未被解码：追踪18个开源大语言模型（LLM）中的神话知识

Iaroslav Chelombitko, Ekaterina Chelombitko, Mika Hämäläinen

机构 * DataSpike ； Metropolia University of Applied Sciences（梅托波利亞應用科學大學） ； Neapolis University Pafos（帕福斯尼阿波利斯大學） 纠错

专题命中 知识编辑与模型理解 ：LLM(title_cn,summary_cn)；分类 cs.CL、cs.LG

AI总结 该研究分析18个开源LLM的神话知识表征，发现文化表征存在于模型残差流中，但解码器因提示语言偏差无法解码非主导文化内容，还发布了相关跨文化研究工具与基准。

Comments 45 pages, 23 figures, 18 tables. Dataset: https://huggingface.co/datasets/Aragoner/folkmotif Code: https://github.com/AragonerUA/folkmotif

Moir: Let the Model Direct Its Own Story for Robust Cross-Domain Knowledge Editing

莫尔：让模型为稳健的跨域知识编辑指引自身方向

Jea Kwon, Jiwon Kim, Dong-kyum Kim, Meeyoung Cha

机构 * Max Planck Institute for Security and Privacy（马克斯·普朗克安全与隐私研究所） 纠错

专题命中 知识编辑与模型理解 ：SFT(abstract,abstract_cn)；language model(abstract)；pretraining(abstract)；post-training(abstract)

AI总结 研究针对语言模型训练后知识编辑核心能力退化问题，提出莫尔方法，通过从模型自身解码分布采样估计保留协方差，无需外部数据，可作插入组件。实验表明该方法能在多模型上扩展保留能力，提升准确率，凸显分布对齐对无损编辑的关键作用。

Formalizing Latent Thoughts: Four Axioms of Thought Representation in LLMs

形式化潜在思维：LLM中思维表示的四条公理

Fahd Seddik, Fatemeh Fard

机构 * University of British Columbia（不列颠哥伦比亚大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title_cn,summary_cn)；分类 cs.CL、cs.LG

AI总结 提出独立于下游基准的LLM潜在思维表示公理评估框架，发现当前表示不满足所有四条公理，且编码信息有限。

Comments 44 pages, 27 tables, 14 figures

Pre-Generation Hallucination Detection in Large Language Models via Soft-Target Attention Probing

通过软目标注意力探测在大型语言模型中进行生成前幻觉检测

Amina Miftakhova, Alexey Zaytsev

机构 * Applied AI Institute（应用人工智能研究所） 纠错

专题命中 知识编辑与模型理解 ：large language model(title)；language model(title)；分类 cs.CL、cs.LG

AI总结 提出一种基于软目标监督和注意力探测的生成前幻觉风险估计方法，在三个问答基准和五个模型上优于线性探测。

Demystifying Variance in Circuit Discovery of LLMs

揭示LLM电路发现中的方差

Frank Zhengqing Wu, Francesco Tonin, Volkan Cevher

机构 * Laboratory for Information and Inference Systems (LIONS), École Polytechnique Fédérale de Lausanne (EPFL), Lausanne, Switzerland（信息与推理系统实验室（LIONS），洛桑联邦理工学院（EPFL），瑞士洛桑） 纠错

专题命中 知识编辑与模型理解 ：LLM(title_cn,summary_cn)；分类 cs.AI、cs.LG

AI总结 本文研究LLM电路发现中的重采样、重述和样本方差，提出CEAP方法减少重采样方差，并分析重述方差源于不同模板激活不同电路，样本方差主要由不忠定义导致。

Integrating Local and Global Entropy for Uncertainty Quantification in LLMs

集成局部和全局熵用于大语言模型的不确定性量化

Johanne Medina, Tianyi Zhou, Keivin Isufaj, Aristides Gionis, Sanjay Chawla

机构 * Qatar Computing Research Institute, HBKU（卡塔尔计算研究所，哈马德·本·哈利法大学） ； KTH Royal Institute of Technology（瑞典皇家理工学院） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出GLU方法，通过融合隐藏状态几何熵（全局）和token级熵（局部）来量化LLM不确定性，有效捕捉自信但错误的失败模式，无需额外训练。

Comments 17 pages, 2 figures

Code Is More Than Text: Uncertainty Estimation for Code Generation

代码不仅仅是文本：代码生成的不确定性估计

Yuling Shi, Caiqi Zhang, Yuexian Li, Haopeng Wang, Yeheng Chen, Nigel Collier, Xiaodong Gu

机构 * Shanghai Jiao Tong University（上海交通大学） ； University of Cambridge（剑桥大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 针对代码生成中错误程序的可靠性问题，提出基于词法、算法和功能三个正交轴的不确定性估计方法，在五个代码LLM上将AUROC提升8.1个百分点。

Neutrality Bites: Gender Representation in AI-Generated Animal Stories

中立性的代价：AI生成的动物故事中的性别表征

Imani Finkley, Yuanxi Li, Melanie Walsh

机构 * University of Washington（华盛顿大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究六种主流LLM在生成动物故事时的性别分配，发现模型常避免指定性别或使用中性语言，但一旦指定则显著偏向男性，女性角色几乎缺席，表明中立策略可能导致边缘视角的抹除。

Comments FAccT(ACM Conference on Fairness, Accountability, and Transparency) 2026

ABLE: Representing and Mapping LLMs via Attribution-Based Large-model Embedding

ABLE：基于归因的大模型嵌入表示与映射

Zirui Wang, Yusen Hou, Shaofeng Liang, Bowen Tian, Yanlin Zhang, Wenshuo Chen, Yutao Yue

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； Deep Interdisciplinary Intelligence Lab (DI2 Lab)（深度跨学科智能实验室（DI2 Lab）） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 提出ABLE框架，利用梯度特征归因和分词器无关的词级对齐构建模型嵌入，实现异构LLM的高效比较，在关系预测、模型路由和基准分数预测上表现优异。

Measuring Concept Content in Text from LLM Activations: ESG Evidence from Concept Vectors and Linear Probes

从大语言模型激活值中测量文本的概念内容：基于概念向量与线性探测的ESG证据

Luc Hazenoot, Zhaochun Ren, Amirhossein Zohrehvand

机构 * Leiden Institute of Advanced Computer Science, Leiden University（莱顿大学高级计算机科学研究所） 纠错

专题命中 知识编辑与模型理解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 该研究提出用冻结LLMs的激活值测量文本概念内容，在ESG金融文本实验中，线性探测效果接近微调分类器，优于模型自身答案，且优于RFM概念向量。

Comments 19 pages, 1 figure, 7 tables

LM2Alloy: Investigating LLM-Generated Formal Specifications for Automated Test Derivation in Production Software

LM2Alloy：研究用于生产软件自动测试推导的大语言模型生成的形式规范

Tasmim Rashid, Muhammad Zubair Malik

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 该研究探索用大语言模型从需求文档和生产源代码生成Alloy形式规范及推导可执行测试用例，在Flipper和Cerberus库上评估，发现能揭示约束级缺陷，基于代码的规范方差更低，为生产软件自动测试推导提供了新方法。

How to Guide LLM Generation: Dual-Surrogate Guided Search for Automated Heuristic Design

如何引导大语言模型生成：用于自动启发式设计的双代理引导搜索

Yuhan Wang, Chaoda Peng, Xingyu Wu, Sheng-Hao Wu, Zhi-Hui Zhan

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 研究如何在有限预算下引导大语言模型进行自动启发式设计，提出双代理引导搜索方法，通过两个互补代理评分及不确定性感知规则选择行动，在多样套件中表现出色，超越简单排名和固定偏好。

Perfect Detection, Failed Control: The Geometry of Knowing vs. Steering in Language Models

完美检测，控制失败：语言模型中知道与引导的几何学

Cosimo Galeone, Anna Ettorre, Minsu Park, Giuseppe Ettorre, Daniele Ligorio

机构 * Alomana 纠错

专题命中 知识编辑与模型理解 ：language model(title)；instruction tuning(abstract)；pretraining(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 通过几何角度测量发现，语言模型中检测行为的表示方向与控制行为的方向存在显著偏差（余弦值约0.12），表明检测不等于可控性，且该偏差源于预训练。

ICA Lens: Interpreting Language Models Without Training Another Dictionary

ICA Lens: 无需训练另一本词典即可解释语言模型

Sida Liu, Feijiang Han

机构 * Independent Researcher（独立研究员） ； University of Maryland（马里兰大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title)；LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出ICALens，基于独立成分分析（ICA）高效提取语言模型表示中可解释方向，无需训练稀疏自编码器，在SAEBench上表现竞争力。

Comments Ongoing Project

Decoupling Perception from Description: Computation-Grounded Representation Alignment between Multivariate Time Series and Language

感知与描述解耦：多变量时间序列与语言间的计算基础表示对齐

Xinran Feng, Yi Xie, Chao Zhang, Ruikun Li, Wanyun Ling, Ziyue Li, Chenxi Liu

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；language model(abstract)；分类 cs.LG

AI总结 该研究针对多模态时间序列语言对齐的三难困境，提出CGTime模型，通过计算处理感知、LLM处理描述，在多变量理解任务上优于更大的通用模型。

Comments 46 pages, 9 figures, including supplementary material. Submitted to AAAI 2027. Xinran Feng and Yi Xie contributed equally

LLMs Can Annotate Attribution Graphs

大型语言模型（LLMs）可对归因图进行标注

Ameen Patel, Max Zhang, Nathan Hu

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；language model(abstract)；分类 cs.LG

AI总结 该研究提出一种LLM自动化流程，可将特征分组为超级节点标注归因图，其效果与人类标注相当，在两跳首都任务中准确率达97%，还可用于开放式探索，推动自动化电路追踪研究。

Comments Poster at ICML Mechanistic Interpretability Workshop 2026

A Geometric Perspective on Composable Emotion Steering in Text-to-Speech Models

文本到语音模型中可组合情感操控的几何视角

Siyi Wang, James Bailey, Ting Dang

机构 * The University of Melbourne, Australia（墨尔本大学） 纠错

专题命中 知识编辑与模型理解 ：SLM(summary_cn,abstract)；language model(abstract)；分类 cs.LG

AI总结 通过线性探测和局部本征维度分析语音语言模型与条件流匹配模块的情感表示几何特性，发现SLM具有低维情感子空间和强解耦能力，而CFM因说话人-情感纠缠导致跨说话人泛化差，联合操控增强情感强度但降低比例控制和语音质量。