语言大模型 / LLM

RepSelect: Robust LLM Unlearning via Representation Selectivity

RepSelect: 通过表示选择性实现鲁棒的大语言模型遗忘

Filip Sondej, Yushi Yang, Adam Mahdi

机构 * Independent（独立） ； University of Oxford（牛津大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 针对现有遗忘方法易被微调或少样本提示逆转的问题，提出RepSelect方法，通过梯度主成分坍塌隔离遗忘集表示，实现深度鲁棒遗忘。

Generalization of Fine-Tuned Uncertainty Communication and Metacognition in Large Language Models

微调后大语言模型的不确定性沟通与元认知的泛化

Mark Steyvers, Catarina Belem, Padhraic Smyth

机构 * Department of Cognitive Sciences, University of California, Irvine, United States（认知科学系，加州大学伊文斯顿分校，美国） ； Department of Computer Science, University of California, Irvine, United States（计算机科学系，加州大学伊文斯顿分校，美国） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究通过监督微调提升大语言模型不确定性沟通能力，发现领域内校准和判别改善，但任务间迁移有限，多任务训练可促进泛化。

The Topology of Ill-Posed Questions: Persistent Homology for Detection and Steering in LLMs

病态问题的拓扑：用于大语言模型中检测与引导的持续同调

Guangyu Jiang, Sizhe Tang, Mahdi Imani, Tian Lan

机构 * The George Washington University（乔治华盛顿大学） ； Northeastern University（东北大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 利用持续同调分析LLM内部状态的拓扑结构，统一表示多种病态问题，并实现分类与激活引导，提升响应质量。

Evaluating Evaluation Metrics -- The Mirage of Hallucination Detection

评估评估指标——幻觉检测的幻象

Atharva Kulkarni, Yuan Zhang, Joel Ruben Antony Moniz, Xiou Ge, Bo-Hsiang Tseng, Dhivya Piraviperumal, Swabha Swayamdipta, Hong Yu

机构 * University of Southern California（南加州大学） ； Apple Inc.（苹果公司） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文评估了6种幻觉检测指标在4个数据集、37个语言模型和5种解码方法上的表现，发现现有指标与人类判断不一致，且参数规模影响不一致，LLM评估和模式寻求解码方法能有效减少幻觉。

Comments Accepted at EMNLP 2025 Findings (Short)

Pre-Generation Hallucination Detection in Large Language Models via Soft-Target Attention Probing

通过软目标注意力探测在大型语言模型中进行生成前幻觉检测

Amina Miftakhova, Alexey Zaytsev

机构 * Applied AI Institute（应用人工智能研究所） 纠错

专题命中 知识编辑与模型理解 ：large language model(title)；language model(title)；分类 cs.CL、cs.LG

AI总结 提出一种基于软目标监督和注意力探测的生成前幻觉风险估计方法，在三个问答基准和五个模型上优于线性探测。

Fine-Grained Uncertainty Quantification for Long-Form Language Model Outputs: A Comparative Study

长文本语言模型输出的细粒度不确定性量化：一项比较研究

Dylan Bouchard, Mohit Singh Chauhan, Viren Bajaj, David Skarbrevik

机构 * CVS Health（CVS健康公司） ； Wellesley, MA（马萨诸塞州韦尔士利） 纠错

专题命中 知识编辑与模型理解 ：language model(title)；LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 针对长文本生成，提出细粒度不确定性量化分类法，通过响应分解、单元级评分和响应级聚合三阶段区分方法，引入FactScore-STEM-Geo数据集，实验发现声明-响应蕴含评分优于复杂方法，声明级评分优于句子级，不确定性感知解码有效提升事实性。

Comments Accepted by TMLR; UQLM repository: https://github.com/cvs-health/uqlm

Journal ref Transactions on Machine Learning Research, 2026

P-JEPA: Procedural Video Representation Learning via Joint Embedding Predictive Architecture

P-JEPA: 通过联合嵌入预测架构进行程序性视频表示学习

Felix Tristram, Stefano Gasperini, Benjamin Killeen, Marcel Walch, Christian Benz, Nassir Navab, Ghazal Ghazaei

机构 * Technical University of Munich（慕尼黑工业大学） ； Munich Center for Machine Learning（慕尼黑机器学习中心） ； Carl Zeiss AG（卡尔蔡司股份公司） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；foundation model(abstract)；分类 cs.AI

AI总结 提出P-JEPA，一种与骨干网络无关的方法，通过将长视频映射到密集帧对齐动作空间并预测池化掩码潜在向量，实现对超过30分钟程序性视频的长时理解，在EgoExo4D等数据集上达到细粒度动作分类SOTA，参数比基于LLM的方法少一个数量级。

Factual Retrieval in LLMs Is a Redundant, Distributed and Non-Contiguous Process

大型语言模型中的事实检索是一个冗余、分布且非连续的过程

Hail Hochman, Natalie Shapira, Yoav Goldberg

机构 * Bar-Ilan University（巴伊兰大学） ； Northeastern University（东北大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文通过属性计算路径分析，发现LLM中事实检索路径非连续、存在多条功能等价路径，表明知识计算高度冗余和分布。

Comments Accepted to ACL 2026 Main Conference

FiLM-Coordinated Dual-Branch Transformer for Global-Local Dependency Modeling in Language Modeling

FiLM协调的双分支Transformer用于语言建模中的全局-局部依赖建模

Zhiqiang Zhou, Xu Ling, Junliang Dai

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出FiLM协调的双分支Transformer，通过特征级线性调制动态协调全局与局部分支，在轻量级设置下优于单分支基线。

Comments 14 pages, 7 figures, 7 tables. Small-scale language modeling study on FiLM-coordinated dual-branch Transformer architectures, including multi-seed evaluation, cross-dataset validation, ablation studies, efficiency analysis, and parameter-matched fairness baselines

Empty Shelves or Lost Keys? Recall Is the Bottleneck for Parametric Factuality

空货架还是丢钥匙？回忆是参数化事实性的瓶颈

Nitay Calderon, Eyal Ben-David, Zorik Gekhman, Eran Ofek, Gal Yona

机构 * Google Research（Google研究） ； Technion – Israel Institute of Technology（以色列技术学院） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；分类 cs.CL、cs.AI

AI总结 提出行为框架区分LLM事实错误源于知识缺失或访问失败，通过WikiProfile基准测试发现前沿模型编码饱和但回忆是主要瓶颈，思考可恢复大量失败。

Uncertainty-based Debiasing and Unlearning for Decontamination

基于不确定性的去偏与遗忘用于去污染

Guangzhi Sun, Xiao Zhan, Mark Gales

机构 * Department of Engineering, University of Cambridge（剑桥大学工程系） ； VRAIN, Universitat Politècnica de València（瓦伦西亚理工大学VRAIN） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出基于不确定性的去污染方法(UBD)，利用深度集成估计每个样本的记忆程度，通过去偏或遗忘修正输出分布，无需无污染模型或污染样本先验知识。

From Text Metrics to Model Internals: A Study of Whisper ASR Hallucination Detection

从文本度量到模型内部：Whisper ASR幻觉检测研究

Jan Jasiński, Mateusz Barański, Julitta Bartolewska, Marcin Witkowski, Konrad Kowalczyk

机构 * Signal Processing Group, Institute of Electronics, AGH University of Krakow, Poland（信号处理组，电子学研究所，AGH克拉科夫大学，波兰） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 研究Whisper大模型在真实语音数据上的幻觉检测，通过文本、LLM和内部解码器状态三种方法，发现无参考文本时探测解码器表示性能最强，融合文本与内部状态的元分类器效果最佳。

Comments Accepted at Interspeech 2026

AgentLens: Interpretable Safety Steering via Mechanistic Subspaces for Multi-Turn Coding Agent

AgentLens: 通过机制子空间实现多轮编码代理的可解释安全引导

Weidi Luo, Qiming Zhang, Yihao Quan, Mingyu Jin, Jie Cai, Chaowei Xiao, Jingcheng Niu, Zhen Xiang

机构 * University of Georgia（佐治亚大学） ； University of South Florida（南佛罗里达大学） ； Rutgers University（罗格斯大学） ； University of Southern California（南加州大学） ； Johns Hopkins University（约翰霍普金斯大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出AgentLens框架，从内部表示层检测和缓解多轮编码代理的安全风险，通过单层10维子空间干预实现运行时安全控制，并在MAS基准上验证有效性。

HERMAN: Hierarchical Representation Matching for CLIP-based Class-Incremental Learning

HERMAN: 基于CLIP的类增量学习中的层次表示匹配

Zhen-Hao Xie, Yan Wang, Lan Li, Han-Jia Ye, De-Chuan Zhan, Da-Wei Zhou

机构 * School of Artificial Intelligence and the State Key Laboratory for Novel Software Technology, Nanjing University（人工智能学院和新型软件技术国家重点实验室，南京大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract_cn)；language model(abstract)；分类 cs.AI

AI总结 提出HERMAN方法，利用LLM递归生成判别性文本描述，匹配不同语义层次并自适应路由，解决CLIP在类增量学习中的灾难性遗忘问题，在多个基准上取得最优性能。

What Does a Chemical Language Model Know About Molecules?

化学语言模型对分子了解多少？

Christian Kenneth, Etowah Adams, Liam Bai, Gerard JP van Westen

机构 * Department of Systems Biology, Columbia University（哥伦比亚大学系统生物学系） ； Computational Drug Discovery (CDD), Division of Medicinal Chemistry, Leiden University（莱顿大学药物化学系计算药物发现（CDD）） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 通过稀疏自编码器分析MolFormer模型，发现早期层追踪位置以解析分子语法，后期层编码子结构及药理特征，非规范SMILES比无效SMILES引起更大表示偏移。

"What Happens Locally, Leaks Globally": Detecting Privacy Leakage Risks in MCP Servers

“局部发生，全局泄露”：检测MCP服务器中的隐私泄露风险

Biwei Yan, Minghui Xu, Yijun Yang, Boyang Ma, Xuelong Dai, Jingku Li, Yue Zhang

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出MCPPrivacyDetector，一种上下文感知的跨语言静态分析框架，用于检测MCP服务器中由协议引发的隐私泄露，在10,655个真实服务器中发现超过10%的泄露率。

Disentangling Geometry, Performance, and Training in Language Models

解耦语言模型中的几何、性能与训练

Atharva Kulkarni, Jacob Mitchell Springer, Arjun Subramonian, Swabha Swayamdipta

机构 * University of Southern California（南加州大学） ； Carnegie Mellon University（卡内基梅隆大学） ； University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.CL

AI总结 系统研究Transformer权重几何（尤其是解嵌入矩阵有效秩）与下游性能的关系，发现有效秩主要反映训练超参数而非性能，不能可靠预测模型表现。

Sparse Neuron Ablation Triggers Catastrophic Collapse of the Language Core in Large Vision-Language Models

稀疏神经元消融引发大型视觉-语言模型中语言核心的灾难性崩溃

Cen Lu, Yung-Chen Tang, Andrea Cavallaro

机构 * École Polytechnique Fédérale de Lausanne (EPFL)（瑞士洛桑联邦理工学院） ； Idiap Research Institute（日内瓦研究所） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.AI

AI总结 提出渐进式神经元消融方法CAN，发现消融极少量（如LLaVA-1.5-7b中仅4个）位于语言模型下投影层的神经元即可导致LVLM灾难性崩溃，揭示功能依赖语言骨干中的稀疏神经元子集。

Comments Accepted to ICML 2026 Mechanistic Interpretability Workshop

Confident but Conflicted: Internal Uncertainty and Cognitive Dissonance Resolution in LLMs

自信但矛盾：大语言模型中的内部不确定性与认知失调解决

Weihong Qi, Kristina Lerman

机构 * Indiana University Bloomington（印第安纳大学伯明顿分校） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究大语言模型面对矛盾输入时的认知失调解决机制，提出信任弹性（TE）度量模型被说服的倾向，并发现内部不确定性指标（如置信度校准和内部不确定性变化）与行为变异相关。

BALTO: Balanced Token-Level Policy Optimization for Hallucination Mitigation

BALTO: 用于幻觉缓解的平衡令牌级策略优化

Ning Li, Zixuan Guo, Yan Xu, Wenbo Fei, Yifan Niu, Chang Luo, Yasheng Wang, Weiwen Liu, Yong Yu, Weinan Zhang

机构 * Shanghai Jiao Tong University（上海交通大学） ； Tencent（腾讯） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；post-training(abstract)；分类 cs.CL

AI总结 针对大语言模型幻觉问题，提出BALTO框架，通过提取可验证事实声明并投影为令牌级标签，引入平衡信用分配机制，在六个模型-基准设置中实现最高忠实度，优于现有后训练基线。

Towards the interoperability of low-code platforms

迈向低代码平台的互操作性

Iván Alfonso, Aaron Conrardy, Jordi Cabot

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出通过半自动迁移模型提升低代码平台互操作性，分析主流平台的导入导出能力，并结合大语言模型图像识别功能实现模型迁移。

Comments Submitted to International Conference on Advanced Information Systems Engineering (CAiSE25)

Journal ref Lecture Notes in Business Information Processing (LNBIP), Springer, 2025

Orthogonal Representation Editing: Decoupling Semantic Entanglement in Batch Knowledge Editing of LLMs

正交表示编辑：解耦大型语言模型批量知识编辑中的语义纠缠

Wenhao Yu, Zhicong Lu, Bo Lv, Fangyin Ma, Kaiwen Wei, Shihao Yang, Nayu Liu

机构 * School of Computer Science and Technology, Tianjin University（天津大学计算机科学与技术学院） ； Kexin Technology（可心科技） ； University of Chinese Academy of Sciences（中国科学院大学） ； Tencent Hunyuan（腾讯混元） ； College of Computer Science, Chongqing University（重庆大学计算机学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 针对批量知识编辑中语义表示纠缠导致性能下降的问题，提出正交表示编辑（ORE），通过构建通用语义子空间并对编辑向量施加正交约束来解耦纠缠，并引入门控非线性表示头自适应学习编辑位置，实验表明ORE在跨语言场景中表现优异。

Comments Accepted to Findings of ACL 2026

Not All Claims Are Equally Risky: FACTOR for Adaptive Verification in Factual Long-Form Generation

并非所有声明都同样有风险：FACTOR 用于事实性长文本生成中的自适应验证

Areeba Hassan, Arooj Kausar, Syeda Kisaa Fatima, Gibrail Islam, Mehwish Fatima

机构 * School of Electrical Engineering ； Computer Science (SEECS), National University of Sciences 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 提出 FACTOR 方法，通过不确定性估计、自适应语言推理验证和候选重排序，在长文本生成中按声明级别风险分配验证资源，同时提高事实性和降低验证成本。

AI Agents Can Already Autonomously Perform Experimental High Energy Physics

AI智能体已能自主执行实验高能物理研究

Eric A. Moreno, Samuel Bright-Thonney, Andrzej Novak, Dolores Garcia, Philip Harris

机构 * Massachusetts Institute of Technology（麻省理工学院） ； NSF AI Institute for Artificial Intelligence and Fundamental Interactions（国家科学基金会人工智能与基本相互作用研究所） ； CERN（欧洲核子研究中心） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 基于大语言模型的AI智能体自主执行高能物理分析全流程，提出JFC框架整合文献检索与多智能体审查，在ALEPH、DELPHI和CMS开放数据上验证，首次由AI自主产生新颖物理结果，旨在减轻技术负担而非取代物理学家。

CoughPhase-CLR: Designing an acoustics-informed foundation model for coughing sound classification

CoughPhase-CLR：面向咳嗽声音分类的声学信息基础模型设计

Marius Moldovan, Anton Batliner, Thomas M. Berghaus, Björn W. Schuller, Andreas Triantafyllopoulos

机构 * Chair of Health Informatics at the TUM University Hospital（慕尼黑工业大学大学医院健康信息学教席） ； Munich Center for Machine Learning（慕尼黑机器学习中心） ； Munich Data Science Institute（慕尼黑数据科学研究所） ； University Hospital Augsburg at the University of Augsburg（奥格斯堡大学奥格斯堡大学医院） ； Medical Faculty, Ludwig Maximilians University of Munich（慕尼黑路德维希-马克西米利安大学医学院） ； Group on Language, Audio, & Music at Imperial College London（帝国理工学院语言、音频与音乐组） ； Technical University of Munich（慕尼黑工业大学） 纠错

专题命中 知识编辑与模型理解 ：foundation model(title)

AI总结 提出自监督学习框架CoughPhase-CLR，利用咳嗽的生理相位构建正样本对进行表征学习，在COVID-19检测、COPD状态分类等下游任务中优于标准随机裁剪方法。

TROPT: An Open Framework for Unifying and Advancing Discrete Text Optimization

TROPT：统一和推进离散文本优化的开放框架

Matan Ben-Tov, Mahmood Sharif

机构 * Tel Aviv University（特拉维夫大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.LG

AI总结 提出TROPT，首个统一离散优化器执行与开发的开源框架，支持30+优化方案，降低应用门槛并促进新策略研究。

Attention at Rest Stays at Rest: Breaking Visual Inertia for Cognitive Hallucination Mitigation

静止的注意力保持静止：打破视觉惯性以缓解认知幻觉

Boyang Gong, Yu Zheng, Fanye Kong, Jie Zhou, Jiwen Lu

机构 * Tsinghua University（清华大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出惯性感知视觉激发（IVE）方法，通过建模视觉注意力的动态响应性，打破多模态大模型中的视觉惯性，从而缓解需要对象间关系推理的认知幻觉。

Massive Activations Are Architecturally Robust: A Controlled Scratch/Commitment Residual Stream Test

大规模激活在架构上是鲁棒的：一种受控的暂存/提交残差流测试

Maruthi Vemula

机构 * University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 通过引入Ledger Residuals架构分离残差流的读写角色，发现大规模激活并非伪影，而是功能性的，在受保护通道中重新出现。

Comments 7 pages, 2 figures, 2 tables. Code at https://github.com/MaruthiV/ledger-residuals

Rejections Based on Predictive Uncertainty Enable Reliable Routine Soil Spectroscopy

基于预测不确定性的拒绝机制实现可靠的常规土壤光谱学

Jonas Schmidinger, Robin Gebbers, Marc-Olivier Gasser, Viacheslav Barkov, G. Mick Wu, Viacheslav I. Adamchuk

机构 * Joint Lab Artificial Intelligence and Data Science, Osnabrück University（奥斯纳布吕克大学人工智能与数据科学联合实验室） ； Department of Agromechatronics, Leibniz Institute for Agricultural Engineering and Bioeconomy (ATB)（莱布尼茨农业工程与生物经济研究所农业机电一体化系） ； Research and Development Institute for the Agri-environment (IRDA)（农业环境研究与发展研究所） ； Department of Bioresource Engineering, McGill University（麦吉尔大学生物资源工程系） 纠错

专题命中 知识编辑与模型理解 ：foundation model(abstract)；分类 cs.LG

AI总结 提出“拒绝-重测”框架，结合概率建模与不确定性引导的拒绝，在保证准确性的同时降低土壤光谱测量成本。

MotionPyramid: Hierarchical Motion Representation and Residual Interfaces

MotionPyramid: 分层运动表示与残差接口

Gao Zhu, Zaishuo Xia, Yubei Chen

机构 * UC Davis（加州大学戴维斯分校） 纠错

专题命中 知识编辑与模型理解 ：pretraining(abstract)；分类 cs.AI

AI总结 提出MotionPyramid，一种从运动数据中学习层次化动作表示的方法，通过冻结预训练层次为下游强化学习提供多分辨率控制接口，并引入残差接口实现粗细粒度协同控制。