语言大模型 / LLM

Navigating by Old Maps: The Pitfalls of Static Mechanistic Localization in LLM Post-Training

用旧地图导航：在LLM微调中静态机械定位的陷阱

Hang Chen, Jiaying Zhu, Hongyang Chen, Hongxu Liu, Xinyu Yang, Wenya Wang

机构 * School of Computer Science and Technology（计算机科学与技术学院） ； Xi’an Jiaotong University（西安交通大学） ； School of Computer Science and Engineering（计算机科学与工程学院） ； The Chinese University of Hong Kong（香港中文大学） ； Shaanxi Co., Ltd（陕西有限公司） ； China Mobile Group（中国移动集团） ； College of Computing and Data Science（计算与数据科学学院） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,title_cn)；post-training(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 研究探讨了在LLM微调中静态机械定位的局限性，提出三种新指标分析电路演变，并强调需要前瞻性机制定位。

Comments 26 pages

Identifying Query-Relevant Neurons in Large Language Models for Long-Form Texts

在大型语言模型中识别与查询相关的神经元以生成长文本

Lihu Chen, Adam Dejl, Francesca Toni

机构 * Imperial College（帝国学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(summary_cn,abstract_cn)；prompting(abstract)

AI总结 本文提出QRNCA框架，用于识别LLM中与查询相关的神经元，通过多选问答任务评估其有效性，并展示在不同领域中的局部知识区域。

Comments AAAI 2025 Main Track

Journal ref Proceedings of the AAAI Conference on Artificial Intelligence, 39(22), 23595-23604. 2025

Evaluating Uncertainty Quantification Methods in Argumentative Large Language Models

评估论证大语言模型中的不确定性量化方法

Kevin Zhou, Adam Dejl, Gabriel Freedman, Lihu Chen, Antonio Rago, Francesca Toni

机构 * Imperial College London（帝国理工学院伦敦分校） ； King’s College London（伦敦国王学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；prompting(abstract)

AI总结 本文评估了在论证大语言模型中不同不确定性量化方法在声明验证任务中的性能，发现直接提示法效果优于复杂方法。

Comments Accepted at EMNLP Findings 2025

Journal ref Findings of the Association for Computational Linguistics: EMNLP 2025, 21700-21711. 2025

UVMarvel: an Automated LLM-aided UVM Machine for Subsystem-level RTL Verification

UVMarvel：一种自动化LLM辅助的UVM机 for 子系统级RTL验证

Junhao Ye, Dingrong Pan, Hanyuan Liu, Yuchen Hu, Jie Zhou, Ke Xu, Xinwei Fang, Xi Wang, Nan Guan, Zhe Jiang

专题命中 知识编辑与模型理解 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 UVMarvel利用LLM自动生成子系统级RTL验证的UVM测试平台，通过中间表示和总线协议库实现协议正确性，减少验证时间至4.5小时，代码覆盖率达95.65%。

Comments This paper has been accepted by DAC 2026 and will appear in the proceedings

Beyond Value Elicitation: Towards Moral Profiles in Early Requirements Engineering via Role-Playing Games and Anthropologist LLMs

超越价值获取：通过角色扮演游戏和人类学家LLM实现早期需求工程中的道德画像

Gianluca De Ninno, Paola Inverardi, Francesca Belotti

机构 * Computer Science Area, Gran Sasso Science Institute（格兰萨索科学研究所计算机科学部门） ； Department of Computer Science, University of Pisa（比萨大学计算机科学系） ； Department of Humanities, University of L’Aquila（拉奎拉大学人文学系） 纠错

专题命中 知识编辑与模型理解 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文通过结合沉浸式角色扮演游戏与LLM分析，提出一种获取和表示数字系统用户道德画像的方法，解决了传统方法在捕捉隐性、情境依赖性价值观上的不足。

A Regime Theory of Controller Class Selection for LLM Action Decisions

控制器类别选择的制度理论：用于LLM行动决策

Zhaoyang Jiang, Zhizhong Fu, Yunsoo Kim, Jiacong Mi, Zicheng Li, Xuanqi Peng, Honghan Wu

机构 * University of Glasgow（格拉斯哥大学） ； University College London（伦敦大学学院） ； UESTC（电子科技大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,title_cn)；language model(abstract)；分类 cs.AI

AI总结 本文提出一种制度理论，通过分析有限样本下的实例不确定性信号，指导LLM在不同输入下选择合适的控制器类别，从而在有限样本中实现最优决策。

Negative Before Positive: Asymmetric Valence Processing in Large Language Models

负值之前正值：大型语言模型中的非对称情感处理

Sohan Venkatesh

机构 * Manipal Institute of Technology Bengaluru（班加罗尔Manipal理工学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 研究揭示大型语言模型中情感正负值处理的非对称性，通过激活修补和引导发现负面情感在早期层处理，正面情感在中后期层峰值，证明情感可被操控。

Causal Probing for Internal Visual Representations in Multimodal Large Language Models

多模态大语言模型内部视觉表征的因果探测

Zehao Deng, Tianjie Ju, Zheng Wu, Liangbo He, Jun Lan, Huijia Zhu, Weiqiang Wang, Zhuosheng Zhang

机构 * School of Computer Science, Shanghai Jiao Tong University（上海交通大学计算机科学学院） ； Ant Group（蚂蚁集团） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 研究通过激活引导框架系统干预四个视觉概念类别，揭示实体记忆局部化与抽象概念全局分布的差异，发现模型深度对复杂抽象概念编码至关重要，且反向引导揭示感知与生成之间的补偿机制。

Hallucination as an Anomaly: Dynamic Intervention via Probabilistic Circuits

幻觉作为异常：通过概率电路进行动态干预

Erik Nielsen, Elia Cunegatti, Marcus Vukojevic, Giovanni Iacca

机构 * Department of Information Engineering and Computer Science（信息工程与计算机科学系） ； University of Trento（特伦托大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出PCNET，通过概率电路估计LLM残差流密度，检测幻觉作为几何异常，从而改进幻觉纠正，减少错误生成并提升事实性。

Patch-Effect Graph Kernels for LLM Interpretability

用于LLM可解释性的补丁效应图核

Ruben Fernandez-Boullon, David N. Olivieri

机构 * Department of Computer Science, University of Vigo（维戈大学计算机科学系） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,title_cn)；分类 cs.CL、cs.AI

AI总结 本文提出将机械可解释性分析转化为图机器学习问题，通过补丁效应图分析模型组件的激活补丁特征，提升不同任务下的结构比较能力。

Knowledge-Level Consistency Reinforcement Learning: Dual-Fact Alignment for Long-Form Factuality

知识级一致性强化学习：长形式事实性的双事实对齐

Junliang Li, Yucheng Wang, Yan Chen, Yu Ran, Ruiqing Zhang, Jing Liu, Hua Wu, Haifeng Wang

机构 * Baidu Inc.（百度公司） 纠错

专题命中 知识编辑与模型理解 ：RLHF(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出KLCF框架，通过双事实对齐机制提升长形式生成的事实性，有效缓解幻觉和保守倾向，提升精度与召回率。

Comments 32 pages

Leviathan: Decoupling Input and Output Representations in Language Models

Leviathan：解耦语言模型的输入和输出表示

Reza T. Batley, Sourav Saha

机构 * Department of Aerospace and Ocean Engineering（航空航天与海洋工程系） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 Leviathan通过引入学习嵌入向量化方法，解耦语言模型的输入和输出表示，从而在参数增加极小的情况下提升语言建模性能，尤其在稀有词上表现显著。

Invariant Features in Language Models: Geometric Characterization and Model Attribution

语言模型中的不变特征：几何特性与模型归因

Agnibh Dasgupta, Abdullah Tanvir, Xin Zhong

机构 * University of Nebraska Omaha（内布拉斯加大学奥马哈分校） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 研究探讨语言模型中不变特征的几何特性及归因方法，提出局部几何框架并验证其在不同模型和层中的有效性。

Don't Throw Away Your Beams: Improving Consistency-based Uncertainties in LLMs via Beam Search

不要抛弃你的光束：通过光束搜索改进大语言模型中的基于一致性不确定性的方法

Ekaterina Fadeeva, Maiya Goloburda, Aleksandr Rubashevskii, Roman Vashurin, Artem Shelmanov, Preslav Nakov, Mrinmaya Sachan, Maxim Panov

机构 * ETH Zurich（苏黎世联邦理工学院） ； MBZUAI（穆萨伊人工智能研究院） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出通过光束搜索改进大语言模型中的基于一致性的不确定性量化方法，减少方差并提升性能，实验证明其在六个问答数据集上达到最先进的性能。

The Cost of Context: Mitigating Textual Bias in Multimodal Retrieval-Augmented Generation

上下文的成本：减轻多模态检索增强生成中的文本偏差

Hoin Jung, Xiaoqian Wang

机构 * Elmore Family School of Electrical and Computer Engineering（埃尔莫夫家族电气与计算机工程学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文探讨了多模态大语言模型在整合检索增强生成时出现的文本偏差问题，提出BAIR方法通过恢复视觉显著性并施加位置感知惩罚来提升多模态接地和诊断可靠性。

Understanding Annotator Safety Policy with Interpretability

通过可解释性理解标注者安全政策

Alex Oesterling, Donghao Ren, Yannick Assogba, Dominik Moritz, Sunnie S. Y. Kim, Leon Gatys, Fred Hohman

机构 * Harvard University（哈佛大学） ； Apple（苹果公司） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 本文提出Annotator Policy Models，通过学习标注行为揭示安全政策差异，解决标注分歧根源问题，提升安全政策设计的透明性和包容性。

Comments 38 pages, 13 figures, ACM FAccT 2026

Resolving the bias-precision paradox with stochastic causal representation learning for personalized medicine

用随机因果表示学习解决偏差-精度悖论以实现个性化医疗

Peisong Zhang, Manqiang Peng, Yuxuan Wu, Pawit Phadungsaksawasdi, Wesley Yeung, Ye Zhang, Trang Nguyen, Qiang Zhang, Nan Liu, Meng Wang, Kee Yuan Ngiam, Yih-Chung Tham, Ching-Yu Cheng, Tianfan Fu, Qingyu Chen, Rosemary Ke, Chang Li, Wenzhuo Yang, Zhenghao Lu, Chunyou Lai, Yu Zhang, Sheng Zhong, Hao Deng, Dianbo Liu

机构 * Chengdu OrganoidMed Medical Laboratory（成都OrganoidMed医学实验室） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出基于sMMD的随机对齐策略，解决因果表示学习中的偏差-精度悖论，提升个性化医疗中分布偏移下的预测准确性，减少误差并提高高风险任务的召回率。

Feeling the Space: Egomotion-Aware Video Representation for Efficient and Accurate 3D Scene Understanding

感知空间：面向高效准确3D场景理解的自我运动感知视频表示

Shuyao Shi, Kang G. Shin

机构 * Department of Computer Science（计算机科学系） ； University of Michigan（密歇根大学） ； University of Michigan Ann Arbor（密歇根大学安阿伯分校） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)

AI总结 本文提出Motion-MLLM框架，结合IMU数据与视觉特征，通过运动-视觉关键帧过滤模块和异构跨模态融合模块，提升3D场景理解与空间推理的效率和准确性。

Comments 22 pages, 10 figures

Attributions All the Way Down? The Metagame of Interpretability

逐层归因？可解释性中的元游戏

Hubert Baniecki, Przemyslaw Biecek, Fabian Fumagalli

机构 * University of Warsaw（华沙大学） ； Centre for Credible AI, Warsaw University of Technology（可信AI中心，华沙技术大学） ； Bielefeld University（比勒菲尔德大学） ； LMU Munich, MCML（慕尼黑大学LMU，MCML） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出元游戏框架，通过将归因方法视为合作博弈计算Shapley值，研究模型解释的第二阶交互效应，揭示归因的层级分解及其在多领域可解释性应用中的价值。

On the Safety of Graph Representation Learning

图表示学习的安全性研究

Xiaoguang Guo, Zehong Wang, Ziming Li, Shawn Spitzel, Soonwoo Kwon, Tianyi Ma, Yanfang Ye, Chuxu Zhang

机构 * University of Connecticut（康涅狄格大学） ； University of Notre Dame（圣约翰大学） 纠错

专题命中 知识编辑与模型理解 ：foundation model(abstract)；分类 cs.LG

AI总结 本文提出GRL-Safety评估框架，评估十二种图表示学习方法在不同安全轴上的表现，揭示安全行为受表示设计与受压图因素交互影响，指出基础模型在特定轴上具有优势，揭示部署中仍存在能力缺口。

Comments Preprint. 10 pages main text, appendices included

Preliminary Insights in Chronos Frequency Data Understanding and Reconstruction

对Chronos频率数据理解与重建的初步见解

Alessandro Pagani, Marco Cominelli, Liying Han, Gaofeng Dong, Sergio Benini, Francesco Gringoli, Mattia Savardi, Mani B. Srivastava, Trevor Bihl, Erik P. Blasch, Daniel O. Brigham, Kara Combs, Lance M. Kaplan, Federico Cerutti

机构 * Ohio University（俄亥俄大学） ； DEVCOM Army Research Lab（陆军研究实验室） ； Cardiff University（卡迪夫大学） ； University of Southampton（南安普顿大学） ； Imperial College London（伦敦帝国学院） 纠错

专题命中 知识编辑与模型理解 ：foundation model(abstract)；分类 cs.LG

AI总结 本文探讨Chronos基础模型处理频率域信息的能力，通过分析离散正弦波等简单信号，揭示模型内部表示中频率信息的捕获机制及质量退化现象，为信号处理和信息融合提供实践指导。

Uncovering Entity Identity Confusion in Multimodal Knowledge Editing

揭示多模态知识编辑中的实体身份混淆

Shu Wu, Xiaotian Ye, Xinyu Mou, Dongsheng Liu, Xiaohan Wang, Mengqi Zhang

机构 * New Laboratory of Pattern Recognition (NLPR)（模式识别新实验室） ； State Key Laboratory of Multimodal Artificial Intelligence Systems (MAIS)（多模态人工智能系统国家重点实验室） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Beijing University of Posts and Telecommunications（北京邮电大学） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； School of Advanced Interdisciplinary Sciences, University of Chinese Academy of Sciences（中国科学院大学先进交叉学科学院） ； Huazhong University of Science and Technology（华中科技大学） ； Shandong University（山东大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL

AI总结 本文研究多模态知识编辑中实体身份混淆问题，发现现有方法无法区分图像-实体绑定与实体-实体关系，导致模型错误关联。通过构建EC-Bench基准测试，提出约束编辑阶段以提升绑定准确性，从而减少混淆。

Time series saliency maps: explaining models across multiple domains

时间序列显著图：跨多个领域的模型解释

Christodoulos Kechris, Jonathan Dan, David Atienza

机构 * EPFL（苏黎世联邦理工学院） 纠错

专题命中 知识编辑与模型理解 ：foundation model(abstract)；分类 cs.LG

AI总结 本文提出跨域集成梯度方法，用于时间序列模型的跨领域解释，通过复杂域扩展实现频率基属性分配，在三个真实任务中展示了可解释的领域特定属性。

Foundation Twins: A New Generation of Power Systems Digital Twins using Foundation AI Models

基础双胞胎：利用基础AI模型的新一代电力系统数字双胞胎

Pedro P. Vergara

专题命中 知识编辑与模型理解 ：foundation model(abstract)

AI总结 本文提出基础双胞胎，结合基础模型的泛化能力和强化学习的决策能力，旨在实现多尺度、多地理范围的电力系统数字双胞胎。

Comments 6 pages