arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-04-27 至 2026-04-27 共收录 15 信号源:cs.CL, cs.AI, cs.LG

1. 知识编辑与模型理解 15 篇

2604.16377 2026-04-27 cs.CL cs.CY 90%

GoCoMA: Hyperbolic Multimodal Representation Fusion for Large Language Model-Generated Code Attribution

GoCoMA:超几何多模态表示融合用于大语言模型生成代码归因

Nitin Choudhury, Bikrant Bikram Pratap Maurya, Bhavinkumar Vinodbhai Kuwar, Arun Balaji Buduru

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);LLM(abstract,abstract_cn);分类 cs.CL

AI总结 GoCoMA通过超几何空间融合代码风格和二进制特征,提升大语言模型生成代码的归因准确性,在两个基准测试中优于单一模态和欧几里得多模态基线。

Comments Accepted to the International Conference on Multimedia & Expo (ICME) 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2506.08980 2026-04-27 cs.SE 89%

AdaDec: A Uncertainty-Guided Lookahead Decoding Framework for LLM-Based Code Generation

AdaDec: 一种基于不确定性的前瞻性解码框架用于基于大语言模型的代码生成

Kaifeng He, Mingwei Liu, Chong Wang, Zike Li, Yanlin Wang, Xin Peng, Zibin Zheng

专题命中 知识编辑与模型理解 :LLM(title,summary_cn);large language model(abstract);language model(abstract)

AI总结 本文提出AdaDec框架,通过结合token级暂停再排序机制,提升LLM代码生成的可靠性和效率,实验表明其在HumanEval+等基准上显著优于传统解码方法。

Comments 23 pages, 7 figures, FSE 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22345 2026-04-27 cs.CL 89%

Preference Heads in Large Language Models: A Mechanistic Framework for Interpretable Personalization

大型语言模型中的偏好头:可解释个性化机制框架

Weixu Zhang, Ye Yuan, Changjiang Han, Yuxing Tian, Zipeng Sun, Linfeng Du, Jikun Kang, Hong Kang, Xue Liu, Haolun Wu

机构 * McGill University(麦吉尔大学) Mila - Quebec AI Institute(魁北克人工智能研究所) MBZUAI(马克斯·普朗克人工智能研究所) University of Montreal(蒙特利尔大学) Salesforce(Salesforce公司)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);LLM(abstract_cn);分类 cs.CL

AI总结 本文提出DPS框架,通过因果掩码分析识别偏好头并实现可控可解释的个性化,实验表明在保持内容连贯性的同时提升个性化精度。

Comments Accepted at ACL 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.20435 2026-04-27 cs.LG cs.AI cs.CG math.AT 86%

The Shape of Adversarial Influence: Characterizing LLM Latent Spaces with Persistent Homology

对抗影响的形状:利用持久同调表征大语言模型的潜在空间

Aideen Fay, Inés García-Redondo, Qiquan Wang, Haim Dubossarsky, Anthea Monod

机构 * Microsoft Security Response Center(微软安全响应中心) AIDOS Lab, University of Fribourg(弗里堡大学AIDOS实验室) Department of Mathematics, Imperial College London(伦敦帝国理工学院数学系) Queen Mary University of London(伦敦大学量子玛丽学院) Imperial College London(伦敦帝国理工学院) Language Technology Lab, University of Cambridge(剑桥大学语言技术实验室) The Alan Turing Institute(艾伦·图灵研究所)

专题命中 知识编辑与模型理解 :LLM(title,abstract_cn);large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 本文利用持久同调方法分析对抗输入如何改变大语言模型潜在空间的几何拓扑结构,揭示了潜在空间压缩和拓扑特征的普遍性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22335 2026-04-27 cs.CL 84%

Context-Fidelity Boosting: Enhancing Faithful Generation through Watermark-Inspired Decoding

上下文保真度提升:通过水印启发式解码增强忠实生成

Weixu Zhang, Fanghua Ye, Qiang Gao, Jian Li, Haolun Wu, Yuxing Tian, Sijing Duan, Nan Du, Xiaolong Li, Xue Liu

机构 * Hunyuan AI Digital Human, Tencent(腾讯文深AI数字人) McGill University(麦吉尔大学) Mila - Quebec AI Institute(魁北克人工智能研究所) Wuhan University(武汉大学) University of Montreal(蒙特利尔大学) Tsinghua University(清华大学) MBZUAI

专题命中 知识编辑与模型理解 :LLM(summary_cn,abstract_cn);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文提出CFB框架,通过增加源支持标记的生成概率减少大语言模型中的保真度幻觉,采用基于水印技术的logit调整策略,三种增强策略提升生成忠实度,无需重训练即可兼容多种LLM。

Comments Accepted at ACL 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.27413 2026-04-27 cs.LG cs.AI cs.CL 82%

Atlas-Alignment: Making Interpretability Transferable Across Language Models

Atlas-Alignment:使语言模型间的可解释性可迁移

Bruno Puri, Jim Berend, Sebastian Lapuschkin, Wojciech Samek

机构 * Department of Artificial Intelligence, Fraunhofer Heinrich Hertz Institute(人工智能系,弗劳恩霍夫 Heinrich Hertz 研究所) Department of Electrical Engineering and Computer Science, Technische Universität Berlin(电气工程与计算机科学系,柏林技术大学) Centre of eXplainable Artificial Intelligence, Technological University Dublin(可解释人工智能中心,都柏林技术大学) BIFOLD - Berlin Institute for the Foundations of Learning and Data(BIFOLD - 柏林学习与数据基础研究所)

专题命中 知识编辑与模型理解 :language model(title,abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 Atlas-Alignment通过在新模型的潜在空间与预训练的Concept Atlas对齐,实现无需标注数据的可解释性迁移,降低可解释AI的成本。

详情

展开后加载摘要…

URL PDF HTML 收藏
2211.16327 2026-04-27 cs.AI cs.LG 82%

On the Power of Foundation Models

基础模型的威力

Yang Yuan

机构 * IIIS, Tsinghua University(清华大学信息学院) Shanghai Artificial Intelligence Laboratory(上海人工智能实验室) Shanghai Qi Zhi Institute(上海启智研究院)

专题命中 知识编辑与模型理解 :foundation model(title,abstract);分类 cs.AI、cs.LG;LLM(comments)

AI总结 本文通过范畴论探讨基础模型在提示学习和微调中的能力限制及泛化理论,提出新的泛化定理。

Comments ICML'23. This version polished paper with the help of LLM, fixed a few notational issues

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22166 2026-04-27 cs.CL 79%

Fine-Grained Analysis of Shared Syntactic Mechanisms in Language Models

语言模型中共享句法机制的细粒度分析

Ryoma Kumon, Hitomi Yanaka

机构 * The University of Tokyo(东京大学) RIKEN(日本理化学研究所) Tohoku University(东北大学)

专题命中 知识编辑与模型理解 :language model(title,abstract);分类 cs.CL

AI总结 本研究通过细粒度分析探讨语言模型在不同句法结构中是否共享神经机制,发现填词-缺口依赖在早期至中期层有高度局部化的共享机制,而否定极性项目许可则无统一机制。

Comments Accepted to ACL 2026 Main

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.12430 2026-04-27 cs.CL 79%

System-Mediated Attention Imbalances Make Vision-Language Models Say Yes

系统介导的注意力失衡使视觉-语言模型倾向于说‘是’

Tsan Tsai Chan, Varsha Suresh, Anisha Saha, Michael Hahn, Vera Demberg

机构 * Saarland Informatics Campus, Saarland University, Germany(萨尔兰州信息学校区,萨尔兰州大学,德国) Max Planck Institute for Informatics, Germany(马克斯·普朗克信息研究所,德国)

专题命中 知识编辑与模型理解 :language model(title,abstract);分类 cs.CL

AI总结 本文研究了视觉-语言模型中系统介导的注意力失衡对‘是’偏见的影响,提出通过重新分配注意力以减少这种偏见,从而提升模型可靠性。

Comments Accepted to ACL Findings 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.11020 2026-04-27 cs.CL 79%

From Interpretability to Performance: Optimizing Retrieval Heads for Long-Context Language Models

从可解释性到性能:优化长上下文语言模型的检索头

Youmi Ma, Naoaki Okazaki

机构 * Department of Computer Science, Institute of Science Tokyo(东京科学研究所计算机科学系)

专题命中 知识编辑与模型理解 :language model(title);LLM(abstract_cn);分类 cs.CL

AI总结 本文研究检索头如何提升长上下文语言模型性能,提出RetMask方法通过对比正常输出与屏蔽检索头的输出生成训练信号,显著提升生成和重排序性能,验证了检索头的功能作用。

Comments Findings of ACL 2026; Source code available at https://github.com/YoumiMa/RetMask

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22452 2026-04-27 cs.AI cs.CL cs.LG 75%

Superminds Test: Actively Evaluating Collective Intelligence of Agent Society via Probing Agents

超级心智测试:通过探测代理主动评估代理社会的集体智慧

Xirui Li, Ming Li, Yunze Xiao, Ryan Wong, Dianqi Li, Timothy Baldwin, Tianyi Zhou

机构 * University of Maryland(马里兰大学) Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学) Carnegie Mellon University(卡内基梅隆大学)

专题命中 知识编辑与模型理解 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 研究通过Superminds测试评估代理社会的集体智慧,发现规模扩大并未带来集体智慧,交互浅显是主要限制因素。

详情

展开后加载摘要…

URL PDF HTML 收藏
2507.15753 2026-04-27 cs.CE cs.AI 74%

Algebraic Language Models for Inverse Design of Metamaterials via Diffusion Transformers

基于扩散变换器的代数语言模型用于通过扩散变换器进行超材料逆设计

Li Zheng, Siddhant Kumar, Dennis M. Kochmann

机构 * Mechanics & Materials Laboratory, Department of Mechanical and Process Engineering, ETH Zürich(机械与材料实验室,机械与过程工程系,苏黎世联邦理工学院) Department of Materials Science and Engineering, Delft University of Technology(材料科学与工程系,代尔夫特理工大学)

专题命中 知识编辑与模型理解 :language model(title);分类 cs.AI

AI总结 本文提出DiffuMeta框架,通过将扩散变换器与代数语言表示结合,实现三维超材料的逆设计,能生成具有精确应力-应变响应的壳体结构,并同时控制多种机械目标。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22089 2026-04-27 cs.SE cs.AI 70%

Ethics Testing: Proactive Identification of Generative AI System Harms

伦理测试:主动识别生成式AI系统危害

Shin Hwei Tan, Haibo Wang, Heng Li

机构 * Concordia University(康科迪亚大学)

专题命中 知识编辑与模型理解 :large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文提出伦理测试概念,旨在系统识别生成式AI系统生成内容中的软件危害,通过五项案例研究展示其实施方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2502.16994 2026-04-27 cs.LG cs.AI cs.CL 67%

FADE: Why Bad Descriptions Happen to Good Features

FADE:为什么好的特征会遇到糟糕的描述

Bruno Puri, Aakriti Jain, Elena Golimblevskaia, Patrick Kahardipraja, Thomas Wiegand, Wojciech Samek, Sebastian Lapuschkin

机构 * Department of Artificial Intelligence, Fraunhofer Heinrich Hertz Institute(人工智能系,弗劳恩霍夫海因里希·赫兹研究所) Department of Electrical Engineering and Computer Science, Technische Universität Berlin(电气工程与计算机科学系,柏林技术大学) BIFOLD - Berlin Institute for the Foundations of Learning and Data(柏林学习与数据基础研究所) Centre of eXplainable Artificial Intelligence, Technological University Dublin(可解释人工智能中心,都柏林技术大学)

专题命中 知识编辑与模型理解 :LLM(abstract_cn);分类 cs.CL、cs.AI、cs.LG

AI总结 FADE提出了一种模型无关的框架,用于自动评估特征与描述的一致性,通过四个指标量化特征与描述之间的不一致原因,揭示了生成特征描述的挑战。

Journal ref In Findings of the Association for Computational Linguistics: ACL 2025, pages 17138-17160, Vienna, Austria. Association for Computational Linguistics

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.05707 2026-04-27 cs.CR 50%

Evaluating Concept Filtering Defenses against Child Sexual Abuse Material Generation by Text-to-Image Models

评估文本到图像模型中概念过滤防御对生成儿童性虐待材料的效力

Ana-Maria Cretu, Klim Kireev, Amro Abdalla, Wisdom Obinna, Raphael Meier, Sarah Adel Bargal, Elissa M. Redmiles, Carmela Troncoso

专题命中 知识编辑与模型理解 :prompting(abstract)

AI总结 本文评估了通过过滤训练数据中的儿童图像来防止文本到图像模型生成儿童性虐待材料的有效性,发现现有检测方法无法完全去除儿童图像,且即使过滤后仍可通过少量额外查询生成儿童图像。

Comments Extended version of the paper with the name published in the Proceedings of the 47th IEEE Symposium on Security & Privacy (IEEE S&P 2026). Please cite accordingly

详情

展开后加载摘要…

URL PDF HTML 收藏