arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-06-29 至 2026-06-29 共收录 235 信号源:cs.CL, cs.AI, cs.LG

1. 领域大模型 19 篇

2606.27394 2026-06-29 cs.DL cs.LG 新提交 70%

Forecasting Technological Directions in Wireless Networks and Mobile Computing via AutoML Framework

通过AutoML框架预测无线网络与移动计算的技术方向

Ahmed Abolfadl, Marwa Mahmoud, Basma Afifi, Mervat Abu-Elkheir, Maggie Mashaly

专题命中 领域大模型 :LLM(abstract,abstract_cn);分类 cs.LG

AI总结 提出一种集成聚类、主题建模和时间序列分析的自动化管道,用于预测无线网络与移动计算领域的研究趋势,通过元学习选择聚类算法和逐次减半策略优化主题模型,结合ARIMA等模型预测主题热度,实验RMSE为36.76。

Comments Conference: 2025 IEEE Middle East Conference on Communications and Networking (MECOM)

Journal ref Proc. IEEE IEEE Middle East Conference on Communications and Networking (MECOM), Cairo, Egypt, 2025, pp. 1-6

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.27386 2026-06-29 cs.DL cs.AI 新提交 70%

Agentic Publication Protocol: An Attempt to Modernize Scientific Publication

Agentic Publication Protocol:科学出版现代化的一次尝试

Sirui Lu, Xiao-Liang Qi

机构 * Max-Planck-Institut für Quantenoptik(马克斯·普朗克量子光学研究所) Munich Center for Quantum Science and Technology(慕尼黑量子科学与技术中心) Leinweber Institute for Theoretical Physics(莱因韦伯理论物理研究所)

专题命中 领域大模型 :large language model(abstract);language model(abstract);分类 cs.AI

AI总结 提出Agentic Publication Protocol(APP),一种将论文与代码、数据、环境信息及智能体指令打包的轻量级仓库格式,使未来研究者能直接使用操作知识。

Comments 16 pages, 5 figures and 1 table

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.10938 2026-06-29 cs.CL cs.AI cs.LG 版本更新 67%

ELF: Embedded Language Flows

ELF:嵌入式语言流

Keya Hu, Linlu Qiu, Yiyang Lu, Hanhong Zhao, Tianhong Li, Yoon Kim, Jacob Andreas, Kaiming He

机构 * MIT(麻省理工学院)

专题命中 领域大模型 :language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出ELF,一种基于连续时间流匹配的连续嵌入空间扩散模型,通过最小调整即可在离散领域有效工作,实验显示其在生成质量与采样步骤上优于现有模型。

Comments Tech report. arXiv v2: add distillation results in Appendix B. https://linlu-qiu.github.io/assets/html/elf_pd.html

详情

展开后加载摘要…

URL PDF HTML 收藏

2. 知识编辑与模型理解 11 篇

2606.27679 2026-06-29 cs.CL cs.AI 新提交 90%

From Signals to Transfer: A Factorised Study of Probe-Based Uncertainty Estimation in Large Language Models

从信号到迁移:基于探针的大语言模型不确定性估计的分解研究

Ponhvoan Srey, Xiaobao Wu, Cong-Duy Nguyen, Quang Minh Nguyen, Duc Anh Vu, Anh Tuan Luu

机构 * Nanyang Technological University(南洋理工大学) Shanghai Jiao Tong University(上海交通大学) VinUniversity KAIST(韩国科学技术院)

专题命中 知识编辑与模型理解 :large language model(title,abstract);language model(title,abstract);prompting(abstract);分类 cs.CL、cs.AI

AI总结 通过分解研究,发现原始隐藏状态和注意力特征在域内表现优异,但结构化压缩特征在分布偏移下更鲁棒,提示和标签构建显著影响探针行为,并训练出可迁移的预训练探针。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.28153 2026-06-29 cs.CR cs.AI 新提交 88%

Robust Harmful Features Under Jailbreak Attacks: Mechanistic Evidence from Attention Head Specialization in Large Language Models

越狱攻击下的鲁棒有害特征:来自大型语言模型中注意力头特化的机制证据

Yanchen Yin, Dongqi Han, Linghui Li

专题命中 知识编辑与模型理解 :large language model(title);language model(title);LLM(abstract,abstract_cn);分类 cs.AI

AI总结 通过分析注意力头特化,发现越狱攻击通过抑制早期层的对抗妥协头(ACHs)绕过安全对齐,而中间层的安全对齐头(SAHs)保持鲁棒激活,揭示了鲁棒有害特征现象,并利用这些持久激活实现无需训练的检测。

Comments 33 pages, 19 figures. Accepted at ICML 2026 as an Oral presentation

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.27378 2026-06-29 cs.CL cs.LG 新提交 85%

Formalizing Latent Thoughts: Four Axioms of Thought Representation in LLMs

形式化潜在思维:LLM中思维表示的四条公理

Fahd Seddik, Fatemeh Fard

机构 * University of British Columbia(不列颠哥伦比亚大学)

专题命中 知识编辑与模型理解 :LLM(title_cn,summary_cn);分类 cs.CL、cs.LG

AI总结 提出独立于下游基准的LLM潜在思维表示公理评估框架,发现当前表示不满足所有四条公理,且编码信息有限。

Comments 44 pages, 27 tables, 14 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.02896 2026-06-29 cs.LG 版本更新 84%

Bridging Mechanistic Interpretability and Prompt Engineering with Gradient Ascent for Interpretable Persona Control

通过梯度上升实现可解释人格控制与提示工程的桥梁

Harshvardhan Saini, Yiming Tang, Dianbo Liu

机构 * Department of Computer Science(计算机科学系) Indian Institute of Technology (ISM), Dhanbad(印度理工学院(ISM),丹巴德) National University of Singapore(新加坡国立大学) CIFAR Fellow(CIFAR研究员)

专题命中 知识编辑与模型理解 :LLM(summary_cn,abstract_cn);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文提出RESGA和SAEGA方法,利用梯度上升优化随机初始化提示,以实现与识别的人格方向更一致的表示,有效控制LLM中的人格行为。

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.17932 2026-06-29 cs.CL 版本更新 84%

Training-free Truthfulness Detection via Sparse MLP Value Vectors

基于稀疏MLP值向量的免训练真实性检测

Runheng Liu, Heyan Huang, Xingchen Xiao, Yanghao Zhou, Zhijing Wu

机构 * Beijing Institute of Technology(北京理工大学)

专题命中 知识编辑与模型理解 :LLM(summary_cn,abstract_cn);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 提出TruthV方法,利用MLP值向量中稀疏子集的稳定方向性信号,无需训练即可检测LLM生成内容的真实性,在多个基准上超越现有免训练方法。

Comments KDD 2026 Oral

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.28273 2026-06-29 cs.CL 新提交 79%

Vision-Default, Prior-Override: Causal Mechanisms of Perception-Knowledge Conflict in Vision-Language Models

视觉默认,先验覆盖:视觉-语言模型中感知-知识冲突的因果机制

Niclas Lietzow, Danielle Bitterman, Carsten Eickhoff, William Rudman, Michal Golovanevsky

机构 * University of Tübingen(图宾根大学) Harvard University(哈佛大学) The University of Texas at Austin(德克萨斯大学奥斯汀分校)

专题命中 知识编辑与模型理解 :language model(title,abstract);分类 cs.CL

AI总结 通过激活修补和消融实验,发现VLM中视觉默认激活,而先验知识依赖少量因果注意力头(2.5-4.8%),形成不对称因果结构。

Comments 14 pages, 11 figures, 8 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.27460 2026-06-29 cs.CL 新提交 79%

Developmental approach reveals the statistical learning of Neural Language Models: Transformers generalize from the most abstract statistical patterns

发展方法揭示神经语言模型的统计学习:Transformer从最抽象的统计模式中泛化

Wang Bojun, Holly Jenkins, Elizabeth Wonnacott

机构 * Department of Education, University of Oxford(牛津大学教育学院)

专题命中 知识编辑与模型理解 :language model(title,abstract);分类 cs.CL

AI总结 本研究采用发展方法,通过训练生成式Transformer模型并分析其内部表征变化,发现神经语言模型先习得最抽象的全局统计知识,后习得局部统计依赖,并提出新的统计学习与语言认知框架。

Comments 10 pages, 7 figures, oral presentation at Interdisciplinary Advances in Statistical Learning

详情

展开后加载摘要…

URL PDF HTML 收藏
2507.06722 2026-06-29 cs.CL cs.LG 版本更新 73%

On the Effect of Uncertainty on Layer-wise Inference Dynamics

不确定性对逐层推理动态的影响

Sunwoo Kim, Haneul Yoo, Alice Oh

专题命中 知识编辑与模型理解 :large language model(abstract);language model(abstract);分类 cs.CL、cs.LG

AI总结 通过Tuned Lens分析11个数据集和5个模型,发现确定与不确定预测的逐层概率轨迹高度一致,表明不确定性不影响推理动态,但更强大的模型可能以不同方式处理不确定性。

Comments Accepted to Actionable Interpretability Workshop - ICML 2025

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.27601 2026-06-29 cs.SE 新提交 67%

Test Case Selection for Deep Neural Networks: A Replication Study on LLMs for Code

深度神经网络的测试用例选择:面向代码的大语言模型的复现研究

Ali Asgari, Mitchell Olsthoorn, Annibale Panichella

专题命中 知识编辑与模型理解 :LLM(abstract,abstract_cn)

AI总结 本文对深度神经网络测试用例选择技术在代码大语言模型上的有效性进行了大规模复现研究,发现基于不确定性的特征对早期故障发现有效,而基于表示的特征对准确率估计更鲁棒,且性能因任务和模型而异。

Comments Accepted at ISSTA 2026, the 35th ACM SIGSOFT International Symposium on Software Testing and Analysis

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.00705 2026-06-29 cs.CV 版本更新 67%

Training-free Uncertainty Guidance for Complex Visual Tasks with MLLMs

无训练不确定性引导的复杂视觉任务多模态大语言模型

Sanghwan Kim, Rui Xiao, Stephan Alaniz, Yongqin Xian, Zeynep Akata

机构 * Technical University of Munich(慕尼黑技术大学) Munich Center for Machine Learning(慕尼黑机器学习中心) Helmholtz Munich(海德堡-慕尼黑亥姆霍兹研究中心) Google(谷歌) LTCI, Télécom Paris, Institut Polytechnique de Paris(巴黎理工大学 LTCI 实验室)

专题命中 知识编辑与模型理解 :large language model(abstract);language model(abstract)

AI总结 提出无需训练的框架,利用MLLM内在不确定性主动引导,通过响应不确定性评分候选视觉输入,使模型自主聚焦关键信息,在视觉搜索、长视频理解等任务中达到与微调系统相当的性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.27440 2026-06-29 cs.LG 新提交 57%

PairSAE: Mechanistic Interpretability from Pair Representations in Protein Co-Folding

PairSAE: 蛋白质共折叠中成对表示的机制可解释性

Giosue Migliorini, Aristofanis Rontogiannis, Grigori Guitchounts, Nicholas Franklin, Axel Elaldi, Olivia Viessmann

机构 * University of California, Irvine(加州大学尔湾分校) Flagship Pioneering

专题命中 知识编辑与模型理解 :foundation model(abstract);分类 cs.LG

AI总结 针对蛋白质共折叠模型中的成对表示,提出PairSAE方法,通过N-mode SVD总结成对张量为token级交互角色,再用稀疏自编码器学习共享特征,实现可解释性并避免传统SAE的二次爆炸问题。

Comments Accepted at the Machine Learning in Structural Biology (MLSB) 2025 workshop

详情

展开后加载摘要…

URL PDF HTML 收藏

3. 其他LLM 11 篇

2606.27687 2026-06-29 cs.CL cs.AI cs.DL 新提交 92%

Mitigating LLM-based p-Hacking by Preregistering for the Next LLM

通过预注册下一个LLM来缓解基于LLM的p-hacking

Maria Thomas, Kristina Gligoric, Nihar B. Shah

机构 * Johns Hopkins University(约翰霍普金斯大学) Carnegie Mellon University(卡内基梅隆大学)

专题命中 其他LLM :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 提出一种协议,通过预注册实验和合格模型,并在预注册后发布的第一个合格LLM上运行,以缓解LLM研究中的p-hacking问题。实验表明该协议能有效阻止73.9%和72.7%的p-hack转移。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.20493 2026-06-29 cs.LG cs.AI cs.MA 新提交 92%

Contagion Networks: Evaluator Preference Propagation in Multi-Agent LLM Systems

传染网络:多智能体LLM系统中的评估者偏见传播

Zewen Liu

机构 * Qilu Institute of Technology, School of Software Engineering(齐鲁理工学院软件工程学院)

专题命中 其他LLM :LLM(title,title_cn);large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 提出传染网络框架,量化评估者偏见在多智能体LLM系统中的传播,发现同模型智能体间偏见传播系数为0.157-0.352,且增大评估委员会规模可减少72.4%的传播效应。

Comments 41 pages, 8 figures, 11 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.28090 2026-06-29 cs.HC 新提交 91%

Typing Behavior in Human-LLM Interaction: Keystroke Dynamics Reveal Cognitive Effort During Prompting

人机交互中的打字行为:击键动态揭示提示过程中的认知努力

Laura Schütz, Yousri Cherif, Clara Sayffaerth, Thomas Weber, Francesco Chiossi

专题命中 其他LLM :LLM(title,abstract);prompting(title,abstract);large language model(abstract);language model(abstract)

AI总结 本研究通过击键动态分析用户在与大语言模型交互时的认知努力,发现困难任务导致更多击键、更慢打字和更多停顿,但击键无法预测感知的输出有用性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.28127 2026-06-29 cs.CL cs.AI cs.LG 新提交 90%

From Tokens to States: LLMs as a Special Case of World Models and the Continuous Path Beyond

从令牌到状态:LLM作为世界模型的特例及其连续路径

Paul Dubois

机构 * Paul Dubois(保罗·杜博伊斯)

专题命中 其他LLM :LLM(title_cn,summary_cn);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文论证LLM是世界模型的退化特例,并提出从NTP到JEPA的连续谱系,逐步放松LLM约束,同时探讨其可扩展性挑战。

Comments 10 pages, 6 figures, 1 table

详情

展开后加载摘要…

URL PDF HTML 收藏
2401.17505 2026-06-29 cs.LG cs.AI cs.CL 89%

Arrows of Time for Large Language Models

大语言模型中的时间箭头

Vassilis Papadopoulos, Jérémie Wenger, Clément Hongler

专题命中 其他LLM :large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 研究大语言模型通过时间方向性进行概率建模,发现模型在预测下一个词与前一个词时的平均对数困惑度存在细微但一致的不对称性,提出理论框架解释这种不对称性源于稀疏性和计算复杂性。

Comments Corrected typos in Table 2. Added links. 12 figures, 20 pages

Journal ref Proceedings of the 41st International Conference on Machine Learning (ICML 2024), PMLR 235:39509-39528, 2024

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.27786 2026-06-29 cs.CL cs.AI 新提交 79%

SHIFT: Gate-Modulated Activation Steering for Knowledge Conflict Mitigation in Retrieval-Augmented Generation

SHIFT: 门控调制激活引导用于检索增强生成中的知识冲突缓解

Ruochang Li, Pengcheng Huang, Zhenghao Liu, Yukun Yan, Huiyuan Xie, Yu Gu, Ge Yu, Maosong Sun

机构 * School of Computer Science and Engineering, Northeastern University, Shenyang, China(东北大学计算机科学与工程学院,沈阳,中国) Department of Computer Science and Technology, Tsinghua University, Beijing, China(清华大学计算机科学与技术系,北京,中国)

专题命中 其他LLM :LLM(summary_cn,abstract_cn);分类 cs.CL、cs.AI

AI总结 提出SHIFT框架,通过轻量级门控模块调节LLM内部激活,以自适应解决检索上下文与参数知识间的冲突,仅优化0.01%参数,在六个数据集上验证有效性。

Comments 19 pages, 13 Figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.14271 2026-06-29 cs.CV 版本更新 78%

Let Language Constrain Geometry: Vision-Language Models as Semantic and Spatial Critics for 3D Generation

让语言约束几何:视觉-语言模型作为3D生成的语义和空间评判者

Weimin Bai, Yubo Li, Weijian Luo, Zeqiang Lai, Yequan Wang, Wenzheng Chen, He Sun

机构 * Peking University(北京大学) hi-lab, Xiaohongshu Inc.(小红书科技公司 hi-lab) MMLab, CUHK(香港中文大学 MMLab) Beijing Academy of Artificial Intelligence(北京人工智能研究院)

专题命中 其他LLM :language model(title,abstract)

AI总结 提出VLM3D框架,利用视觉-语言模型作为可微分的语义和空间评判者,通过双查询评判信号改善文本到3D生成的语义对齐和几何一致性。

Comments arXiv admin note: substantial text overlap with arXiv:2509.15772

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.28081 2026-06-29 cs.HC cs.IR 新提交 67%

Context-Aware Explanations for Spatialized Document Layouts

空间化文档布局的上下文感知解释

Wei Liu, John Wenskovitch, Chris North, Rebecca Faust

专题命中 其他LLM :LLM(abstract,abstract_cn)

AI总结 提出CAPE框架,结合文档语义和布局空间上下文,通过识别空间模式并构建多级上下文表示,生成自然语言解释,支持AI引导概览和用户驱动探索,实验表明空间解释比纯内容基线更有助于理解布局空间组织。

Comments 10 pages, 4 figures, accepted to Graphics Interface 2026 (GI 2026)

详情

展开后加载摘要…

URL PDF HTML 收藏
2409.16656 2026-06-29 cs.SE 版本更新 67%

GUIMigrator: Semantics-Preserving Transpilation from Android XML to Compose and SwiftUI

GUIMigrator: 从Android XML到Compose和SwiftUI的语义保持转译

Yi Gao, Xing Hu, Xin Xia, Xiaohu Yang

专题命中 其他LLM :LLM(abstract,abstract_cn)

AI总结 提出GUIMigrator框架,通过语义UI转译器(SUT)自动将Android XML UI迁移到Jetpack Compose和SwiftUI,保持视觉保真度和功能等价性,在31个开源应用上实现高迁移完整性和视觉相似度,减少90%以上手动工作量。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.27881 2026-06-29 cs.CL cs.AI 新提交 62%

A Study of Temporal Fusion Strategies for Named Entity Recognition in Historical Texts

历史文本中命名实体识别的时间融合策略研究

Emanuela Boros

机构 * Digital Humanities Laboratory, EPFL, Lausanne, Switzerland(瑞士洛桑联邦理工学院数字人文实验室)

专题命中 其他LLM :language model(abstract);分类 cs.CL、cs.AI

AI总结 针对历史文本中实体随时间漂移的问题,系统研究了将时间元数据嵌入NER模型的轻量级融合策略,实验表明后期融合在早期和噪声时期表现更鲁棒。

Journal ref International Conference on Theory and Practice of Digital Libraries 2025

详情

展开后加载摘要…

URL PDF HTML 收藏
2302.09049 2026-06-29 cs.IT cs.LG math.IT math.ST stat.TH 57%

Multiperiodic Processes: Ergodic Sources with a Sublinear Entropy

多周期过程:具有亚线性熵的遍历源

Łukasz Dębowski

机构 * Institute of Computer Science, Polish Academy of Sciences(波兰科学院计算机科学研究所)

专题命中 其他LLM :language model(abstract);分类 cs.LG

AI总结 本文提出多周期过程,一种由随机位移生成的确定性多周期序列构成的平稳遍历过程,具有消失的香农熵率,并满足齐夫定律和希尔伯格定律。

Comments 28 pages; 1 figure

详情

展开后加载摘要…

URL PDF HTML 收藏