arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-04-22 至 2026-04-22 共收录 13 信号源:cs.CL, cs.AI, cs.LG

1. 预训练与数据 13 篇

2604.19447 2026-04-22 cs.CL 90%

'The Order in the Horse's Heart': A Case Study in LLM-Assisted Stylometry for the Discovery of Biblical Allusion in Modern Literary Fiction

《马的心中秩序》:一项利用LLM辅助的修辞学研究,用于发现现代文学小说中的圣经引用

Ewan Cameron

机构 * Actuarial Mathematics & Statistics, School of Mathematical & Computer Sciences, Heriot-Watt University(精算数学与统计学系,数学与计算机科学学院,赫瑞斯泰大学)

专题命中 预训练与数据 :LLM(title,title_cn);分类 cs.CL

AI总结 本文提出双轨管道检测文学小说中的圣经引用,应用于科马克·麦卡锡的小说。通过LLM辅助的风格学分析,发现349个引用,其中62个被学术文献确认,展示了LLM在风格学分析中的价值。

Comments 39 pages, 1 figure

详情

展开后加载摘要…

URL PDF HTML 收藏
2506.01687 2026-04-22 cs.CL 88%

StochasTok: Improving Fine-Grained Subword Understanding in LLMs

StochasTok:提升大语言模型的细粒度子词理解

Anya Sims, Thom Foster, Klara Kaleb, Tuan-Duy H. Nguyen, Joseph Lee, Jakob N. Foerster, Yee Whye Teh, Cong Lu

机构 * FLAIR, University of Oxford(FLAIR,牛津大学) University of Oxford(牛津大学) National University of Singapore(新加坡国立大学) University of British Columbia(不列颠哥伦比亚大学)

专题命中 预训练与数据 :LLM(summary_cn,abstract_cn);large language model(abstract);language model(abstract);pretraining(abstract)

AI总结 本文提出StochasTok,一种高效的随机分词方法,通过在训练中随机分割token,提升LLM在子词层面的任务表现,包括字符计数和数学任务。

详情

展开后加载摘要…

URL PDF HTML 收藏
2310.11113 2026-04-22 cs.SE 88%

Revisiting Sentiment Analysis for Software Engineering in the Era of Large Language Models

重新审视大规模语言模型时代软件工程中的情感分析

Ting Zhang, Ivana Clairine Irsan, Ferdian Thung, David Lo

专题命中 预训练与数据 :large language model(title,abstract);language model(title,abstract)

AI总结 本文研究了大规模语言模型在解决软件工程任务中标注数据不足问题的效果,比较了大模型与微调小模型在零样本和少样本场景下的表现。

Comments Accepted by ACM Transactions on Software Engineering and Methodology

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.21816 2026-04-22 cs.SE 75%

From Task to Tutorial: An Automated GUI Framework for Excel Tutorial Document and Video Creation

从任务到教程:一种自动化生成Excel教程文档和视频的GUI框架

Yuhang Xie, Jian Mu, Xiaojun Ma, Chaoyun Zhang, Lu Wang, Mengyu Zhou, Mugeng Liu, Si Qin, Qingwei Lin, Saravan Rajmohan, Shi Han, Dongmei Zhang

专题命中 预训练与数据 :LLM(abstract_cn);large language model(abstract);language model(abstract)

AI总结 本文提出首个自动化生成Excel教程的框架,通过自然语言任务描述生成结构化文档和视频,提升教程质量和效率,减少人工劳动。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.19028 2026-04-22 cs.LG 70%

Learning Posterior Predictive Distributions for Node Classification from Synthetic Graph Priors

从合成图先验学习后验预测分布用于节点分类

Jeongwhan Choi, Jongwoo Kim, Woosung Kang, Noseong Park

机构 * KAIST(韩国科学技术院)

专题命中 预训练与数据 :large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文提出NodePFN,通过学习后验预测分布实现对任意图的通用节点分类,无需图特定训练,利用合成图先验生成多样化的图结构和特征-标签关系。

Comments Accepted to ICLR 2026. OpenReview: https://openreview.net/forum?id=FmxRzlu0rT

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.19147 2026-04-22 cs.LG cs.AI 62%

Nexusformer: Nonlinear Attention Expansion for Stable and Inheritable Transformer Scaling

Nexusformer:非线性注意力扩展用于稳定且可继承的Transformer扩展

Weijie Zhao, Mingquan Liu, Bolun Wang, Simo Wu, Nuobei Xie, Rui-Jie Zhu, Peng Zhou

机构 * The School of Computer Science, China University of Geosciences, 388 Lumo Road, Wuhan, 430074, Hubei, China(中国地质大学(北京)计算机科学学院)

专题命中 预训练与数据 :language model(abstract);分类 cs.AI、cs.LG

AI总结 Nexusformer通过非线性映射解决传统Transformer扩展中的线性瓶颈,实现无损结构扩展,实验表明其在语言模型和推理任务中以更低的计算成本达到与Tokenformer相当的性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.19734 2026-04-22 cs.RO cs.AI 57%

UniT: Toward a Unified Physical Language for Human-to-Humanoid Policy Learning and World Modeling

UniT:迈向人类到人形机器人政策学习和世界建模的统一物理语言

Boyu Chen, Yi Chen, Lu Qiu, Jerry Bai, Yuying Ge, Yixiao Ge

机构 * XPENG Robotics(小鹏机器人) Tsinghua University(清华大学) The University of Hong Kong(香港大学)

专题命中 预训练与数据 :foundation model(abstract);分类 cs.AI

AI总结 UniT通过三分支交叉重建机制建立统一物理语言,实现人类到人形机器人的跨身体迁移,提升政策学习和世界建模的效率与鲁棒性。

Comments Project page: https://xpeng-robotics.github.io/unit/

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.19335 2026-04-22 cs.LG 57%

When Active Learning Falls Short: An Empirical Study on Chemical Reaction Extraction

主动学习失效时:化学反应提取的实证研究

Simin Yu, Sufia Fathima

机构 * Otto-von-Guericke University(奥托·冯·格里克大学)

专题命中 预训练与数据 :pretraining(abstract);分类 cs.LG

AI总结 本文通过实证研究探讨主动学习在化学反应提取中的局限性,结合预训练模型与不确定性策略,发现传统方法稳定性受预训练质量、结构化CRF解码和标签稀疏性影响。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.18729 2026-04-22 cs.CL 57%

Investigating Counterfactual Unfairness in LLMs towards Identities through Humor

通过幽默探讨语言模型中身份相关的反事实不公平性

Shubin Kim, Yejin Son, Junyeong Park, Keummin Ka, Seungbeen Lee, Jaeyoung Lee, Hyeju Jang, Alice Oh, Youngjae Yu

机构 * Yonsei University(延世大学) KAIST(韩国科学技术院) Seoul National University(首尔国立大学) Indiana University Indianapolis(印第安纳大学印第安纳波利斯分校)

专题命中 预训练与数据 :language model(abstract);分类 cs.CL

AI总结 本文通过观察在保持其他因素不变的情况下交换说话者和被指对象,研究语言模型在幽默生成拒绝、说话者意图推断及社会影响预测中的反事实不公平性,揭示身份相关的偏见模式。

Comments Accepted to ACL 2026 Main Conference. The first two authors contributed equally. The last three authors are co-corresponding authors

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.17458 2026-04-22 cs.AI 57%

EHRAG: Bridging Semantic Gaps in Lightweight GraphRAG via Hybrid Hypergraph Construction and Retrieval

EHRAG:通过混合超图构建与检索弥合语义鸿沟的轻量级图RAG

Yifan Song, Xingjian Tao, Zhicheng Yang, Yihong Luo, Jing Tang

机构 * The Hong Kong University of Science and Technology (Guangzhou)(香港科学与技术大学(广州)) The Hong Kong University of Science and Technology(香港科学与技术大学)

专题命中 预训练与数据 :LLM(abstract_cn);分类 cs.AI

AI总结 EHRAG通过构建融合结构与语义关系的超图,结合结构-语义混合检索机制,提升轻量级图RAG的语义关联能力,在保持线性索引复杂度的同时优于现有基线模型。

Comments Accepted by Findings of ACL2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2310.10865 2026-04-22 cs.CL 57%

Will the Prince Get True Love's Kiss? On the Model Sensitivity to Gender Perturbation over Fairytale Texts

王子会得到真爱之吻吗?关于童话文本上性别扰动对模型敏感性的研究

Christina Chance, Da Yin, Dakuo Wang, Kai-Wei Chang

机构 * University of California, Los Angeles(加州大学洛杉矶分校) Northeastern University(东北大学)

专题命中 预训练与数据 :language model(abstract);分类 cs.CL

AI总结 本文研究语言模型在理解故事时是否受习得的性别刻板印象影响,通过反事实数据增强探讨模型对性别刻板印象扰动的响应,发现模型在测试集上对性别扰动敏感,但经过反事实训练后更鲁棒。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.18891 2026-04-22 cs.CV 50%

Weakly supervised framework for wildlife detection and counting in challenging Arctic environments: a case study on caribou (Rangifer tarandus)

弱监督框架用于极地环境中的野生动物检测与计数:以驯鹿(Rangifer tarandus)为例

Ghazaleh Serati, Samuel Foucher, Jerome Theau

机构 * Department of Applied Geomatics, Université de Sherbrooke(应用测绘系,谢伯罗克大学) Quebec Centre for Biodiversity Science (QCBS), Stewart Biology, McGill University(魁北克生物多样性科学中心(QCBS)、斯图尔特生物学、麦吉尔大学)

专题命中 预训练与数据 :pretraining(abstract)

AI总结 本文提出弱监督框架用于极地环境中驯鹿的检测与计数,通过预训练提升模型鲁棒性,实现高准确率的检测与计数。

Comments 30 pages, 8 figures, published in Frontiers in Ecology and Evolution

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.16177 2026-04-22 cs.CV 50%

Winner of CVPR2026 NTIRE Challenge on Image Shadow Removal: Semantic and Geometric Guidance for Shadow Removal via Cascaded Refinement

CVPR2026图像阴影去除挑战赛冠军:基于级联细化的语义与几何引导的阴影去除

Lorenzo Beltrame, Jules Salzinger, Filip Svoboda, Jasmin Lampert, Phillipp Fanta-Jende, Radu Timofte, Marco Körner

机构 * Austrian Institute of Technology(奥地利理工学院) Technical University of Munich(慕尼黑技术大学) University of Cambridge(剑桥大学) University of Würzburg(乌尔姆大学)

专题命中 预训练与数据 :pretraining(abstract)

AI总结 本文提出一种三阶段渐进式阴影去除管道,结合冻结的DINOv2语义引导和单目深度及表面法线几何线索,通过级联细化消除残留误差,最终在WSRD+2026测试集上取得最佳成绩。

Comments 10 pages, 4 figures, 5 tables, accepted at the CVPR 2026 Workshops (NTIRE 2026 Image Shadow Removal Challenge). Code and materials are available at https://github.com/AIT-Assistive-Autonomous-Systems/SGCR-SR . Corrected author name spelling in metadata and manuscript

详情

展开后加载摘要…

URL PDF HTML 收藏