arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-04-22 至 2026-04-22 共收录 327 信号源:cs.CL, cs.AI, cs.LG

1. 预训练与数据 13 篇

2604.19447 2026-04-22 cs.CL 90%

'The Order in the Horse's Heart': A Case Study in LLM-Assisted Stylometry for the Discovery of Biblical Allusion in Modern Literary Fiction

《马的心中秩序》:一项利用LLM辅助的修辞学研究,用于发现现代文学小说中的圣经引用

Ewan Cameron

机构 * Actuarial Mathematics & Statistics, School of Mathematical & Computer Sciences, Heriot-Watt University(精算数学与统计学系,数学与计算机科学学院,赫瑞斯泰大学)

专题命中 预训练与数据 :LLM(title,title_cn);分类 cs.CL

AI总结 本文提出双轨管道检测文学小说中的圣经引用,应用于科马克·麦卡锡的小说。通过LLM辅助的风格学分析,发现349个引用,其中62个被学术文献确认,展示了LLM在风格学分析中的价值。

Comments 39 pages, 1 figure

详情

展开后加载摘要…

URL PDF HTML 收藏
2506.01687 2026-04-22 cs.CL 88%

StochasTok: Improving Fine-Grained Subword Understanding in LLMs

StochasTok:提升大语言模型的细粒度子词理解

Anya Sims, Thom Foster, Klara Kaleb, Tuan-Duy H. Nguyen, Joseph Lee, Jakob N. Foerster, Yee Whye Teh, Cong Lu

机构 * FLAIR, University of Oxford(FLAIR,牛津大学) University of Oxford(牛津大学) National University of Singapore(新加坡国立大学) University of British Columbia(不列颠哥伦比亚大学)

专题命中 预训练与数据 :LLM(summary_cn,abstract_cn);large language model(abstract);language model(abstract);pretraining(abstract)

AI总结 本文提出StochasTok,一种高效的随机分词方法,通过在训练中随机分割token,提升LLM在子词层面的任务表现,包括字符计数和数学任务。

详情

展开后加载摘要…

URL PDF HTML 收藏
2310.11113 2026-04-22 cs.SE 88%

Revisiting Sentiment Analysis for Software Engineering in the Era of Large Language Models

重新审视大规模语言模型时代软件工程中的情感分析

Ting Zhang, Ivana Clairine Irsan, Ferdian Thung, David Lo

专题命中 预训练与数据 :large language model(title,abstract);language model(title,abstract)

AI总结 本文研究了大规模语言模型在解决软件工程任务中标注数据不足问题的效果,比较了大模型与微调小模型在零样本和少样本场景下的表现。

Comments Accepted by ACM Transactions on Software Engineering and Methodology

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.21816 2026-04-22 cs.SE 75%

From Task to Tutorial: An Automated GUI Framework for Excel Tutorial Document and Video Creation

从任务到教程:一种自动化生成Excel教程文档和视频的GUI框架

Yuhang Xie, Jian Mu, Xiaojun Ma, Chaoyun Zhang, Lu Wang, Mengyu Zhou, Mugeng Liu, Si Qin, Qingwei Lin, Saravan Rajmohan, Shi Han, Dongmei Zhang

专题命中 预训练与数据 :LLM(abstract_cn);large language model(abstract);language model(abstract)

AI总结 本文提出首个自动化生成Excel教程的框架,通过自然语言任务描述生成结构化文档和视频,提升教程质量和效率,减少人工劳动。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.19028 2026-04-22 cs.LG 70%

Learning Posterior Predictive Distributions for Node Classification from Synthetic Graph Priors

从合成图先验学习后验预测分布用于节点分类

Jeongwhan Choi, Jongwoo Kim, Woosung Kang, Noseong Park

机构 * KAIST(韩国科学技术院)

专题命中 预训练与数据 :large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文提出NodePFN,通过学习后验预测分布实现对任意图的通用节点分类,无需图特定训练,利用合成图先验生成多样化的图结构和特征-标签关系。

Comments Accepted to ICLR 2026. OpenReview: https://openreview.net/forum?id=FmxRzlu0rT

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.19147 2026-04-22 cs.LG cs.AI 62%

Nexusformer: Nonlinear Attention Expansion for Stable and Inheritable Transformer Scaling

Nexusformer:非线性注意力扩展用于稳定且可继承的Transformer扩展

Weijie Zhao, Mingquan Liu, Bolun Wang, Simo Wu, Nuobei Xie, Rui-Jie Zhu, Peng Zhou

机构 * The School of Computer Science, China University of Geosciences, 388 Lumo Road, Wuhan, 430074, Hubei, China(中国地质大学(北京)计算机科学学院)

专题命中 预训练与数据 :language model(abstract);分类 cs.AI、cs.LG

AI总结 Nexusformer通过非线性映射解决传统Transformer扩展中的线性瓶颈,实现无损结构扩展,实验表明其在语言模型和推理任务中以更低的计算成本达到与Tokenformer相当的性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.19734 2026-04-22 cs.RO cs.AI 57%

UniT: Toward a Unified Physical Language for Human-to-Humanoid Policy Learning and World Modeling

UniT:迈向人类到人形机器人政策学习和世界建模的统一物理语言

Boyu Chen, Yi Chen, Lu Qiu, Jerry Bai, Yuying Ge, Yixiao Ge

机构 * XPENG Robotics(小鹏机器人) Tsinghua University(清华大学) The University of Hong Kong(香港大学)

专题命中 预训练与数据 :foundation model(abstract);分类 cs.AI

AI总结 UniT通过三分支交叉重建机制建立统一物理语言,实现人类到人形机器人的跨身体迁移,提升政策学习和世界建模的效率与鲁棒性。

Comments Project page: https://xpeng-robotics.github.io/unit/

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.19335 2026-04-22 cs.LG 57%

When Active Learning Falls Short: An Empirical Study on Chemical Reaction Extraction

主动学习失效时:化学反应提取的实证研究

Simin Yu, Sufia Fathima

机构 * Otto-von-Guericke University(奥托·冯·格里克大学)

专题命中 预训练与数据 :pretraining(abstract);分类 cs.LG

AI总结 本文通过实证研究探讨主动学习在化学反应提取中的局限性,结合预训练模型与不确定性策略,发现传统方法稳定性受预训练质量、结构化CRF解码和标签稀疏性影响。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.18729 2026-04-22 cs.CL 57%

Investigating Counterfactual Unfairness in LLMs towards Identities through Humor

通过幽默探讨语言模型中身份相关的反事实不公平性

Shubin Kim, Yejin Son, Junyeong Park, Keummin Ka, Seungbeen Lee, Jaeyoung Lee, Hyeju Jang, Alice Oh, Youngjae Yu

机构 * Yonsei University(延世大学) KAIST(韩国科学技术院) Seoul National University(首尔国立大学) Indiana University Indianapolis(印第安纳大学印第安纳波利斯分校)

专题命中 预训练与数据 :language model(abstract);分类 cs.CL

AI总结 本文通过观察在保持其他因素不变的情况下交换说话者和被指对象,研究语言模型在幽默生成拒绝、说话者意图推断及社会影响预测中的反事实不公平性,揭示身份相关的偏见模式。

Comments Accepted to ACL 2026 Main Conference. The first two authors contributed equally. The last three authors are co-corresponding authors

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.17458 2026-04-22 cs.AI 57%

EHRAG: Bridging Semantic Gaps in Lightweight GraphRAG via Hybrid Hypergraph Construction and Retrieval

EHRAG:通过混合超图构建与检索弥合语义鸿沟的轻量级图RAG

Yifan Song, Xingjian Tao, Zhicheng Yang, Yihong Luo, Jing Tang

机构 * The Hong Kong University of Science and Technology (Guangzhou)(香港科学与技术大学(广州)) The Hong Kong University of Science and Technology(香港科学与技术大学)

专题命中 预训练与数据 :LLM(abstract_cn);分类 cs.AI

AI总结 EHRAG通过构建融合结构与语义关系的超图,结合结构-语义混合检索机制,提升轻量级图RAG的语义关联能力,在保持线性索引复杂度的同时优于现有基线模型。

Comments Accepted by Findings of ACL2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2310.10865 2026-04-22 cs.CL 57%

Will the Prince Get True Love's Kiss? On the Model Sensitivity to Gender Perturbation over Fairytale Texts

王子会得到真爱之吻吗?关于童话文本上性别扰动对模型敏感性的研究

Christina Chance, Da Yin, Dakuo Wang, Kai-Wei Chang

机构 * University of California, Los Angeles(加州大学洛杉矶分校) Northeastern University(东北大学)

专题命中 预训练与数据 :language model(abstract);分类 cs.CL

AI总结 本文研究语言模型在理解故事时是否受习得的性别刻板印象影响,通过反事实数据增强探讨模型对性别刻板印象扰动的响应,发现模型在测试集上对性别扰动敏感,但经过反事实训练后更鲁棒。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.18891 2026-04-22 cs.CV 50%

Weakly supervised framework for wildlife detection and counting in challenging Arctic environments: a case study on caribou (Rangifer tarandus)

弱监督框架用于极地环境中的野生动物检测与计数:以驯鹿(Rangifer tarandus)为例

Ghazaleh Serati, Samuel Foucher, Jerome Theau

机构 * Department of Applied Geomatics, Université de Sherbrooke(应用测绘系,谢伯罗克大学) Quebec Centre for Biodiversity Science (QCBS), Stewart Biology, McGill University(魁北克生物多样性科学中心(QCBS)、斯图尔特生物学、麦吉尔大学)

专题命中 预训练与数据 :pretraining(abstract)

AI总结 本文提出弱监督框架用于极地环境中驯鹿的检测与计数,通过预训练提升模型鲁棒性,实现高准确率的检测与计数。

Comments 30 pages, 8 figures, published in Frontiers in Ecology and Evolution

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.16177 2026-04-22 cs.CV 50%

Winner of CVPR2026 NTIRE Challenge on Image Shadow Removal: Semantic and Geometric Guidance for Shadow Removal via Cascaded Refinement

CVPR2026图像阴影去除挑战赛冠军:基于级联细化的语义与几何引导的阴影去除

Lorenzo Beltrame, Jules Salzinger, Filip Svoboda, Jasmin Lampert, Phillipp Fanta-Jende, Radu Timofte, Marco Körner

机构 * Austrian Institute of Technology(奥地利理工学院) Technical University of Munich(慕尼黑技术大学) University of Cambridge(剑桥大学) University of Würzburg(乌尔姆大学)

专题命中 预训练与数据 :pretraining(abstract)

AI总结 本文提出一种三阶段渐进式阴影去除管道,结合冻结的DINOv2语义引导和单目深度及表面法线几何线索,通过级联细化消除残留误差,最终在WSRD+2026测试集上取得最佳成绩。

Comments 10 pages, 4 figures, 5 tables, accepted at the CVPR 2026 Workshops (NTIRE 2026 Image Shadow Removal Challenge). Code and materials are available at https://github.com/AIT-Assistive-Autonomous-Systems/SGCR-SR . Corrected author name spelling in metadata and manuscript

详情

展开后加载摘要…

URL PDF HTML 收藏

2. 指令微调 25 篇

2604.19015 2026-04-22 cs.LG cs.AI 91%

FedProxy: Federated Fine-Tuning of LLMs via Proxy SLMs and Heterogeneity-Aware Fusion

FedProxy:通过代理小型语言模型和异质性感知融合实现联邦微调

Tao Fan, Guoqiang Ma, Yuanfeng Song, Lixin Fan, Kai Chen, Qiang Yang

机构 * Hong Kong University of Science and Technology(香港科技大学) WeBank Co., Ltd(WeBank公司) Hong Kong Polytechnic University(香港理工大学)

专题命中 指令微调 :LLM(summary_cn,abstract);SLM(abstract,abstract_cn);large language model(abstract);language model(abstract)

AI总结 FedProxy通过代理小型语言模型和异质性感知融合解决联邦微调中知识产权保护、隐私安全和性能损失的三重难题,实现高效且高性能的LLM微调。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.19087 2026-04-22 cs.AI 90%

OLLM: Options-based Large Language Models

OLLM:基于选项的大型语言模型

Shashank Sharma, Janina Hoffmann, Vinay Namboodiri

机构 * Department of Computer Science(计算机科学系) University of Bath(巴斯大学) Department of Psychology(心理学系)

专题命中 指令微调 :large language model(title);language model(title);LLM(abstract,abstract_cn);SFT(abstract,abstract_cn)

AI总结 OLLM通过引入学习选项提升语言模型的生成可控性与鲁棒性,利用低维选项空间实现更高效的奖励优化,减少常见对齐问题。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.19321 2026-04-22 cs.LG cs.AI cs.CL cs.CV 90%

RDP LoRA: Geometry-Driven Identification for Parameter-Efficient Adaptation in Large Language Models

RDP LoRA:基于几何的参数高效适应大语言模型的识别

Yusuf Çelebi, Yağız Asker, Özay Ezerceli, Mahmoud ElHussieni, Selva Taş, Reyhan Bayraktar, Fatma Betül Terzioğlu

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract_cn);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出RDP LoRA方法,通过几何轨迹分析确定关键层进行参数高效微调,实现在MMLU-Math上取得优于全层和随机选择的性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.19060 2026-04-22 cs.AI 89%

Reinforcement Learning Improves LLM Accuracy and Reasoning in Disease Classification from Radiology Reports

强化学习提升LLM在放射学报告疾病分类中的准确性和推理能力

Yishu Wei, Yi Lin, Adam Flanders, George Shih, Yifan Peng

机构 * Department of Population Health Sciences, Weill Cornell Medicine, New York, NY(人口健康科学系,韦尔·柯林斯医学中心,纽约,NY) Department of Radiology, Weill Cornell Medicine, New York, NY(放射科,韦尔·柯林斯医学中心,纽约,NY) Department of Radiology, Thomas Jefferson University, Philadelphia, PA(放射科,托马斯·杰斐逊大学,费城,PA)

专题命中 指令微调 :LLM(title,title_cn);SFT(abstract,abstract_cn);分类 cs.AI

AI总结 本文提出两阶段方法,通过监督微调优化疾病标签,再用GRPO提升预测准确性与格式,增强推理能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.19526 2026-04-22 cs.CR cs.LG cs.SE 87%

Evaluating LLM-Generated Obfuscated XSS Payloads for Machine Learning-Based Detection

评估基于大语言模型生成的混淆XSS载荷用于基于机器学习的检测

Divyesh Gabbireddy, Suman Saha

机构 * Department of Computer Science and Engineering(计算机科学与工程系) The Pennsylvania State University(宾夕法尼亚州立大学) University Park, PA, USA(帕克大学,宾夕法尼亚州,美国)

专题命中 指令微调 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文提出了一种生成和评估混淆XSS载荷的结构化流程,结合确定性转换技术与大语言模型生成,通过浏览器运行时评估比较载荷行为,展示生成模型在对抗性安全数据生成中的潜力与局限。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.14164 2026-04-22 cs.CL 87%

How to Fine-Tune a Reasoning Model? A Teacher-Student Cooperation Framework to Synthesize Student-Consistent SFT Data

如何微调一个推理模型?一种教师-学生合作框架来合成学生一致的SFT数据

Zixian Huang, Kaichen Yang, Xu Huang, Feiyang Hao, Qiming Ge, Bowen Li, He Du, Kai Chen, Qipeng Guo

机构 * Shanghai AI Laboratory(上海人工智能实验室) Dalian University of Technology(大连理工大学) Nanjing University(南京大学)

专题命中 指令微调 :SFT(title,title_cn);分类 cs.CL

AI总结 本文提出TESSY框架,通过交替生成风格和非风格标记,解决教师生成数据与学生分布之间的风格差异问题,提升推理模型性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.20279 2026-04-22 cs.CV cs.CL 83%

VLM-3R: Vision-Language Models Augmented with Instruction-Aligned 3D Reconstruction

VLM-3R:融合指令对齐3D重建的视觉-语言模型

Zhiwen Fan, Jian Zhang, Renjie Li, Junge Zhang, Runjin Chen, Hezhen Hu, Kevin Wang, Huaizhi Qu, Shijie Zhou, Dilin Wang, Zhicheng Yan, Hongyu Xu, Justin Theiss, Tianlong Chen, Jiachen Li, Zhengzhong Tu, Zhangyang Wang, Rakesh Ranjan

机构 * UT Austin(德克萨斯大学奥斯汀分校) XMU(厦门大学) TAMU(德克萨斯大学阿灵顿分校) UCR(加州大学河滨分校) UNC(北卡罗来纳大学教堂山分校) Meta UCLA(加州大学洛杉矶分校)

专题命中 指令微调 :language model(title,abstract);instruction tuning(abstract);分类 cs.CL

AI总结 本文提出VLM-3R,通过融合3D重建指令微调,实现单目视频的3D空间辅助与具身推理,提升了视觉-空间推理和时间3D上下文理解的准确性和可扩展性。

Comments Project Page: https://vlm-3r.github.io/

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.19018 2026-04-22 cs.LG cs.AI cs.SY eess.SY math.OC stat.ML 82%

Local Linearity of LLMs Enables Activation Steering via Model-Based Linear Optimal Control

大模型的局部线性性使基于模型的线性最优控制能够实现激活引导

Julian Skifstad, Xinyue Annie Yang, Glen Chou

机构 * Georgia Institute of Technology, Atlanta, GA, USA. Schools of Electrical and Computer Engineering(佐治亚理工学院,亚特兰大,GA,美国。电气与计算机工程学院)

专题命中 指令微调 :LLM(summary_cn,abstract);分类 cs.AI、cs.LG

AI总结 通过利用大模型层间动力学的局部线性特性,本文将LLM推理建模为线性时变动态系统,采用线性二次调节器计算反馈控制器,实现激活的闭环控制,具有低计算开销和无离线训练的优势,同时提供理论误差界保证控制性能。

Comments Under review

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.18936 2026-04-22 cs.LG cs.AI hep-ph hep-th 82%

Fine-Tuning Small Reasoning Models for Quantum Field Theory

对量子场论进行小规模推理模型的微调

Nathaniel S. Woodward, Zhiqi Gao, Yurii Kvasiuk, Kendrick M. Smith, Frederic Sala, Moritz Münchmeyer

机构 * Department of Physics, University of Wisconsin-Madison(威斯康星大学麦迪逊分校物理系) Department of Computer Science, University of Wisconsin-Madison(威斯康星大学麦迪逊分校计算机科学系) Perimeter Institute for Theoretical Physics(理论物理研究所)

专题命中 指令微调 :SFT(abstract,abstract_cn);large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 本文研究了在训练大型语言模型时,领域特定物理推理能力的发展,通过微调小规模推理模型,生成合成问题和人类编写的问题,进行强化学习和监督微调实验,分析推理错误的变化,并公开数据管道和训练数据。

详情

展开后加载摘要…

URL PDF HTML 收藏
2507.09861 2026-04-22 cs.CV cs.AI 81%

A Survey on MLLM-based Visually Rich Document Understanding: Methods, Challenges, and Emerging Trends

基于MLLM的视觉丰富文档理解综述:方法、挑战与新兴趋势

Yihao Ding, Siwen Luo, Yue Dai, Yanbei Jiang, Zechuan Li, Qiang Sun, Geoffrey Martin, Wei Liu, Yifan Peng

机构 * The University of Western Australia(西澳大学) The University of Melbourne(墨尔本大学) Weill Cornell Medicine(韦尔·柯尔医学中心)

专题命中 指令微调 :large language model(abstract);language model(abstract);instruction tuning(abstract);pretraining(abstract)

AI总结 本文综述了基于MLLM的视觉丰富文档理解最新进展,探讨了文本、视觉和布局特征的表示与整合技术,以及预训练、指令微调等训练方法,分析了数据稀缺、多页文档处理等挑战及新兴趋势。

Comments Accepted at ACL 2026 Findings

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.19118 2026-04-22 cs.CR cs.AI 81%

DP-FlogTinyLLM: Differentially private federated log anomaly detection using Tiny LLMs

DP-FlogTinyLLM:基于Tiny LLMs的差分隐私联邦日志异常检测

Isaiah Thompson, Tanmay Sen, Ritwik Bhattacharya

机构 * Department of Mathematical Sciences(数学科学系) SQC & OR Unit(SQC及OR单位) University of Texas at El Paso(德克萨斯大学埃尔帕索分校) Indian Statistical Institute(印度统计研究所)

专题命中 指令微调 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文提出DP-FLogTinyLLM框架,利用参数高效LLMs实现隐私保护的联邦学习,通过差分隐私和LoRA技术在资源受限环境下实现日志异常检测,实验表明其在精度和F1分数上优于现有联邦基线方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.20816 2026-04-22 cs.CL 81%

Rethinking Information Synthesis in Multimodal Question Answering A Multi-Agent Perspective

重新思考多模态问答中的信息合成:多智能体视角

Krishna Singh Rajput, Tejas Anvekar, Chitta Baral, Vivek Gupta

机构 * Arizona State University(亚利桑那州立大学)

专题命中 指令微调 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文提出多智能体框架MAMMQA,通过分解查询、跨模态推理和整合答案,提升多模态问答的准确性和可解释性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.18867 2026-04-22 cs.CV cs.AI cs.LG 81%

Hierarchically Robust Zero-shot Vision-language Models

层次化鲁棒零样本视觉-语言模型

Junhao Dong, Yifei Zhang, Hao Zhu, Yew-Soon Ong, Piotr Koniusz

机构 * Nanyang Technological University(南洋理工大学) CFAR, IHPC, A*STAR(CFAR、IHPC、A*STAR) Northwest Polytechnical University(西北工业大学) Data61 CSIRO University of New South Wales(新南威尔士大学)

专题命中 指令微调 :language model(title,abstract);分类 cs.AI、cs.LG

AI总结 本文提出基于层次嵌入的鲁棒微调框架,提升视觉-语言模型对对抗攻击的鲁棒性,通过多级对抗对齐和层次嵌入深度控制,增强模型泛化能力与语义多样性。

Comments This paper is accepted by CVPR'26

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.19042 2026-04-22 cs.IR 80%

STK-Adapter: Incorporating Evolving Graph and Event Chain for Temporal Knowledge Graph Extrapolation

STK-Adapter:融合演进图与事件链以实现时序知识图谱外推

Shuyuan Zhao, Wei Chen, Weijie Zhang, Xinrui Hou, Junfeng Shen, Boyan Shi, Shengnan Guo, Youfang Lin, Huaiyu Wan

专题命中 指令微调 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract)

AI总结 本文提出STK-Adapter,通过融合演进图与事件链,解决时序知识图谱外推中空间-时间信息丢失和特征稀释问题,提升模型推理能力与泛化能力。

Comments Accepted by ACL 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2507.21954 2026-04-22 cs.SE cs.AI 79%

Fine-Tuning Code Language Models to Detect Cross-Language Bugs

对代码语言模型进行微调以检测跨语言错误

Zengyang Li, Yimeng Li, Binbin Huang, Peng Liang, Ran Mo, Hui Liu, Yutao Ma

机构 * School of Computer Science, Central China Normal University(中央师范大学计算机科学学院) State Key Laboratory for Novel Software Technology, Nanjing University(南京大学新型软件技术国家重点实验室) School of Computer Science, Wuhan University(武汉大学计算机学院) School of Artificial Intelligence and Automation, Huazhong University of Science and Technology(华中科技大学人工智能与自动化学院)

专题命中 指令微调 :language model(title,abstract);分类 cs.AI

AI总结 本文研究预训练代码语言模型在跨语言错误检测中的潜力,开发了CLCFinder工具并构建了包含三种编程语言组合的跨语言错误数据集,通过微调13种CodeLMs发现小模型表现优于大模型,且数据集规模和代码注释对性能影响各异。

Comments Preprint accepted for publication in ACM Transactions on Software Engineering and Methodology (TOSEM), 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.19292 2026-04-22 cs.CL cs.AI 79%

Location Not Found: Exposing Implicit Local and Global Biases in Multilingual LLMs

位置未找到:揭示多语言大语言模型中的隐含本地和全球偏见

Guy Mor-Lan, Omer Goldman, Matan Eyal, Adi Mayrav Gilady, Sivan Eiger, Idan Szpektor, Avinatan Hassidim, Yossi Matias, Reut Tsarfaty

机构 * Google Research(谷歌研究)

专题命中 指令微调 :large language model(abstract);language model(abstract);instruction tuning(abstract);分类 cs.CL、cs.AI

AI总结 本文通过LocQA测试集研究多语言模型的本地和跨语言偏见,发现模型对美国本地信息有全球偏见,并在指令微调模型中更显著,同时在同一种语言内优先考虑人口多的地区。

Comments ACL 2026 main conference

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.19254 2026-04-22 cs.CL cs.AI 79%

ShadowPEFT: Shadow Network for Parameter-Efficient Fine-Tuning

ShadowPEFT:用于参数高效微调的影子网络

Xianming Li, Zongxi Li, Tsz-fung Andrew Lee, Jing Li, Haoran Xie, Qing Li

机构 * COMP, PolyU(PolyU计算机科学系) Division of Artificial Intelligence, Lingnan University(岭南大学人工智能学院)

专题命中 指令微调 :large language model(abstract);language model(abstract);pretraining(abstract);分类 cs.CL、cs.AI

AI总结 ShadowPEFT提出了一种集中化参数高效微调框架,通过共享的影子模块实现层级细化,相比LoRA等方法更高效灵活,实验表明其在参数预算下表现优异。

详情

展开后加载摘要…

URL PDF HTML 收藏