arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-03-25 至 2026-03-25 共收录 11 信号源:cs.CL, cs.AI, cs.LG

1. 指令微调 11 篇

2410.12164 2026-03-25 cs.CL cs.DB cs.LG 88%

Table-LLM-Specialist: Language Model Specialists for Tables using Iterative Generator-Validator Fine-tuning

Table-LLM-Specialist: 用于表格任务的语言模型专家使用迭代生成-验证微调

Junjie Xing, Yeye He, Mengyu Zhou, Haoyu Dong, Shi Han, Dongmei Zhang, Surajit Chaudhuri

机构 * University of Michigan(密歇根大学) Microsoft Corporation(微软公司)

专题命中 指令微调 :LLM(title,abstract);language model(title,abstract);分类 cs.CL、cs.LG

AI总结 本文提出Table-LLM-Specialist,通过生成-验证框架实现表格任务的有效微调,无需人工标注数据,提升性能并降低部署成本。

Comments Full version of a paper in EMNLP 2025; code is available at: https://github.com/microsoft/Table-Specialist

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.06501 2026-03-25 cs.SE 87%

Evaluating Language Model Applications for Identifying Solution-Related Content in Issue Report Discussions

评估语言模型在问题报告讨论中识别解决方案相关内容的应用

Antu Saha, Mehedi Sun, Oscar Chaparro

专题命中 指令微调 :language model(title,abstract);LLM(abstract);large language model(abstract);prompting(abstract)

AI总结 本文利用语言模型自动识别问题讨论中的解决方案内容,通过三种应用(嵌入、提示、微调)评估不同分类器性能,发现微调大语言模型效果最佳,且模型迁移能提升其他项目的效果。

Comments 50 pages, 4 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.22287 2026-03-25 cs.CV cs.AI cs.CL 86%

Founder effects shape the evolutionary dynamics of multimodality in open LLM families

奠基效应塑造了开放大语言模型家族中多模态的进化动态

Manuel Cebrian

机构 * Center for Automation and Robotics, Spanish National Research Council, Madrid, Spain(自动化与机器人中心,西班牙国家研究委员会,西班牙马德里)

专题命中 指令微调 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 研究通过分析模型谱系数据,发现多模态能力在开放大语言模型家族中通过罕见的奠基事件进入,并在后代谱系中快速扩展,导致多模态能力的采用动态呈现突变特征。

Comments 7 pages, 4 figures, 2 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2507.03673 2026-03-25 cs.CL cs.AI 79%

TACOS: Open Tagging and Comparative Scoring for Instruction Fine-Tuning Data Selection

TACOS:用于指令微调数据选择的开放标签和比较评分

Xixiang He, Hao Yu, Qiyao Sun, Ao Cheng, Tailai Zhang, Cong Liu, Shuxuan Guo

机构 * National University of Defense Technology(国防科技大学) Intelligent Game and Decision Lab(智能游戏与决策实验室)

专题命中 指令微调 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 TACOS通过开放标签和比较评分方法提升指令微调数据选择的效率与效果,通过开放域标签和去噪处理增强数据多样性,并通过比较评分避免单一标准的不一致性,实验显示其在多个数据集和模型架构上均表现优异。

Journal ref 2025 IEEE International Conference on Multimedia and Expo (ICME)

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.01248 2026-03-25 cs.CV 78%

TRivia: Self-supervised Fine-tuning of Vision-Language Models for Table Recognition

TRivia: 基于视觉-语言模型的自监督微调用于表格识别

Junyuan Zhang, Bin Wang, Qintong Zhang, Fan Wu, Zichen Wen, Jialin Lu, Junjie Shan, Ziqi Zhao, Shuya Yang, Ziling Wang, Ziyang Miao, Huaping Zhong, Yuhang Zang, Xiaoyi Dong, Ka-Ho Chow, Conghui He

机构 * The University of Hong Kong(香港大学) Shanghai AI Laboratory(上海人工智能实验室) Peking University(北京大学) Shanghai Jiaotong University(上海交通大学) Sensetime

专题命中 指令微调 :language model(title,abstract)

AI总结 TRivia通过自监督微调方法,使预训练视觉-语言模型直接从未标注的表格图像中学习表格识别,无需人工标注,提升了表格识别性能。

Comments Accepted by CVPR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.22446 2026-03-25 cs.CL cs.AI cs.LG 75%

Sparse but Critical: A Token-Level Analysis of Distributional Shifts in RLVR Fine-Tuning of LLMs

稀疏但关键:RLVR微调中LLMs分布偏移的token级分析

Haoming Meng, Kexin Huang, Shaohang Wei, Chiyu Ma, Shuo Yang, Xue Wang, Guoyin Wang, Bolin Ding, Jingren Zhou

机构 * Alibaba Group(阿里巴巴集团)

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 研究通过token级分析揭示RLVR微调中分布偏移的机制,发现微调导致稀疏且针对性强的token分布变化,通过交叉采样实验验证了少量token决策对性能提升的关键作用。

Comments Published as a conference paper at the International Conference on Learning Representations (ICLR 2026)

详情

展开后加载摘要…

URL PDF HTML 收藏
2412.08686 2026-03-25 cs.CL cs.CY cs.LG 73%

LatentQA: Teaching LLMs to Decode Activations Into Natural Language

LatentQA: 教授大语言模型将激活解码为自然语言

Alexander Pan, Lijie Chen, Jacob Steinhardt

机构 * UC Berkeley(加州大学伯克利分校)

专题命中 指令微调 :LLM(abstract);language model(abstract);分类 cs.CL、cs.LG

AI总结 本文提出LatentQA任务,通过生成激活与自然语言描述的数据库,训练解码器LLM以回答关于激活的开放性问题,并验证其在阅读任务和行为控制中的优越性。

Comments ICLR 2026; project page at https://latentqa.github.io

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.00333 2026-03-25 cs.LG eess.SP 70%

Two Stage Wireless Federated LoRA Fine-Tuning with Sparsified Orthogonal Updates

双阶段无线联邦LoRA微调与稀疏正交更新

Bumjun Kim, Wan Choi

机构 * Department of Electrical and Computer Engineering, and the Institute of New Media and Communications, Seoul National University (SNU)(电气与计算机工程系,以及新媒体与通讯研究所,首尔国立大学)

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文提出一种双阶段联邦算法,通过稀疏正交微调方法优化学习性能和通信效率,减少通信开销同时保持模型准确性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.22706 2026-03-25 cs.CV cs.SE 67%

How Far Can VLMs Go for Visual Bug Detection? Studying 19,738 Keyframes from 41 Hours of Gameplay Videos

VLMs在视觉缺陷检测中能走多远?研究41小时游戏录像中的19,738个关键帧

Wentao Lu, Alexander Senchenko, Alan Sayle, Abram Hindle, Cor-Paul Bezemer

机构 * University of Alberta(阿尔伯塔大学)

专题命中 指令微调 :language model(abstract);prompting(abstract)

AI总结 研究通过分析41小时游戏录像中的19,738个关键帧,评估VLMs在实际场景中检测视觉缺陷的能力,发现其性能有限,需结合混合方法提升。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.22819 2026-03-25 cs.CV cs.AI 57%

TDATR: Improving End-to-End Table Recognition via Table Detail-Aware Learning and Cell-Level Visual Alignment

TDATR:通过表格细节感知学习和单元级视觉对齐改进端到端表格识别

Chunxia Qin, Chenyu Liu, Pengcheng Xia, Jun Du, Baocai Yin, Bing Yin, Cong Liu

机构 * University of Science and Technology of China(中国科学技术大学) iFLYTEK Research(iFLYTEK研究院)

专题命中 指令微调 :language model(abstract);分类 cs.AI

AI总结 TDATR通过表格细节感知学习和单元级视觉对齐改进端到端表格识别,采用感知-融合策略,提升模型鲁棒性和识别精度,无需数据集特定微调即可在七个基准上取得领先性能。

Comments Acceptd by CVPR 2026. Project Page: https://github.com/Chunchunwumu/TDATR.git

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.23691 2026-03-25 astro-ph.SR 50%

Improved reconstruction of the century-long solar magnetic field by incorporating morphological asymmetry in sunspots

通过引入日珥形态不对称性改进百年太阳磁场重建

Subhadip Pal, Gopal Hazra, Sudip Mandal

专题命中 指令微调 :SFT(abstract)

AI总结 本文改进SFT模型,结合日珥形态不对称性、观测到的倾斜角和日珥面积数据,提高了对太阳磁场特别是极区磁场的重建精度,尤其在预测太阳活动周期方面有显著提升。

Comments 17 pages, 13 figures, accepted for publication in ApJ

详情

展开后加载摘要…

URL PDF HTML 收藏