arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-03-06 至 2026-03-06 共收录 12 信号源:cs.CL, cs.AI, cs.LG

1. 指令微调 12 篇

2603.04453 2026-03-06 cs.CL cs.AI cs.LG 89%

Induced Numerical Instability: Hidden Costs in Multimodal Large Language Models

诱导的数值不稳定性:多模态大语言模型中的隐藏成本

Wai Tuck Wong, Jun Sun, Arunesh Sinha

机构 * School of Computing(计算学院) Information Systems, Singapore Management University, Singapore(信息系统,新加坡管理大学,新加坡) Information Systems Department, Rutgers Business School, New Jersey, USA(信息系统系,罗格斯商学院,新泽西,美国)

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 研究揭示多模态大语言模型在推理阶段因优化数值不稳定性导致性能退化的新故障模式。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.04707 2026-03-06 cs.CL cs.AI 88%

Detection of Illicit Content on Online Marketplaces using Large Language Models

利用大语言模型检测在线市场上的非法内容

Quoc Khoa Tran, Thanh Thi Nguyen, Campbell Wilson

机构 * AiLECS Lab Monash University(AiLECS实验室 莫纳什大学)

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.AI

AI总结 本文研究了利用大语言模型检测在线市场非法内容的有效性,发现LLM在复杂分类任务中表现优于传统方法。

Comments Accepted for publication in the Proceedings of the 8th International Conference on Natural Language Processing (ICNLP 2026)

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.14858 2026-03-06 astro-ph.HE astro-ph.IM 88%

Large Language Model-driven Analysis of General Coordinates Network (GCN) Circulars

基于大语言模型的通用坐标网络(GCN)圆周分析

Vidushi Sharma, Ronit Agarwala, Judith L. Racusin, Leo P. Singer, Tyler Barna, Eric Burns, Michael W. Coughlin, Dakota Dutko, Courey Elliott, Rahul Gupta, Ashish Mahabal, Nikhil Mukund

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract)

AI总结 本文利用大语言模型自动解析GCN圆周,实现暂现体观测信息的高效提取与分类,准确率达97.2%。

Comments 21 pages, 11 figures, 7 tables. Published in ApJS

Journal ref The Astrophysical Journal Supplement Series, 2026, Volume 283, Number 1, Pages 30

详情

展开后加载摘要…

URL PDF HTML 收藏
2506.23508 2026-03-06 cs.CL cs.AI 85%

Why Reinforcement Fine-Tuning Enables MLLMs Preserve Prior Knowledge Better: A Data Perspective

为何强化微调能更好地使大语言模型保留先验知识:从数据角度出发

Zhihao Zhang, Qiaole Dong, Qi Zhang, Jun Zhao, Enyu Zhou, Zhiheng Xi, Senjie Jin, Xiaoran Fan, Yuhao Zhou, Mingqi Wu, Yanwei Fu, Tao Ji, Tao Gui, Xuanjing Huang, Kai Chen

机构 * Fudan University(复旦大学) Shanghai Artificial Intelligence Laboratory(上海人工智能实验室) Shanghai Collaborative Innovation Center of Intelligent Visual Computing(上海智能视觉计算协同创新中心)

专题命中 指令微调 :large language model(abstract);language model(abstract);pretraining(abstract);post-training(abstract)

AI总结 本文通过数据视角揭示强化微调(RFT)相较于监督微调(SFT)在保留大语言模型先验知识方面的优势,发现RFT通过强化正确样本与基模型对齐,有效减少对先验知识的干扰。

Comments Accepted by ICLR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.05087 2026-03-06 cs.DC 85%

PromptTuner: SLO-Aware Elastic System for LLM Prompt Tuning

PromptTuner: 为LLM提示调优设计的SLO感知弹性系统

Wei Gao, Peng Sun, Dmitrii Ustiugov, Tianwei Zhang, Yonggang Wen

专题命中 指令微调 :LLM(title,abstract);large language model(abstract);language model(abstract)

AI总结 PromptTuner通过设计提示库和工作负载调度器,优化LLM提示调优的SLO目标,显著降低违规率和成本。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.04857 2026-03-06 cs.CL cs.SE 79%

FireBench: Evaluating Instruction Following in Enterprise and API-Driven LLM Applications

FireBench: 评估企业及 API 驱动的 LLM 应用中的指令遵循

Yunfan Zhang, Yijie Bei, Jetashree Ravi, Pawel Garbacki

机构 * Columbia University(哥伦比亚大学) Fireworks AI

专题命中 指令微调 :LLM(title,abstract);分类 cs.CL

AI总结 FireBench 是一个评估企业及 API 驱动 LLM 应用中指令遵循能力的基准测试,通过 2400 个样本评估六个核心能力维度,评估 11 个 LLM 的表现。

详情

展开后加载摘要…

URL PDF HTML 收藏
2501.18864 2026-03-06 cs.CV 78%

Flatness Guided Test-Time Adaptation for Vision-Language Models

基于平坦度引导的视觉-语言模型测试时适应

Aodi Li, Liansheng Zhuang, Xiao Long, Houqiang Li, Shafei Wang

机构 * School of Cyber Science and Technology, University of Science and Technology of China(中国科学技术大学网络科学与技术学院) National Engineering Laboratory for Brain-Inspired Intelligence Technology and Applications, University of Science and Technology of China(中国科学技术大学脑启发式智能技术与应用国家工程实验室) Peng Cheng Laboratory, Shenzhen, China(深圳鹏城实验室)

专题命中 指令微调 :language model(title,abstract)

AI总结 本文提出基于平坦度引导的视觉-语言模型测试时适应框架,通过训练时的平坦最小值与测试时损失景观的对齐,提升模型在分布偏移下的适应性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.04772 2026-03-06 cs.CL cs.AI 73%

TSEmbed: Unlocking Task Scaling in Universal Multimodal Embeddings

TSEmbed: 解锁通用多模态嵌入中的任务扩展

Yebo Wu, Feng Liu, Ziwei Xie, Zhiyuan Liu, Changwang Zhang, Jun Wang, Li Li

机构 * State Key Laboratory of IOTSC, University of Macau(物联网科学与技术国家重点实验室,澳门大学) OPPO Research Institute(OPPO研究院)

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 TSEmbed通过融合MoE与LoRA,结合专家感知负采样策略,提升通用多模态嵌入的任务扩展能力,并在基准和工业数据集上取得最佳性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.04436 2026-03-06 cs.LG cs.AI 73%

ZorBA: Zeroth-order Federated Fine-tuning of LLMs with Heterogeneous Block Activation

ZorBA: 零阶联邦微调LLM的异构块激活

Chuiyang Meng, Ming Tang, Vincent W. S. Wong

机构 * Department of Electrical and Computer Engineering, The University of British Columbia, Vancouver, Canada(电气与计算机工程系,不列颠哥伦比亚大学) Department of Computer Science and Engineering, Southern University of Science and Technology, China(计算机科学与工程系,南方科技大学)

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 ZorBA通过异构块激活和零阶优化,有效降低LLM联邦微调的VRAM使用和通信开销。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.04868 2026-03-06 cs.AI 70%

K-Gen: A Multimodal Language-Conditioned Approach for Interpretable Keypoint-Guided Trajectory Generation

K-Gen:一种多模态语言条件方法用于可解释的关键点引导轨迹生成

Mingxuan Mu, Guo Yang, Lei Chen, Ping Wu, Jianxun Cui

机构 * Harbin Institute of Technology Chongqing Research Inst. of HIT(哈尔滨工业大学重庆研究院) Changan Automobile Co., Ltd Chongqing, China(长安汽车有限公司重庆)

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.AI

AI总结 K-Gen通过多模态语言模型结合关键点引导方法,提升自动驾驶轨迹生成的可解释性和准确性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.01223 2026-03-06 cs.LG cs.CL 62%

Learn Hard Problems During RL with Reference Guided Fine-tuning

在强化学习中学习难题问题:基于参考的微调

Yangzhen Wu, Shanda Li, Zixin Wen, Xin Zhou, Ameet Talwalkar, Yiming Yang, Wenhao Huang, Tianle Cai

机构 * Carnegie Mellon University(卡内基梅隆大学)

专题命中 指令微调 :LLM(abstract);分类 cs.CL、cs.LG

AI总结 ReGFT通过利用人类参考解决方案合成积极轨迹,提升RL在数学推理中的性能和训练效率。

Comments 15 pages, 5 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.04405 2026-03-06 cs.CV cs.AI cs.LG 62%

Lost in Translation: How Language Re-Aligns Vision for Cross-Species Pathology

迷失在翻译中:语言如何重新对齐视觉以实现跨物种病理学

Ekansh Arora

机构 * Thomas Jefferson High School for Science and Technology(泰勒斯·杰弗里斯高中科学与技术学校)

专题命中 指令微调 :foundation model(abstract);分类 cs.AI、cs.LG

AI总结 本研究通过引入语义锚定机制,利用语言对齐解决跨物种病理学中的视觉-语言对齐问题,提升模型在跨物种任务中的性能。

Comments 27 pages, 6 figures, 7 tables. Code and data available at https://github.com/ekansh-arora0/cross-species-pathology

详情

展开后加载摘要…

URL PDF HTML 收藏