arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-04-27 至 2026-04-27 共收录 11 信号源:cs.CL, cs.AI, cs.LG

1. 指令微调 11 篇

2604.10079 2026-04-27 cs.CL 92%

Why Supervised Fine-Tuning Fails to Learn: A Systematic Study of Incomplete Learning in Large Language Models

为何监督微调失效:对大语言模型中不完全学习现象的系统研究

Chao Xue, Yao Wang, Mengqiao Liu, Di Liang, Xingsheng Han, Peiyang Liu, Xianjie Wu, Chenyao Lu, Lei Jiang, Yu Lu, Haibo Shi, Shuang Liang, Minlong Peng, Flora D. Salim

机构 * University of New South Wales(新南威尔士大学) Tencent Hunyuan(腾讯文言) Tencent Yuanbao(腾讯元宝) UESTC(电子科技大学) Peking University(北京大学)

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract,abstract_cn);SFT(abstract,abstract_cn)

AI总结 本文系统研究了大语言模型微调中不完全学习现象,揭示了五个导致学习不完整的原因,并提出诊断优先框架和缓解策略,证明监督微调的局限性。

Comments Accepted by ACL 2026 Main

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22193 2026-04-27 cs.CL 91%

How Large Language Models Balance Internal Knowledge with User and Document Assertions

大型语言模型如何在内部知识与用户和文档断言之间取得平衡

Shuowei Li, Haoxin Li, Wenda Chu, Yi Fang

机构 * Santa Clara University(圣克拉拉大学) Nanyang Technological University(南洋理工大学) California Institute of Technology(加州理工学院)

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract,abstract_cn);post-training(abstract)

AI总结 本文研究了大型语言模型在处理内部知识与外部信息时的平衡问题,提出三源交互框架,评估27个模型,发现模型更依赖文档断言,且通过微调可提升其区分能力。

Comments Findings of ACL 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.07003 2026-04-27 cs.CL 88%

NiuTrans.LMT: Toward Inclusive and Scalable Multilingual Machine Translation with LLMs

NiuTrans.LMT: 向包容性和可扩展的多语言机器翻译迈进 with LLMs

Yingfeng Luo, Ziqiang Xu, Yuxuan Ouyang, Murun Yang, Dingyang Lin, Kaiyan Chang, Tong Zheng, Bei Li, Peinan Feng, Quan Du, Tong Xiao, Jingbo Zhu

机构 * School of Computer Science and Engineering, Northeastern University, Shenyang, China(东北大学计算机科学与工程学院,中国沈阳) NiuTrans Research, Shenyang, China(牛译研,中国沈阳)

专题命中 指令微调 :prompting(summary_cn,abstract);SFT(abstract,abstract_cn);large language model(abstract);language model(abstract)

AI总结 本文提出NiuTrans.LMT,通过Strategic Downsampling和Parallel Multilingual Prompting缓解多语言监督微调中的方向退化问题,展示其在60种语言234个方向上的竞争力。

Comments Accepted to ACL 2026 Main Conference. Models are available at: https://github.com/NiuTrans/LMT

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22261 2026-04-27 cs.CL 81%

Bridging the Long-Tail Gap: Robust Retrieval-Augmented Relation Completion via Multi-Stage Paraphrase Infusion

弥合长尾差距:通过多阶段 paraphrase 注入实现鲁棒的检索增强关系完成

Fahmida Alam, Mihai Surdeanu, Ellen Riloff

机构 * Department of Computer Science University of Arizona, USA(计算机科学系亚利桑那大学)

专题命中 指令微调 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文提出RC-RAG框架,通过多阶段paraphrase注入提升稀有关系完成性能,无需微调即可在长尾场景下显著提升精确匹配指标。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22127 2026-04-27 cs.CL cs.LG 81%

Where Should LoRA Go? Component-Type Placement in Hybrid Language Models

LoRA应在哪里放置?混合语言模型中的组件类型布局

Hector Borobia, Elies Seguí-Mas, Guillermina Tormo-Carbó

机构 * organization= VRAIN -- Valencian Research Institute for Artificial Intelligence, Universitat Polit\`ecnica de Val\`encia , city= Valencia , country= Spain organization= Department of Economics organization= Department of Business Organisation, Universitat Polit\`ecnica de Val\`encia , city= Valencia , country= Spain

专题命中 指令微调 :language model(title,abstract);分类 cs.CL、cs.LG

AI总结 研究混合语言模型中不同组件类型的LoRA布局,发现注意力路径在参数更少时表现更优,且不同架构对适配响应有显著差异。

Comments 21 pages, 5 figures, 7 tables. Code and data: https://github.com/hecboar/lora-placement-hybrid

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22018 2026-04-27 q-bio.NC cs.AI cs.LG eess.SP 81%

Foundation models for discovering robust biomarkers of neurological disorders from dynamic functional connectivity

用于从动态功能连接中发现神经疾病稳健生物标记物的基础模型

Deepank Girish, Yi Hao Chan, Sukrit Gupta, Jing Xia, Jagath C. Rajapakse

机构 * College of Computing and Data Science, Nanyang Technological University, Singapore(南洋理工大学计算与数据科学学院,新加坡) Department of Biomedical Engineering and the School of Artificial Intelligence and Data Engineering, Indian Institute of Technology Ropar, India(印度理工学院罗帕尔分校生物医学工程系和人工智能与数据工程学院) College of Instrument and Computer Science, Zhejiang University, China(浙江大学仪器与计算机科学学院)

专题命中 指令微调 :foundation model(title,abstract);分类 cs.AI、cs.LG

AI总结 本文提出RE-CONFIRM框架,评估深度学习模型中潜在生物标记物的稳健性,发现传统指标不足,提出Hub-LoRA技术提升模型性能并产生神经生物学忠实的生物标记物。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22215 2026-04-27 cs.CL cs.AI 79%

Verbal Confidence Saturation in 3-9B Open-Weight Instruction-Tuned LLMs: A Pre-Registered Psychometric Validity Screen

3-9B开放权重指令微调LLM中的言语自信饱和:一项预注册的心理计量效度筛查

Jon-Paul Cacioli

机构 * Independent Researcher(独立研究员)

专题命中 指令微调 :LLM(title_cn,abstract_cn);分类 cs.CL、cs.AI

AI总结 研究测试了七种指令微调的开放权重模型在最小数值提示下产生言语化自信是否满足最低效度标准,发现所有模型在数值自信上无效,且类别提示未能恢复效度。

Comments 10 pages, 3 figures, 4 tables, 1 appendix. Pre-registered: osf.io/azbvx. Code and data: github.com/synthiumjp/koriat

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.11157 2026-04-27 cs.CL 72%

Response-Based Knowledge Distillation for Multilingual Jailbreak Prevention Unwittingly Compromises Safety

基于响应的知识蒸馏用于多语言对抗预防无意中削弱了安全性

Max Zhang, Derek Liu, Kai Zhang, Joshua Franco, Haihao Liu

机构 * OpenAI Meta

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.CL;foundation model(comments)

AI总结 本文研究了基于响应的知识蒸馏在多语言对抗预防中的应用,发现标准微调会增加学生模型的对抗成功率,但去除边界拒绝可缓解安全性下降。

Comments 9 pages, Poster presented at Socially Responsible and Trustworthy Foundation Models at NeurIPS 2025 Workshop

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.22560 2026-04-27 cs.CV cs.AI 70%

Cross-Stage Coherence in Hierarchical Driving VQA: Explicit Baselines and Learned Gated Context Projectors

层次驾驶视觉问答中的跨阶段一致性:显式基线与学习门控上下文投影

Gautam Kumar Jain, Carsten Markgraf, Julian Stähler

机构 * Technische Hochschule Augsburg(亚琛工业大学)

专题命中 指令微调 :pretraining(abstract,abstract_cn);分类 cs.AI

AI总结 本文研究了驾驶场景中跨阶段上下文传递的两种方法,显式基线通过无额外训练的4B VLM减少矛盾,隐式基线通过门控投影提升规划阶段语义一致性,两者共同探讨了领域适应在全谱改进中的潜力。

Comments 16 pages, 8 figures, 8 tables, preprint

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.19858 2026-04-27 cs.CV 67%

Wan-Image: Pushing the Boundaries of Generative Visual Intelligence

Wan-Image:推动生成视觉智能的边界

Chaojie Mao, Chen-Wei Xie, Chongyang Zhong, Haoyou Deng, Jiaxing Zhao, Jie Xiao, Jinbo Xing, Jingfeng Zhang, Jingren Zhou, Jingyi Zhang, Jun Dan, Kai Zhu, Kang Zhao, Keyu Yan, Minghui Chen, Pandeng Li, Shuangle Chen, Tong Shen, Yu Liu, Yue Jiang, Yulin Pan, Yuxiang Tuo, Zeyinzi Jiang, Zhen Han, Ang Wang, Bang Zhang, Baole Ai, Bin Wen, Boang Feng, Feiwu Yu, Gang Wang, Haiming Zhao, He Kang, Jianjing Xiang, Jianyuan Zeng, Jinkai Wang, Junjie Zhou, Ke Sun, Linqian Wu, Pei Gong, Pingyu Wu, Ruiwen Wu, Tongtong Su, Wenmeng Zhou, Wenting Shen, Wenyuan Yu, Xianjun Xu, Xiaoming Huang, Xiejie Shen, Xin Xu, Yan Kou, Yangyu Lv, Yifan Zhai, Yitong Huang, Yun Zheng, Yuntao Hong, Zhe Zhang, Zhicheng Zhang

机构 * Wan Team(万团队) Alibaba Group(阿里巴巴集团)

专题命中 指令微调 :large language model(abstract);language model(abstract)

AI总结 Wan-Image通过统一多模态架构和大规模数据训练,实现从随意生成到专业级视觉工具的转变,具备超长文本渲染、多主体身份保持等专业能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.19500 2026-04-27 cs.AI cs.CV cs.GR cs.LG 62%

Teaching an Agent to Sketch One Part at a Time

教代理分步绘制一部分

Xiaodan Du, Ruize Xu, David Yunis, Yael Vinker, Greg Shakhnarovich

机构 * TTI-Chicago(芝加哥大学技术研究所) University of Chicago(芝加哥大学) MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)

专题命中 指令微调 :language model(abstract);分类 cs.AI、cs.LG

AI总结 本文提出一种分步生成矢量草图的方法,通过多轮过程-奖励强化学习训练多模态语言模型代理,利用新数据集ControlSketch-Part实现可解释、可控且局部可编辑的文本到矢量草图生成。

详情

展开后加载摘要…

URL PDF HTML 收藏