arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-04-02 至 2026-04-02 共收录 20 信号源:cs.CL, cs.AI, cs.LG

1. 指令微调 20 篇

2604.00818 2026-04-02 cs.CY 89%

Misconception Acquisition Dynamics in Large Language Models

大语言模型中的误解获取动态

Naiming Liu, Xinghe Chen, Richard Baraniuk, Mrinmaya Sachan, Shashank Sonkar

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);instruction tuning(abstract)

AI总结 研究大语言模型在模拟学生和导师时的误解获取动态,发现学生模型易泛化误解导致解题准确性下降,而导师模型能联合学习多个误解且保持正确性,关键在于推理步骤的监督。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.01152 2026-04-02 cs.CL cs.AI 88%

Brainstacks: Cross-Domain Cognitive Capabilities via Frozen MoE-LoRA Stacks for Continual LLM Learning

Brainstacks:通过冻结MoE-LoRA堆栈实现跨领域认知能力的持续LLM学习

Mohammad R. Abu Ayyash

机构 * Brains Build Research

专题命中 指令微调 :LLM(title);large language model(abstract);language model(abstract);pretraining(abstract)

AI总结 Brainstacks通过冻结MoE-LoRA堆栈实现持续多领域微调,利用残差增强突破单堆栈限制,实现跨领域组合。

Comments 26 pages, 13 figures, 4 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.00304 2026-04-02 cs.CL cs.AI 86%

Asymmetric Actor-Critic for Multi-turn LLM Agents

多轮LLM代理的非对称Actor-Critic

Shuli Jiang, Zhaoyang Zhang, Yi Zhang, Shuo Yang, Wei Xia, Stefano Soatto

机构 * AWS Agentic AI

专题命中 指令微调 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 本文提出非对称Actor-Critic框架,利用专有LLM作为Actor,开源模型作为Critic,提升多轮对话可靠性。实验显示该方法在τ-bench和UserBench上优于单Agent基线,且轻量级Critic表现优异。

Comments 19 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.00342 2026-04-02 cs.LG 86%

Is One Token All It Takes? Graph Pooling Tokens for LLM-based GraphQA

一个token足够吗?基于LLM的图QA的图池化token

Ankit Grover, Lodovico Giaretta, Rémi Bourgerie, Sarunas Girdzijauskas

专题命中 指令微调 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文提出通过多token池化和全局注意力机制改进图与LLM的接口,通过实验表明LoRA可稳定特定层次投影,使压缩表示在WebQSP上达到73%的Hit@1,揭示图QA基准存在表示饱和问题。

Comments Accepted at LREC, KG-LLM Workshop 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.00821 2026-04-02 cs.LG 85%

Optimal Brain Decomposition for Accurate LLM Low-Rank Approximation

用于准确LLM低秩近似的最优脑分解

Yuhang Li, Donghyun Lee, Ruokai Yin, Priyadarshini Panda

机构 * Yale University(耶鲁大学) University of Sounthern California(南加州大学)

专题命中 指令微调 :LLM(title,abstract);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文提出OBD-LLM,通过利用二阶Hessian信息在模型空间中研究分解问题,结合输入输出信息实现更优的低秩近似,比传统方法提升20-40%。

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.19715 2026-04-02 cs.CL cs.AI cs.LG 82%

Graceful Forgetting in Generative Language Models

生成语言模型中的优雅遗忘

Chunyang Jiang, Chi-min Chan, Yiyang Cai, Yulong Liu, Wei Xue, Yike Guo

机构 * Hong Kong University of Science and Technology(香港科技大学)

专题命中 指令微调 :language model(title,abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出Learning With Forgetting框架,通过Fisher信息矩阵评估并周期性删除无关知识,提升生成语言模型的微调性能。

Comments 8 pages, 6 figures. EMNLP 2025

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.00773 2026-04-02 cs.CL 79%

From Baselines to Preferences: A Comparative Study of LoRA/QLoRA and Preference Optimization for Mental Health Text Classification

从基线到偏好:LoRA/QLoRA与偏好优化在心理健康文本分类中的比较研究

Mihael Arcan

机构 * Home Lab

专题命中 指令微调 :preference optimization(title,abstract);分类 cs.CL

AI总结 本文比较了LoRA/QLoRA与偏好优化在心理健康文本分类中的效果,探讨了不同优化策略对性能的影响,揭示了方法选择的重要性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.00661 2026-04-02 astro-ph.GA astro-ph.IM 78%

OJALÁ: Optimizing J-PAS Astronomy for Large-scale Analysis. A foundation model for the SED of galaxies, QSOs and stars

OJALÁ:优化J-PAS天文学以进行大规模分析。一个用于星系、类星体和恒星SED的基础模型

G. Martínez-Solaeche, R. M. González Delgado, R. García-Benito, A. Hernán-Caballero, I. Pérez-Ràfols, L. A. Díaz-García, L. Raul Abramo, J. E. Rodríguez-Martín, A. M. Conrado, I. Breda, H. Domínguez Sánchez, I. Márquez, M. Pieri, D. López-Cano, V. M. Placco, L. Nakazono, A. del Pino, V. Marra, J. Alcaniz, N. Benitez, S. Bonoli, S. Carneiro, A. J. Cenarro, D. Cristóbal-Hornillos, S. Daflon, R. A. Dupke, A. Ederoclite, C. Hernández-Monteagudo, J. Liu, C. López-Sanjuan, A. Marín-Franch, C. Mendes de Oliveira, M. Moles, F. Roig, L. Sodré, K. Taylor, J. Varela, H. Vázquez Ramió, J. M. Vílchez, J. Zaragoza-Cardiel

专题命中 指令微调 :foundation model(title,abstract)

AI总结 本文提出OJALA模型,利用J-PAS的54条窄带与DESI和WISE的宽带数据,通过Transformer架构实现天体分类和物理参数推断,展示其在光谱分类、红移精度、星系物理性质估计等方面的表现。

Comments 23 pages, 13 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.00592 2026-04-02 cs.CV cs.HC 78%

HarassGuard: Detecting Harassment Behaviors in Social Virtual Reality with Vision-Language Models

HarassGuard: 在社交虚拟现实中利用视觉-语言模型检测骚扰行为

Junhee Lee, Minseok Kim, Hwanjo Heo, Seungwon Woo, Jinwoo Kim

机构 * Kwangwoon University(光云大学) ETRI(韩国电子通信研究院) Chungbuk National University(忠北大学)

专题命中 指令微调 :language model(title,abstract)

AI总结 本文提出HarassGuard系统,通过视觉输入检测社交VR中的身体骚扰行为,利用提示工程和微调VLMs,在不使用敏感生物数据的情况下实现高准确率的骚扰检测。

Comments To appear in the 2026 TVCG Special Issue on the 2026 IEEE Conference on Virtual Reality and 3D User Interfaces (VR)

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.04636 2026-04-02 cs.AI 77%

When Agents Persuade: Rhetoric Generation and Mitigation in LLMs

当代理体说服:大语言模型中的修辞生成与缓解

Julia Jose, Ritik Roongta, Rachel Greenstadt

机构 * New York University(纽约大学)

专题命中 指令微调 :LLM(abstract);SFT(abstract);preference optimization(abstract);分类 cs.AI

AI总结 研究探讨大语言模型在被提示生成宣传内容时的表现,通过专门模型分析其修辞手法,并发现通过监督微调等方法可有效减少此类内容生成。

Comments Accepted to the ICLR 2026 Workshop on Agents in the Wild (AgentWild). 20 pages including appendix, 3 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.17870 2026-04-02 cs.CL 77%

Just as Humans Need Vaccines, So Do Models: Model Immunization to Combat Falsehoods

正如人类需要疫苗,模型也需要:模型免疫化以对抗虚假信息

Shaina Raza, Rizwan Qureshi, Azib Farooq, Marcelo Lotif, Aman Chadha, Deval Pandya, Christos Emmanouilidis

机构 * Vector Institute(向量研究所) University of Central Florida(中佛罗里达大学) University of Cincinnati(辛辛那提大学) Independent Researcher(独立研究员) University of Groningen(格罗宁根大学)

专题命中 指令微调 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文提出模型免疫化方法,通过在训练中加入精心挑选的(错误陈述,纠正)对,以直接监督虚假信息,提升模型在TruthfulQA上的准确性并提高对抗虚假信息的能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2503.02976 2026-04-02 cs.AI 77%

Teaching AI to Handle Exceptions: Supervised Fine-Tuning with Human-Aligned Judgment

教AI处理例外:基于人类对齐判断的监督微调

Matthew DosSantos DiSorbo, Harang Ju, Sinan Aral

机构 * Harvard Business School(哈佛商学院) Johns Hopkins University(约翰霍普金斯大学) MIT Sloan School of Management(麻省理工学院斯隆管理学院)

专题命中 指令微调 :large language model(abstract);language model(abstract);prompting(abstract);分类 cs.AI

AI总结 研究探讨了如何通过监督微调使AI处理例外,发现使用人类解释的微调能显著提升模型决策能力,揭示了对齐人类判断需明确训练决策过程而非仅决策结果。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.00923 2026-04-02 cs.CL 70%

Positional Cognitive Specialization: Where Do LLMs Learn To Comprehend and Speak Your Language?

位置认知专精:大型语言模型如何学习理解和说出你的语言?

Luis Frentzen Salim, Lun-Wei Ku, Hsing-Kuo Kenneth Pao

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.CL

AI总结 研究通过实验揭示语言模型在不同区域发展语言感知与产出专精机制,提出CogSym方法实现高效适应,提升多语言任务性能。

Comments Accepted to AAAI26 Main

详情

展开后加载摘要…

URL PDF HTML 收藏
2506.19846 2026-04-02 cs.AI 70%

HiMA-Ecom: Enabling Joint Training of Hierarchical Multi-Agent E-commerce Assistants

HiMA-Ecom:面向电商场景的分层多智能体助手联合训练

Junxing Hu, Ai Han, Haolan Zhan, Pu Wei, Zhiqian Zhang, Yuhang Guo, Jiawei Lu, Zhen Chen, Haoran Li, Zicheng Zhang

机构 * JD Retail, JD.com, Inc.(京东零售,京东集团) Faculty of Engineering and Information Technology, The University of Melbourne(墨尔本大学工程与信息技术学院) School of Mathematical Sciences, University of Chinese Academy of Sciences(中国科学院大学数学科学学院)

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文提出HiMA-Ecom电商多智能体基准,通过VR-GRPO算法实现多智能体联合训练,基于3B/7B开源模型在电商场景中取得优于DeepSeek-V3的性能。

Comments 39 pages, 10 figures, under review

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.00404 2026-04-02 cs.CV 67%

The 1st Winner for 5th PVUW MeViS-Text Challenge: Strong MLLMs Meet SAM3 for Referring Video Object Segmentation

第五届PVUW MeViS-Text挑战赛第一名:强多模态大语言模型与SAM3的结合用于指代视频对象分割

Xusheng He, Canyang Wu, Jinrong Zhang, Weili Guan, Jianlong Wu, Liqiang Nie

机构 * Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳)) Shenzhen Loop Area Institute(深圳河套学院)

专题命中 指令微调 :large language model(abstract);language model(abstract)

AI总结 本文提出一种无需微调的管道,结合强多模态大语言模型与SAM3,实现视频对象分割,取得PVUW 2026 MeViS-Text测试集第一名,得分为0.909064。

Comments 1st Place Solution for the 5th PVUW MeViS-Text Challenge (CVPR 2026 Workshop)

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.03992 2026-04-02 cs.IR 67%

Nemotron ColEmbed V2: Top-Performing Late Interaction Embedding Models for Visual Document Retrieval

Nemotron ColEmbed V2:视觉文档检索中表现优异的后期交互嵌入模型

Gabriel de Souza P. Moreira, Ronay Ak, Mengyao Xu, Oliver Holworthy, Benedikt Schifferer, Zhiding Yu, Yauhen Babakhin, Radek Osmulski, Jiarui Cai, Ryan Chesler, Bo Liu, Even Oldridge

专题命中 指令微调 :language model(abstract);post-training(abstract)

AI总结 本文提出Nemotron ColEmbed V2模型,通过集群采样、硬负样本挖掘等技术,在ViDoRe基准上实现最佳性能,展示了低维嵌入在准确率与存储间的平衡实验。

Comments Proceedings of the 1st Late Interaction Workshop (LIR) @ ECIR 2026, April 02, 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.01118 2026-04-02 cs.CV cs.AI cs.LG 62%

Lightweight Prompt-Guided CLIP Adaptation for Monocular Depth Estimation

轻量级提示引导的CLIP适应用于单目深度估计

Reyhaneh Ahani Manghotay, Jie Liang

机构 * School of Engineering Science, Simon Fraser University(西蒙弗雷泽大学工程科学学院) School of Information Science and Technology, Eastern Institute of Technology(东方理工学院信息科学与技术学院)

专题命中 指令微调 :language model(abstract);分类 cs.AI、cs.LG

AI总结 本文提出MoA-DepthCLIP框架,通过轻量级MoA模块和选择性微调提升单目深度估计的精度与效率,优于基线模型。

Comments 14 pages, 2 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.00072 2026-04-02 cs.LG cs.AI stat.ML 62%

Empirical Validation of the Classification-Verification Dichotomy for AI Safety Gates

对AI安全闸门中分类-验证二元对立的实证验证

Arsenios Scrivens

专题命中 指令微调 :LLM(abstract);分类 cs.AI、cs.LG

AI总结 研究通过实证表明,基于分类器的安全闸门在AI系统经过数百次迭代后无法维持可靠监管,且结构上无法实现。

Comments 21 pages, 9 figures. Companion theory paper: doi:10.5281/zenodo.19237451

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.00027 2026-04-02 cs.CL cs.LG 62%

Multi-lingual Multi-institutional Electronic Health Record based Predictive Model

多语言多机构电子健康记录基于预测模型

Kyunghoon Hur, Heeyoung Kwak, Jinsu Jang, Nakhwan Kim, Edward Choi

机构 * Kim Jaechul Graduate School of AI, Korea Advanced Institute of Science and Technology(韩国科学技术院金载哲人工智能研究生院) NAVER Digital Healthcare LAB(NAVER数字医疗实验室) Department of Health and Medical Information, Ansan University(安山大学健康与医疗信息系) Institute of Human Behavior and Genetics, Korea University College of Medicine(高丽大学医学院人类行为与遗传研究所)

专题命中 指令微调 :LLM(abstract);分类 cs.CL、cs.LG

AI总结 本文提出多语言多机构学习方法,通过文本对齐实现跨国ICU数据集的联合训练,优于多语言编码器和翻译方法,提升临床预测性能。

Comments On revision stage, 10 main pages, 3 supplementary pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.00279 2026-04-02 cs.CV cs.AI 57%

The Geometry of Compromise: Unlocking Generative Capabilities via Controllable Modality Alignment

妥协的几何学:通过可控的模态对齐解锁生成能力

Hongyuan Liu, Qinli Yang, Wen Li, Zhong Zhang, Jiaming Liu, Wei Han, Zhili Qin, Jinxia Guo, Junming Shao

机构 * University of Electronic Science and Technology of China(电子科技大学) University of Bristol(布里斯托大学)

专题命中 指令微调 :language model(abstract);分类 cs.AI

AI总结 本文通过几何分析揭示模态间隙的两个组成部分,提出TPC-CMA框架以减少两者,显著提升跨模态对齐性能,实验显示在不同目标α下模态间隙大幅降低,同时保持高准确性。

详情

展开后加载摘要…

URL PDF HTML 收藏