arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-03-24 至 2026-03-24 共收录 23 信号源:cs.CL, cs.AI, cs.LG

1. 指令微调 23 篇

2603.20206 2026-03-24 cs.CL cs.AI 90%

Enhancing Safety of Large Language Models via Embedding Space Separation

通过嵌入空间分离增强大语言模型的安全性

Xu Zhao, Xiting Wang, Weiran Shen

机构 * Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学首都人工智能学院)

专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract);分类 cs.CL、cs.AI

AI总结 本文提出嵌入空间分离方法,通过扩大有害与安全表示间的距离提升大语言模型安全性,同时保持模型通用能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.21577 2026-03-24 cs.AI 84%

Mind over Space: Can Multimodal Large Language Models Mentally Navigate?

心灵超越空间:多模态大语言模型能否进行心理导航?

Qihui Zhu, Shouwei Ruan, Xiao Yang, Hao Jiang, Yao Huang, Shiji Zhao, Hanwei Fan, Hang Su, Xingxing Wei

机构 * Institute of Artificial Intelligence, Beihang University(北京航空航天大学人工智能研究院) Dept. of Comp. Sci. and Tech., Institute for AI, Tsinghua-Bosch Joint ML Center, THBI Lab, BNRist Center, Tsinghua University(清华大学-博世联合机器学习中心、THBI实验室、BNRist中心、清华大学计算机科学与技术系) School of Automation Science and Electrical Engineering , Beihang University(北京航空航天大学自动化科学与电气工程学院) college of AI, Tsinghua University(清华大学人工智能学院) Department of Computer Science and Technology , Tsinghua University(清华大学计算机科学与技术系)

专题命中 指令微调 :large language model(title);language model(title);分类 cs.AI

AI总结 本文提出Video2Mental基准测试,评估多模态大语言模型的空间导航能力,发现标准预训练模型无法自然生成空间表示,NavMind通过显式认知地图提升导航性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.19299 2026-03-24 cs.LG cs.AI 84%

Open-weight genome language model safeguards: Assessing robustness via adversarial fine-tuning

开放权重基因组语言模型的安全保障:通过对抗性微调评估鲁棒性

James R. M. Black, Moritz S. Hanke, Aaron Maiwald, Tina Hernandez-Boussard, Oliver M. Crook, Jaspreet Pannu

机构 * Center for Health Security(健康安全中心) Johns Hopkins Bloomberg School of Public Health(约翰霍普金斯大学布隆伯格公共卫生学院) Department of Chemistry(化学系) University of Oxford(牛津大学) Stanford University School of Medicine(斯坦福大学医学院) Department of Chemistry & Kavli Institute for Nanoscience Discovery(化学系及卡弗里纳米科学发现研究所)

专题命中 指令微调 :language model(title,abstract);pretraining(abstract);分类 cs.AI、cs.LG

AI总结 研究评估了开放权重基因组语言模型在对抗性微调下的鲁棒性,发现通过微调有害病毒序列可恢复模型的滥用相关能力,强调了需要安全框架以确保模型安全部署。

Comments 39th Conference on Neural Information Processing Systems (NeurIPS 2025) Workshop: Biosecurity Safeguards for Generative AI

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.20939 2026-03-24 cs.CL cs.AI cs.HC cs.IR stat.ML 84%

User Preference Modeling for Conversational LLM Agents: Weak Rewards from Retrieval-Augmented Interaction

用于对话大语言模型代理的用户偏好建模:来自检索增强交互的弱奖励

Yuren Hao, Shuhaib Mehri, ChengXiang Zhai, Dilek Hakkani-Tür

机构 * University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)

专题命中 指令微调 :LLM(title);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 本文提出VARS框架,通过长短期向量表示用户偏好,利用弱奖励在线更新向量,提升交互效率,实验证明其在多会话协作任务中表现优异。

Comments 21 pages including appendices

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.00638 2026-03-24 cs.IR cs.LG 83%

RAIE: Region-Aware Incremental Preference Editing with LoRA for LLM-based Recommendation

RAIE: 基于LoRA的区域感知增量偏好编辑用于基于LLM的推荐系统

Jin Zeng, Yupeng Qi, Hui Li, Chengming Li, Ziyu Lyu, Lixin Cui, Lu Bai

机构 * School of Cyber Science and Technology, Shenzhen Campus of Sun Yat-sen University(中山大学深圳校区计算机科学与技术学院) Department of Computer Science and Technology, Xiamen University(厦门大学计算机科学与技术系) Artificial Intelligence Research Institute, Shenzhen MSU-BIT University(深圳MSU-BIT大学人工智能研究院) School of Information, Central University of Finance and Economics(中央财经大学信息学院) School of Artificial Intelligence, Beijing Normal University(北京师范大学人工智能学院)

专题命中 指令微调 :LLM(title);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文提出RAIE框架,通过区域级更新解决推荐系统中偏好漂移问题,采用LoRA模块实现动态修正,实验表明其在动态推荐场景中具有高准确性和可扩展性。

Comments Published on WWW'26: In Proceedings of the ACM Web Conference 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.05092 2026-03-24 cs.LG cs.AI cs.CL 82%

Learning to Interpret Weight Differences in Language Models

学习解释语言模型中的权重差异

Avichal Goel, Yoon Kim, Nir Shavit, Tony T. Wang

机构 * Massachusetts Institute of Technology(麻省理工学院)

专题命中 指令微调 :language model(title,abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出Diff Interpretation Tuning方法,通过合成标签权重差异训练适配器,使模型能用自然语言描述微调后的修改。

Comments Project code and links to weight diffs, adapters, and training data can be found at https://github.com/Aviously/diff-interpretation-tuning

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.21828 2026-03-24 cs.LG cs.AI 81%

CoRA: Boosting Time Series Foundation Models for Multivariate Forecasting through Correlation-aware Adapter

CoRA: 通过相关性感知适配器提升多变量预测的时序基础模型

Hanyin Cheng, Xingjian Wu, Yang Shu, Zhongwen Rao, Lujia Pan, Bin Yang, Chenjuan Guo

机构 * East China Normal University(东华师范大学) Huawei Noah’s Ark Lab(华为诺亚实验室)

专题命中 指令微调 :foundation model(title,abstract);分类 cs.AI、cs.LG

AI总结 本文提出CoRA,一种轻量级插件式方法,通过捕捉不同类型的相关性提升多变量时间序列预测性能,采用低秩时间变化和时间不变成分分解相关矩阵,并引入双对比学习方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2508.05694 2026-03-24 cs.CR cs.AI cs.CL 81%

DMFI: A Dual-Modality Log Analysis Framework for Insider Threat Detection with LoRA-Tuned Language Models

DMFI: 一种用于内部威胁检测的双模态日志分析框架,结合LoRA微调语言模型

Kaichuan Kong, Dongjie Liu, Xiaobo Jin, Guanggang Geng, Zhiying Li, Jian Weng

机构 * College of Cyber Security, Jinan University, Guangzhou, China(广州大学网络安全学院) School of Advanced Technology, Xi’an Jiaotong-Liverpool University, Suzhou, China(西安交通大学利物浦大学先进技术学院)

专题命中 指令微调 :language model(title);LLM(abstract);分类 cs.CL、cs.AI

AI总结 DMFI通过双模态框架整合语义推理与行为感知微调,利用LoRA增强的语言模型提升日志分析精度,实验表明其在检测准确率上优于现有方法。

Comments This work has been accepted by 2025 IEEE International Conference on Data Mining (ICDM)

详情

展开后加载摘要…

URL PDF HTML 收藏
2406.01914 2026-03-24 cs.CV cs.AI cs.CL 81%

HPE-CogVLM: Advancing Vision Language Models with a Head Pose Grounding Task

HPE-CogVLM: 通过头部姿态接地任务提升视觉语言模型

Yu Tian, Tianqi Shao, Tsukasa Demizu, Xuyang Wu, Hsin-Tai Wu

机构 * Docomo Innovations, Inc.(Docomo创新公司) Department of Computer Science and Engineering, Santa Clara University(圣克拉拉大学计算机科学与工程系)

专题命中 指令微调 :language model(title,abstract);分类 cs.CL、cs.AI

AI总结 本文提出HPE-CogVLM框架,利用VLM的物体检测能力提升头部姿态估计精度,通过改进的LoRA层合并方法,有效解决融合任务中的响应格式问题,实现优于现有方法的性能。

Comments Accepted by IEEE Transactions on Circuits and Systems for Video Technology (TCSVT), 2026. This version includes major updates in methodology and experiments. The final version is available at IEEE Xplore

Journal ref IEEE Transactions on Circuits and Systems for Video Technology, Early Access, 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.16523 2026-03-24 cs.CV cs.AI 79%

TTP: Test-Time Padding for Adversarial Detection and Robust Adaptation on Vision-Language Models

TTP: 视觉-语言模型上的对抗检测与鲁棒适应的测试时填充

Zhiwei Li, Yitian Pang, Weining Wang, Zhenan Sun, Qi Li

机构 * NLPR & MAIS, Institute of Automation, Chinese Academy of Sciences(神经网络与模式识别实验室及自动化研究所,中国科学院) University of Chinese Academy of Sciences(中国科学院大学) Department of Automation, Tsinghua University(清华大学自动化系)

专题命中 指令微调 :language model(title,abstract);分类 cs.AI

AI总结 本文提出TTP框架,通过测试时填充实现对抗检测与鲁棒适应,提升视觉-语言模型在对抗攻击下的鲁棒性而不影响清洁准确性。

Comments Accepted to the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2506.21220 2026-03-24 cs.LG cs.CL 79%

Complexity-aware fine-tuning

基于复杂度的微调

Andrey Goncharov, Daniil Vyazhev, Petr Sychev, Edvard Khalafyan, Alexey Zaytsev

机构 * Applied AI Institute(应用人工智能研究所)

专题命中 指令微调 :large language model(abstract);language model(abstract);SFT(abstract);分类 cs.CL、cs.LG

AI总结 本文提出一种高效微调方法,通过熵识别复杂数据进行推理,使用小模型分割训练数据并提升大模型性能,数据使用减少81%,准确率优于传统SFT和蒸馏方法。

Journal ref 2026.findings-eacl.34

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.21276 2026-03-24 cs.LG cs.AI 79%

Aggregation Alignment for Federated Learning with Mixture-of-Experts under Data Heterogeneity

在数据异质性下基于混合专家的联邦学习聚合对齐

Zihan Fang, Qianru Wang, Haonan An, Zheng Lin, Yiqin Deng, Xianhao Chen, Yuguang Fang

机构 * Hong Kong JC STEM Lab of Smart City(香港JC STEM实验室) Department of Computer Science, City University of Hong Kong(香港城市大学计算机科学系) School of Computer Science and Technology, Xidian University(西安电子科技大学计算机科学与技术学院) Department of Electrical and Computer Engineering, The University of Hong Kong(香港大学电子与计算机工程系)

专题命中 指令微调 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 本文针对联邦学习中混合专家模型因数据异质性导致的聚合挑战,提出FedAlign-MoE框架,通过路由一致性和专家语义对齐提升模型收敛速度和准确性。

Comments 14 pages, 14 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.21418 2026-03-24 cs.CL cs.AI cs.LG 75%

Efficient Fine-Tuning Methods for Portuguese Question Answering: A Comparative Study of PEFT on BERTimbau and Exploratory Evaluation of Generative LLMs

葡萄牙问答任务中高效的微调方法:对BERTimbau的PEFT系统评估及生成LLMs的探索性评估

Mariela M. Nina, Caio Veloso Costa, Lilian Berton, Didier A. Vega-Oliveros

机构 * Institute of Science and Technology(科学技术研究院) Federal University of São Paulo (UNIFESP)(圣保罗联邦大学)

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文比较了PEFT在BERTimbau上的表现,并探索了生成式LLMs在葡萄牙问答任务中的效果,发现PEFT方法在计算成本上更高效,适合可持续发展。

Comments 10 pages, 2 figures, PROPOR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.20383 2026-03-24 cs.CV 71%

Multi-Stage Fine-Tuning of Pathology Foundation Models with Head-Diverse Ensembling for White Blood Cell Classification

多阶段微调病理基础模型与头多样集成用于白血细胞分类

Antony Gitau, Martin Paulson, Bjørn-Jostein Singstad, Karl Thomas Hjelmervik, Ola Marius Lysaker, Veralia Gabriela Sanchez

机构 * University of South-Eastern Norway(东南挪威大学) Vestfold Hospital Trust(维斯特福尔医院信托)

专题命中 指令微调 :foundation model(title)

AI总结 本文提出多阶段微调方法,结合头多样集成,提升白血细胞分类性能,针对不同成熟阶段的粒细胞优化不同分类头,提高分类精度。

Comments Accepted to ISBI 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.13406 2026-03-24 cs.CV cs.AI 70%

Nuanced Emotion Recognition Based on a Segment-based MLLM Framework Leveraging Qwen3-Omni for AH Detection

基于段落式MLLM框架的细致情绪识别:利用Qwen3-Omni进行AH检测

Liang Tang, Hongda Li, Jiayu Zhang, Long Chen, Shuxian Li, Siqi Pei, Tiaonan Duan, Yuhao Cheng

机构 * Qwen3-Omni

专题命中 指令微调 :large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文提出基于段落式MLLM框架的细致情绪识别方法,利用Qwen3-Omni模型在AH检测中实现85.1%的准确率,验证了多模态大语言模型在捕捉复杂情绪冲突中的优势。

Comments 5 pages, 1 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.22169 2026-03-24 cs.CV cs.AI 70%

Real-Time Long Horizon Air Quality Forecasting via Group-Relative Policy Optimization

通过群体相对策略优化实现实时长周期空气质量预报

Inha Kang, Eunki Kim, Wonjeong Ryu, Jaeyo Shin, Seungjun Yu, Yoon-Hee Kang, Seongeun Jeong, Eunhye Kim, Soontae Kim, Hyunjung Shim

机构 * KAIST(韩国科学技术院) Ajou University(全州大学) Kunsan University(全州大学)

专题命中 指令微调 :foundation model(abstract);SFT(abstract);分类 cs.AI

AI总结 本文提出群体相对策略优化方法,解决传统模型在长周期空气质量预报中的误报问题,通过减少误报率提升预报可靠性。

Comments 31 pages

Journal ref CVPR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.10154 2026-03-24 cs.RO 67%

CompassNav: Steering From Path Imitation To Decision Understanding In Navigation

CompassNav: 从路径模仿到决策理解的导航导航

LinFeng Li, Jian Zhao, Yuan Xie, Xin Tan, Xuelong Li

机构 * East China Normal University(东华师范大学) The Institute of Artificial Intelligence (TeleAI), China Telecom(人工智能研究所(TeleAI),中国电信) Northwestern Polytechnical University(西北工业大学)

专题命中 指令微调 :language model(abstract);SFT(abstract)

AI总结 本文提出CompassNav方法,通过引入Compass-Data-22k数据集和gap-aware奖励函数,使导航代理能理解而非单纯模仿路径,实现更高效的导航性能。

Journal ref Proceedings of the 14th International Conference on Learning Representations (ICLR), 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.08713 2026-03-24 cs.CL cs.AI 62%

Automatic Essay Scoring and Feedback Generation in Basque Language Learning

巴斯克语言学习中的自动作文评分与反馈生成

Ekhi Azurmendi, Xabier Arregi, Oier Lopez de Lacalle

专题命中 指令微调 :SFT(abstract);分类 cs.CL、cs.AI

AI总结 本文首次公开了针对巴斯克语C1水平的自动作文评分与反馈生成数据集,通过微调开源模型提升评分与反馈质量,验证了编码器模型的可靠性及监督微调对性能的提升。

Comments Accepted to LREC 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.20217 2026-03-24 cs.CL cs.LG 62%

Expected Reward Prediction, with Applications to Model Routing

预期奖励预测,及其在模型路由中的应用

Kenan Hasanaliyev, Silas Alberti, Jenny Hamer, Dheeraj Rajagopal, Kevin Robinson, Jasper Snoek, Victor Veitch, Alexander Nicholas D'Amour

机构 * Stanford University Inception Labs(斯坦福大学Inception实验室) Stanford University Cognition Labs(斯坦福大学Cognition实验室) Google DeepMind(谷歌DeepMind) University of Chicago(芝加哥大学)

专题命中 指令微调 :LLM(abstract);分类 cs.CL、cs.LG

AI总结 本文研究了基于响应级奖励模型预测模型对特定提示的适应性,提出了一种简单有效的预期奖励预测路由方法,实验证明其在模型路由中的优越性。

Comments ICML 2025 Workshop on Models of Human Feedback for AI Alignment

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.22276 2026-03-24 cs.LG stat.ML 57%

Scaling DoRA: High-Rank Adaptation via Factored Norms and Fused Kernels

DoRA的扩展:通过因子范数和融合内核进行高秩适应

Alexandra Zelenin, Alexandra Zhuravlyova

专题命中 指令微调 :language model(abstract);分类 cs.LG

AI总结 本文提出通过因子范数和融合内核实现高秩适应,减少内存占用并提升计算效率,适用于大规模视觉-语言模型。

Comments 30 pages, 15 figures, 15 tables, including appendices. Code and data at https://github.com/sockeye44/dorafactors

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.01869 2026-03-24 q-fin.CP cs.LG 57%

BondBERT: What we learn when assigning sentiment in the bond market

BondBERT: 在债券市场中进行情感分析时我们学到了什么

Toby Barter, Zheng Gao, Eva Christodoulaki, Jing Chen, John Cartlidge

机构 * School of Engineering Mathematics and Technology, University of Bristol, Bristol, UK(工程数学与技术学院,布里斯托尔大学,布里斯托尔,英国) School of Mathematics, Cardiff University, Cardiff, UK(数学学院,卡迪夫大学,卡迪夫,英国)

专题命中 指令微调 :language model(abstract);分类 cs.LG

AI总结 本文提出BondBERT,一种针对债券市场新闻微调的Transformer模型,用于提供与预测模型集成的情感信号,通过对比实验显示其在预测准确性上优于现有模型。

Comments 8 pages, 3 figures, author manuscript accepted for ICAART 2026: 18th International Conference on Agents and Artificial Intelligence, Mar. 2026, Marbella, Spain

Journal ref 18th International Conference on Agents and Artificial Intelligence (ICAART), Volume 5, Mar. 2026, pp. 4056-4063

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.21386 2026-03-24 cs.CV 50%

Mitigating Objectness Bias and Region-to-Text Misalignment for Open-Vocabulary Panoptic Segmentation

缓解对象性偏差和区域到文本对齐问题以实现开放词汇全景分割

Nikolay Kormushev, Josip Šarić, Matej Kristan

机构 * University of Ljubljana(卢布尔雅那大学) ETH Zurich(苏黎世联邦理工学院) University of Zagreb(扎格reb大学) Faculty of Comp. and Inf. Science(计算机与信息科学系) Dept. of Computer Science(计算机科学系) Faculty of Elec. Eng. and Computing(电子工程与计算科学系)

专题命中 指令微调 :language model(abstract)

AI总结 本文提出OVRCOAT框架,通过CLIP条件对象性调整和开放词汇掩码到文本细化,解决开放词汇全景分割中的对象性偏差和区域对齐问题,提升分割性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.18186 2026-03-24 math.QA hep-th math-ph math.MP math.SG 50%

Open-Closed String Field Theory from Calabi-Yau Categories and its Applications to Enumerative Geometry

从Calabi-Yau范畴出发的开-闭弦场论及其在计数几何中的应用

Jakob Ulmer

专题命中 指令微调 :SFT(abstract)

AI总结 本文通过建立图复形、Calabi-Yau A∞-范畴与Kontsevich的cocycle构造之间的关系,发展了连接计数几何与大N gauge理论的范畴方法,并提出了开-闭弦场论的分类不变量及Twisted Holography的范畴化。

Comments substantial overlap with arXiv:2506.15210 and arXiv:2507.15445

详情

展开后加载摘要…

URL PDF HTML 收藏