语言大模型 / LLM

CoVFT: Context-aware Visual Fine-tuning for Multimodal Large Language Models

CoVFT：面向多模态大语言模型的上下文感知视觉微调

Nan Zhou, Huiqun Wang, Yaoyan Zheng, Di Huang

机构 * State Key Laboratory of Complex and Critical Software Environment, Beihang University（北京航空航天大学复杂关键软件环境国家重点实验室） ； School of Computer Science and Engineering, Beihang University（北京航空航天大学计算机科学与工程学院） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)

AI总结 本文提出CoVFT框架，通过整合上下文向量提取和上下文混合专家模块，解决多模态任务中视觉微调的不稳定性问题，实现更稳定的视觉更新。

Comments Accepted by CVPR 2026

Aligning LLMs with Biomedical Knowledge using Balanced Fine-Tuning

通过平衡微调对齐大语言模型与生物医学知识

Zhenchao Tang, Fang Wang, Haohuai He, Jiale Zhou, Tianxu Lv, Jun Zhu, Shouzhi Chen, Minghao Yang, Yu Wang, Jiayang Wu, Yidong Song, Yaokun Li, Jiehui Huang, Dawei Huang, Zhi Song, Jianhua Yao

机构 * Tencent AI for Life Sciences Lab（腾讯AI生命科学实验室） ； Sun Yat-sen University（中山大学） ； The Hong Kong Polytechnic University（香港理工大学） ； Westlake University（西湖大学） ； The Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；foundation model(abstract)

AI总结 本文提出平衡微调方法，通过双尺度后训练技术提升大语言模型对生物医学知识的理解与生成能力，实验表明其在医疗和生物学推理任务中优于传统方法。

GazeQwen: Lightweight Gaze-Conditioned LLM Modulation for Streaming Video Understanding

GazeQwen: 轻量级 gaze-条件 LLM 调制用于流视频理解

Trong Thang Pham, Hien Nguyen, Ngan Le

机构 * University of Arkansas（阿肯色大学） ； University of Houston（休斯顿大学） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 GazeQwen 通过隐藏状态调制使开源 MLLM 获得 gaze 意识，采用紧凑的 gaze resampler 和可选 LoRA 调整，在 StreamGaze 基准上达到 63.9% 准确率，优于其他模型。

mSFT: Addressing Dataset Mixtures Overfitting Heterogeneously in Multi-task SFT

mSFT：在多任务SFT中异质性地解决数据混合过拟合问题

Woosung Koh, Jeyoung Jeon, Youngjin Song, Yujin Cheon, Soowon Oh, Jaehyeong Choi, Se-Young Yun

机构 * KAIST AI（韩国科学技术院人工智能系） ； Yonsei University（延世大学） ； Samsung Advanced Institute of Technology（三星高级技术研究所） 纠错

专题命中 指令微调 ：SFT(title,abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 mSFT通过迭代和过拟合感知的搜索算法，解决多任务数据混合中的过拟合问题，优于四个基线方法，在十个基准和六个基模型上表现优异，且在不同数据规模和任务粒度下保持鲁棒性。

Comments Pre-print (newer versions are minor edits)

VLA-OPD: Bridging Offline SFT and Online RL for Vision-Language-Action Models via On-Policy Distillation

VLA-OPD: 通过在线策略蒸馏连接离线SFT与在线RL以构建视觉-语言-动作模型

Zhide Zhong, Haodong Yan, Junfeng Li, Junjie He, Tianran Zhang, Haoang Li

专题命中 指令微调 ：SFT(title,abstract)；post-training(abstract)

AI总结 本文提出VLA-OPD框架，通过在线策略蒸馏结合离线SFT与在线RL，解决预训练模型在部署中的分布偏移和灾难性遗忘问题，提升样本效率与鲁棒性。

Local Precise Refinement: A Dual-Gated Mixture-of-Experts for Enhancing Foundation Model Generalization against Spectral Shifts

局部精确细化：一种双门控专家混合模型用于增强对抗光谱偏移的基础模型泛化能力

Xi Chen, Maojun Zhang, Yu Liu, Shen Yan

机构 * National University of Defense Technology（国防科技大学） 纠错

专题命中 指令微调 ：foundation model(title,abstract)

AI总结 本文提出SpectralMoE，通过双门控专家混合模型实现基础模型的局部精确细化，以提升光谱偏移下的语义分割性能，实验表明其在多个基准上达到新状态。

Mitigating the Reasoning Tax in Vision-Language Fine-Tuning with Input-Adaptive Depth Aggregation

通过输入自适应深度聚合缓解视觉语言微调中的推理税

Yiming Ren, Yujiu Yang, Junjie Wang

机构 * Tsinghua University（清华大学） 纠错

专题命中 指令微调 ：language model(abstract)；post-training(abstract)；SFT(abstract)；分类 cs.AI

AI总结 本文提出IADA机制，通过输入自适应的跨深度检索提升视觉语言模型的推理能力，实验表明其在参数效率方面优于LoRA微调。

Learning Rollout from Sampling:An R1-Style Tokenized Traffic Simulation Model

从采样中学习：一种R1风格的分词交通仿真模型

Ziyan Wang, Peng Chen, Ding Li, Chiwei Li, Qichao Zhang, Zhongpu Xia, Guizhen Yu

机构 * State Key Laboratory of Intelligent Transportation System, Key Laboratory of Autonomous Transportation Technology for Special Vehicles, Ministry of Industry and Information Technology, School of Transportation Science and Engineering, Beihang University（北京航空航天大学交通科学与工程学院，智能交通系统国家重点实验室，特种车辆自主运输技术重点实验室（工业和信息化部）） ； State Key Laboratory of Multimodal Artificial Intelligence Systems, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所，多模态人工智能系统国家重点实验室） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.AI

AI总结 本文提出R1Sim模型，通过分词交通仿真结合熵引导采样和GRPO优化，实现探索与利用的平衡，生成真实安全的多智能体行为。

FairLLaVA: Fairness-Aware Parameter-Efficient Fine-Tuning for Large Vision-Language Assistants

FairLLaVA: 大规模视觉-语言助手中的公平性感知参数高效微调

Mahesh Bhosale, Abdul Wasi, Shantam Srivastava, Shifa Latif, Tianyu Luan, Mingchen Gao, David Doermann, Xuan Gong

机构 * University at Buffalo（布法罗大学） ； University of Kashmir（克什米尔大学） ； Accenture（埃森哲） ； Harvard Medical School（哈佛医学院） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；instruction tuning(abstract)；分类 cs.AI

AI总结 FairLLaVA通过减少目标属性间的互信息，实现视觉指令微调中的公平性改进，提升医疗影像生成的公平性和自然语言生成质量。

Comments Accepted to CVPR 2026

DiReCT: Disentangled Regularization of Contrastive Trajectories for Physics-Refined Video Generation

DiReCT：对比轨迹解耦的对比正则化用于物理精细视频生成

Abolfazl Meyarian, Amin Karimi Monsefi, Rajiv Ramnath, Ser-Nam Lim

机构 * Path Robotics ； The Ohio State University（俄亥俄州立大学） ； University of Central Florida（中佛罗里达大学） 纠错

专题命中 指令微调 ：LLM(abstract)；post-training(abstract)；SFT(abstract)；分类 cs.AI

AI总结 本文提出DiReCT方法，通过解耦对比轨迹正则化提升物理精细视频生成的物理合理性，改进VideoPhy的物理常识评分。

Facet-Level Persona Control by Trait-Activated Routing with Contrastive SAE for Role-Playing LLMs

通过对比稀疏自编码器的特质激活路由实现面向级人格控制

Wenqiu Tang, Zhen Wan, Takahiro Komamizu, Ichiro Ide

机构 * Nagoya University（名古屋大学） ； Kyoto University（京都大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.CL

AI总结 本文提出一种基于对比稀疏自编码器的特质激活路由框架，用于角色扮演大语言模型的人格控制，通过构建平衡监督的语料库，实现稳定的人格表现和输出质量。

Comments Accepted in PAKDD 2026 special session on Data Science :Foundation and Applications

Protecting User Prompts Via Character-Level Differential Privacy

通过字符级差分隐私保护用户提示

Shashie Dilhara Batan Arachchige, Hassan Jameel Asghar, Benjamin Zi Hao Zhao, Dinusha Vatsalan, Dali Kaafar

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出一种基于差分隐私的字符级扰动方法，用于保护用户提示中的敏感信息，通过远程LLM恢复非敏感词并完成下游任务，实验显示其在隐私与效用之间取得良好平衡。

Label-Free Cross-Task LoRA Merging with Null-Space Compression

无标签跨任务LoRA融合与空域压缩

Wonyoung Lee, Wooseong Jeong, Kuk-Jin Yoon

机构 * KAIST（韩国科学技术院） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出无标签的NSC融合方法，通过适配器几何设置合并权重，实现跨分类、回归和序列生成任务的高效融合，优于现有方法。

Comments Accepted at CVPR 2026

From Pen to Pixel: Translating Hand-Drawn Plots into Graphical APIs via a Novel Benchmark and Efficient Adapter

从笔到像素：通过新的基准和高效的适配器将手绘图表转化为图形API

Zhenghao Xu, Mengning Yang

机构 * School of Big Data & Software Engineering, Chongqing University（重庆大学大数据与软件学院） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)

AI总结 本文提出HDpy-13数据集和Plot-Adapter方法，解决手绘图表转化为图形API的难题，提升非专家用户生成图表的能力。

A Comprehensive Evaluation of Parameter-Efficient Fine-Tuning on Code Smell Detection

对代码异味检测中参数高效微调的全面评估

Beiqi Zhang, Peng Liang, Xin Zhou, Xiyu Zhou, David Lo, Qiong Feng, Zengyang Li, Lin Li

专题命中 指令微调 ：large language model(abstract)；language model(abstract)

AI总结 本文通过构建高质量基准并评估四种参数高效微调方法，证明其在代码异味检测中效果媲美全量微调且内存占用更低，同时在特定异味类别上表现突出。

Comments Preprint accepted for publication in ACM Transactions on Software Engineering and Methodology (TOSEM), 2026

ReBaPL: Repulsive Bayesian Prompt Learning

ReBaPL：排斥式贝叶斯提示学习

Yassir Bendou, Omar Ezzahir, Eduardo Fernandes Montesuma, Gabriel Mahuas, Victoria Shevchenko, Mike Gartrell

机构 * Sigma Nova ； Rhizome Labs 纠错

专题命中 指令微调 ：foundation model(abstract)；分类 cs.LG

AI总结 本文提出ReBaPL，一种基于贝叶斯推理的提示学习方法，通过引入排斥力促进探索，提升模型鲁棒性和泛化能力。

Journal ref The IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) 2026