语言大模型 / LLM

Inducing Epistemological Humility in Large Language Models: A Targeted SFT Approach to Reducing Hallucination

在大型语言模型中诱导知识谦逊：一种针对减少幻觉的定向SFT方法

Cem Uluoglakci, Tugba Taskaya Temizel

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；SFT(title,abstract)；分类 cs.CL

AI总结 本文提出HypoTermInstruct数据集，通过非现实术语问题训练模型知识谦逊，减少幻觉，实验显示其显著提升HypoTerm Score和FactScore，同时保持MMLU性能稳定。

Temporal Gains, Spatial Costs: Revisiting Video Fine-Tuning in Multimodal Large Language Models

时间收益，空间代价：重新审视多模态大语言模型中的视频微调

Linghao Zhang, Jungang Li, Yonghua Hei, Sicheng Tao, Song Dai, Yibo Yan, Zihao Dongfang, Weiting Liu, Chenxi Qin, Hanqian Li, Xin Zou, Jiahao Zhang, Shuhang Xun, Haiyun Jiang, Xuming Hu

机构 * SJTU（上海交通大学） ； HKUST(GZ)（香港科技大学(珠海)） ； HKUST（香港科技大学） ； CityU（城市大学） ； FDU（复旦大学） ； HIT（哈尔滨工业大学） ； TJU（天津大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；SFT(abstract)

AI总结 本文研究了视频微调对多模态大语言模型视觉能力的影响，发现视频性能提升的同时，静态图像表现可能受限，提出混合帧策略以缓解空间与时间理解的平衡问题。

Only relative ranks matter in weight-clustered large language models

仅相对排名在权重聚类的大型语言模型中起作用

Borja Aizpurua, Sukhbinder Singh, Román Orús

机构 * Department of Basic Sciences, Tecnun - University of Navarra, San Sebasti\'an, Spain ； Donostia International Physics Center, San Sebasti\'an, Spain 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文研究了大型语言模型中权重相对排名的重要性，通过权重聚类减少唯一权重值，实现模型压缩，同时保持准确性，并探讨了相对排名对模型质量的影响。

Comments 10 pages, 3 figures, 9 tables

Continual Low-Rank Adapters for LLM-based Generative Recommender Systems

连续低秩适配器用于基于LLM的生成推荐系统

Hyunsik Yoo, Ting-Wei Li, SeongKu Kang, Zhining Liu, Charlie Xu, Qilin Qi, Hanghang Tong

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Korea University（韩国大学） ； Amazon（亚马逊） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出PESO方法，通过引入近端正则化器，在推荐系统中实现连续学习，平衡适应与保留，提升对近期用户行为的捕捉能力。

A Comedy of Estimators: On KL Regularization in RL Training of LLMs

估计器的喜剧：关于在LLM训练中的KL正则化

Vedant Shah, Johan Obando-Ceron, Vineet Jain, Brian Bartoldson, Bhavya Kailkhura, Sarthak Mittal, Glen Berseth, Pablo Samuel Castro, Yoshua Bengio, Nikolay Malkin, Moksh Jain, Siddarth Venkatraman, Aaron Courville

机构 * McGill University（麦吉尔大学） ； LawZero（法零） ； LLNL（劳伦斯利弗莫尔国家实验室） ； University of Edinburgh（爱丁堡大学） ； CIFAR AI Chair（CIFAR人工智能主席） ； CIFAR Fellow 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文研究了在LLM训练中使用KL正则化的估计器方法，分析了不同配置对训练稳定性及下游性能的影响，发现偏导数估计器可能导致训练不稳定，而无偏导数估计器能提升模型在领域内外任务的表现。

ACE-LoRA: Graph-Attentive Context Enhancement for Parameter-Efficient Adaptation of Medical Vision-Language Models

ACE-LoRA：图注意上下文增强用于医疗视觉-语言模型的参数高效适应

M. Arda Aydın, Melih B. Yilmaz, Aykut Koç, Tolga Çukur

机构 * Bilkent University（比尔肯特大学） ； National Magnetic Resonance Research Center (UMRAM)（国家磁共振研究所以及UMRAM） 纠错

专题命中 指令微调 ：language model(title,abstract)

AI总结 本文提出ACE-LoRA框架，通过整合LoRA模块和ACE-HGNN模块，提升医疗VLM的零样本泛化能力，解决领域特异性与泛化能力的平衡问题。

NutVLM: A Self-Adaptive Defense Framework against Full-Dimension Attacks for Vision Language Models in Autonomous Driving

NutVLM: 一种针对自动驾驶中视觉语言模型全维度攻击的自适应防御框架

Xiaoxu Peng, Dong Zhou, Jianwen Zhang, Guanghui Sun, Anh Tu Ngo, Anupam Chattopadhyay

机构 * Department of Control Science and Engineering, Harbin Institute of Technology（控制科学与工程系，哈尔滨工业大学） ； College of Computing and Data Science, Nanyang Technological University（计算与数据科学学院，南洋理工大学） 纠错

专题命中 指令微调 ：language model(title,abstract)

AI总结 本文提出NutVLM框架，通过NutNet++ sentinel检测并净化良性样本、局部修补和全局扰动，结合高效灰度遮蔽和专家引导的对抗提示调优，提升自动驾驶中视觉语言模型的鲁棒性与性能。

Comments 12 pages, 6 figures

MetaClaw: Just Talk -- An Agent That Meta-Learns and Evolves in the Wild

MetaClaw：只需交谈--一个在野中元学习和进化的智能体

Peng Xia, Jianwen Chen, Xinyu Yang, Haoqin Tu, Jiaqi Liu, Kaiwen Xiong, Siwei Han, Shi Qiu, Haonian Ji, Yuyin Zhou, Zeyu Zheng, Cihang Xie, Huaxiu Yao

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 MetaClaw通过元学习框架实现持续进化，结合技能驱动快速适应与机会性策略优化，提升任务准确性与鲁棒性。

Bootstrapping Embeddings for Low Resource Languages

通过低资源语言进行嵌入补丁

Merve Basoz, Andrew Horne, Mattia Opper

机构 * School of Informatics, University of Edinburgh, UK（爱丁堡大学信息学院） ； Edina, University of Edinburgh, UK（爱丁堡大学埃丁纳分校） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文探讨利用大语言模型生成合成三元组数据以优化嵌入模型，提出两种新方法（适配器组合和跨语言微调XL-LoRA），在多种任务和语言上取得显著提升。

Comments (v2 - LoResLM Camera Ready)

SkyReels-V4: Multi-modal Video-Audio Generation, Inpainting and Editing model

SkyReels-V4：多模态视频-音频生成、修复和编辑模型

Guibin Chen, Dixuan Lin, Jiangping Yang, Youqiang Zhang, Zhengcong Fei, Debang Li, Sheng Chen, Chaofeng Ao, Nuo Pang, Yiming Wang, Yikun Dou, Zheng Chen, Mingyuan Fan, Tuanhui Li, Mingshan Chang, Hao Zhang, Xiaopeng Sun, Jingtao Xu, Yuqiang Xie, Jiahua Wang, Zhiheng Xu, Weiming Xiong, Yuzhe Jin, Baoxuan Gu, Binjie Mao, Yunjie Yu, Jujie He, Yuhao Feng, Shiwen Tu, Chaojie Wang, Rui Yan, Wei Shen, Jingchen Wu, Peng Zhao, Xuanyue Zhong, Zhuangzhuang Liu, Kaifei Wang, Fuxiang Zhang, Weikai Xu, Wenyan Liu, Binglu Zhang, Yu Shen, Tianhui Xiong, Bin Peng, Liang Zeng, Xuchen Song, Haoxiang Guo, Peiyu Wang, Max W. Y. Lam, Chien-Hung Liu, Yahui Zhou

机构 * Skywork AI 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；foundation model(abstract)

AI总结 SkyReels-V4是一款多模态视频基础模型，支持视频音频生成、修复和编辑，采用双流多模态扩散变换器架构，结合文本编码器实现多模态指令处理，支持高分辨率、长时长视频生成。

IA2: Alignment with ICL Activations Improves Supervised Fine-Tuning

IA2: 通过ICL激活实现对监督微调的改进

Aayush Mishra, Daniel Khashabi, Anqi Liu

机构 * Department of Computer Science, Johns Hopkins University（约翰霍普金斯大学计算机科学系） 纠错

专题命中 指令微调 ：SFT(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出IA2方法，通过利用ICL的激活模式提升监督微调的准确性和校准性，在12个基准和两个模型家族中验证了其有效性。

Comments International Conference on Learning Representations (ICLR) 2026

Signal in the Noise: Polysemantic Interference Transfers and Predicts Cross-Model Influence

噪声中的信号：多义干扰转移和跨模型影响预测

Bofan Gong, Shiyang Lai, James Evans, Dawn Song

机构 * Independent Scholar（独立学者） ； University of Chicago（芝加哥大学） ； UC Berkeley（伯克利大学） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究通过稀疏自编码器揭示语言模型中的多义性结构，并发现干预措施在不同模型间可转移，挑战了多义性仅为随机现象的观点。

Journal ref ICLR 2026

From Language to Action in Arabic: Reliable Structured Tool Calling via Data-Centric Fine-Tuning

从阿拉伯语到行动：通过数据驱动的微调实现可靠的结构化工具调用

Omer Nacar, Deema Alquffari, Saleh Alsharideh, Adeem AlOtaibi, Abdulaziz Alabdulkarim, Leen Alhazmi, Nada Alomar, Wareef Alzubaidi, Nada Alsultan, Ahmed Alrabghi, Demah Alhoshan, Rana Alsayyari, Hamed Alruwaili, Albaraa Jaafar, Khaled Alusmani, Abdulaziz Alsohimy, Munirah Alsubaie, Shahd Aldukhayil, Arwa Alali, Yazeed BinShihah, Razan Alsulaymi, Nourah Alhumaid, Razan Abdulsalam, Reem Alamoudi, Mohammed Alkhalifa

机构 * Tuwaiq Academy（图瓦伊克学院） ； Tahakom（塔哈科姆） ； Wakeb Company（沃克公司） ； Qatmeer Co.（卡提迈尔公司） ； NCGR ； Vision Bank（视觉银行） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出AISA-AR-FunctionCall框架，通过数据审计、模式修复和提示重构等方法，显著提升阿拉伯语函数调用模型的稳定性与准确性，减少解析失败率并提高功能名称识别精度。

Rubric-Guided Fine-tuning of SpeechLLMs for Multi-Aspect, Multi-Rater L2 Reading-Speech Assessment

基于评分标准的语音大模型多维度多评分者二语阅读语音评估

Aditya Kamlesh Parikh, Cristian Tejedor-Garcia, Catia Cucchiarini, Helmer Strik

专题命中 指令微调 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出基于评分标准的语音大模型微调方法，通过多维度评分标准和不确定性校准，提升二语阅读语音评估的可靠性与可解释性。

Comments Accepted to LREC 2026. This publication is part of the project Responsible AI for Voice Diagnostics (RAIVD) with file number NGF.1607.22.013 of the research programme NGF AiNed Fellowship Grants, which is financed by the Dutch Research Council (NWO)

Provably Safe Model Updates

可证明安全的模型更新

Leo Elmecker-Plakolm, Pierre Fasterling, Philip Sosnin, Calvin Tsay, Matthew Wicker

机构 * Department of Computing（计算系） ； Imperial College London（帝国理工学院伦敦分校） ； School of Computer and Comm. Sciences (IC)（计算机与通信科学系） ； École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院） 纠错

专题命中 指令微调 ：foundation model(abstract)；分类 cs.LG

AI总结 本文提出可证明安全的模型更新框架，通过计算最大局部不变域来确保模型更新的安全性，有效避免遗忘并提供形式化安全保证。

Comments 12 pages, 9 figures. This work has been accepted for publication at SaTML 2026. The final version will be available on IEEE Xplore

Exploring parameter-efficient fine-tuning (PEFT) of billion-parameter vision models with QLoRA and DoRA: insights into generalization for limited-data image classification under a 98:1 test-to-train regime

探索使用QLoRA和DoRA对十亿参数视觉模型进行参数高效微调：在98:1测试到训练数据比例下有限数据图像分类的泛化性洞察

Haiyu Yang, Sumit Sharma, Enhong Liu, Miel Hostens

机构 * Cornell University, College of Agriculture and Life Sciences（康奈尔大学农业与生命科学学院） 纠错

专题命中 指令微调 ：foundation model(abstract)

AI总结 本文比较了三种方法在有限数据图像分类中的泛化能力，发现参数高效微调显著优于其他方法，最佳配置在较短时间内达到高准确率。

Test-Time 3D Occupancy Prediction

测试时3D占用预测

Fengyi Zhang, Xiangyu Sun, Huitong Yang, Zheng Zhang, Zi Huang, Yadan Luo

机构 * UQMM Lab, The University of Queensland（昆士兰大学UQMM实验室） ； Harbin Institute of Technology（哈尔滨工程大学） 纠错

专题命中 指令微调 ：foundation model(abstract)

AI总结 本文提出TT-Occ框架，通过实时集成视觉基础模型，实现灵活的3D高斯表示和占用预测，适用于不同体素分辨率和新类别识别。

Comments CVPR 2026