语言大模型 / LLM

Antibody: Strengthening Defense Against Harmful Fine-Tuning for Large Language Models via Attenuating Harmful Gradient Influence

Antibody: 通过削弱有害梯度影响来加强对抗有害微调的防御

Quoc Minh Nguyen, Trung Le, Jing Wu, Anh Tuan Bui, Mehrtash Harandi

机构 * Department of Electrical and Computer Systems Engineering, Monash University, Australia（莫纳什大学电气与计算机系统工程系） ； Department of Data Science and AI, Monash University, Australia（莫纳什大学数据科学与人工智能系） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 Antibody通过削弱有害梯度影响，提升大型语言模型对有害微调攻击的防御能力，并增强微调性能。

Comments Published at ICLR 2026

Mind the Gap in Cultural Alignment: Task-Aware Culture Management for Large Language Models

注意文化契合差距：面向任务的文化管理用于大语言模型

Binchi Zhang, Xujiang Zhao, Jundong Li, Haifeng Chen, Zhengzhang Chen

机构 * University of Virginia（弗吉尼亚大学） ； NEC Laboratories America（NEC美洲实验室） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出CultureManager，一种面向任务的文化管理方法，通过任务感知的文化数据对齐和文化路由器管理，提升大语言模型在文化敏感任务中的表现。

TROLL: Trust Regions improve Reinforcement Learning for Large Language Models

TROLL：通过信任区域改进大型语言模型的强化学习

Philipp Becker, Niklas Freymuth, Serge Thilges, Fabian Otto, Gerhard Neumann

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 TROLL通过引入基于信任区域的离散可微投影，改进了大型语言模型的强化学习训练，提升了训练速度、稳定性和最终成功率。

Comments Published as a conference paper at ICLR 2026

Claim Automation using Large Language Model

利用大语言模型实现索赔自动化

Zhengda Mo, Zhiyu Quan, Eli O'Donohue, Kaiwen Zhong

机构 * Actuarial and Risk Management Sciences, University of Illinois at Urbana-Champaign（保险与风险管理科学系，伊利诺伊大学厄巴纳-香槟分校） ； PCMI Corporation（PCMI公司） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出利用大语言模型进行索赔自动化，通过领域特定微调显著提升保险领域纠正措施建议的准确性。

Comments 46 pages, 12 figures. Code and data processing pipeline described

RAISE: Reinforced Adaptive Instruction Selection For Large Language Models

RAISE: 增强适应性指令选择用于大语言模型

Qingsong Lv, Yangning Li, Zihua Lan, Zishan Xu, Jiwei Tang, Tingwei Lu, Yinghui Li, Wenhao Jiang, Hong-Gee Kim, Hai-Tao Zheng, Philip S. Yu

机构 * Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院） ； Peng Cheng Laboratory（鹏城实验室） ； University of Illinois Chicago（伊利诺伊大学香槟分校） ； Seoul National University（首尔国立大学） ； Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ)（广东省人工智能与数字经济实验室（深圳）） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 RAISE通过强化学习动态选择指令，提升大语言模型微调效率与效果。

Comments Accepted by EMNLP 2025 findings

Intent-Driven Smart Manufacturing Integrating Knowledge Graphs and Large Language Models

意图驱动的智能制造整合知识图谱和大语言模型

Takoua Jradi, John Violos, Dimitrios Spatharakis, Lydia Mavraidi, Ioannis Dimolitsas, Aris Leivadeas, Symeon Papavassiliou

机构 * 1Department of Software ； IT Engineering, École de technologie supérieure, Montreal, Canada 2School of Electrical \& Computer Engineering, National Technical University of Athens 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文提出结合大语言模型和知识图谱的意图驱动智能制造框架，通过微调和语义映射提升制造系统的人机交互性能。

Surgery: Mitigating Harmful Fine-Tuning for Large Language Models via Attention Sink

手术：通过注意力sink缓解大型语言模型的有害微调

Guozhi Liu, Weiwei Lin, Tiansheng Huang, Ruichao Mo, Qi Mu, Xiumin Wang, Li Shen

机构 * South China University of Technology（南方科技大学） ； Pengcheng Laboratory（鹏城实验室） ； Sun Yat-sen University（中山大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 Surgery通过注意力sink机制在微调阶段抑制有害模式学习，提升模型安全性。

TwinWeaver: An LLM-Based Foundation Model Framework for Pan-Cancer Digital Twins

TwinWeaver: 一种基于大语言模型的跨癌症数字双胞胎基础模型框架

Nikita Makarov, Maria Bordukova, Lena Voith von Voithenberg, Estrella Pivel-Villanueva, Sabrina Mielke, Jonathan Wickes, Hanchen Wang, Mingyu Derek Ma, Keunwoo Choi, Kyunghyun Cho, Stephen Ra, Raul Rodriguez-Esteban, Fabian Schmich, Michael Menden

机构 * Computational Sciences Center of Excellence, Roche, Penzberg, Germany（罗氏计算科学卓越中心） ； Computational Health Center, Helmholtz Munich, Munich, Germany（海德堡慕尼黑计算健康中心） ； Department of Biology, Ludwig Maximilian University of Munich, Munich, Germany（慕尼黑路易斯·马克西米利安大学生物学系） ； Early Development Oncology, Roche Innovation Center Zurich, Roche, Schlieren, Switzerland（罗氏苏黎世创新中心早期肿瘤学） ； Computational Sciences Center of Excellence, Genentech, New York City, USA（基因泰克计算科学卓越中心） ； Computational Sciences Center of Excellence, Genentech, South San Francisco, USA（基因泰克计算科学卓越中心） ； Center for Data Science, New York University, New York City, USA（纽约大学数据科学中心） ； Department of Computer Science, Stanford University, Stanford, CA, USA（斯坦福大学计算机科学系） ； Computational Sciences Center of Excellence, Roche, Basel, Switzerland（罗氏巴塞尔计算科学卓越中心） ； Department of Biochemistry（生物化学系） ； Biotechnology Institute, The University of Melbourne, Melbourne, Australia（墨尔本大学生物技术研究所） 纠错

专题命中 指令微调 ：LLM(title)；foundation model(title)；large language model(abstract)；language model(abstract)

AI总结 TwinWeaver通过基于大语言模型的框架，构建跨癌症数字双胞胎，提升临床事件预测与风险分层精度。

Consensus-Aligned Neuron Efficient Fine-Tuning Large Language Models for Multi-Domain Machine Translation

共识对齐的神经高效细调大型语言模型用于多领域机器翻译

Shuting Jiang, Ran Song, Yuxin Huang, Yan Xiang, Yantuan Xian, Shengxiang Gao, Zhengtao Yu

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出一种神经高效微调框架，通过识别和更新共识对齐的神经元，提升大型语言模型在多领域机器翻译中的性能。

Comments Accepted by AAAI 2026

Sparse Subnetwork Enhancement for Underrepresented Languages in Large Language Models

稀疏子网络增强用于大型语言模型中资源匮乏语言

Daniil Gurgurov, Tanja Baeumel, Josef van Genabith, Simon Ostermann

机构 * Saarland University（萨尔兰大学） ； German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心） ； Centre for European Research in Trusted AI (CERTAIN)（欧洲可信人工智能研究中心） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出通过稀疏子网络增强方法，提升大型语言模型在资源匮乏语言上的性能，同时保持通用能力，并展示了其在多个语言模型上的有效性。

Comments preprint

LSSF: Safety Alignment for Large Language Models through Low-Rank Safety Subspace Fusion

LSSF: 通过低秩安全子空间融合实现大语言模型的安全对齐

Guanghao Zhou, Panjia Qiu, Cen Chen, Hongyu Li, Mingyuan Chu, Xin Zhang, Jun Zhou

机构 * East China Normal University（华东师范大学） ； Ant Group（蚂蚁集团） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 LSSF通过低秩安全子空间融合技术，有效恢复微调大语言模型的安全对齐，同时对性能影响较小。

Comments Accepted in ACL 2025 Main Conference

Orthogonal Low-rank Adaptation in Lie Groups for Continual Learning of Large Language Models

在李群中实现正交低秩适应用于大语言模型的持续学习

Kefan Cao, Shuaicheng Wu

机构 * Yingcai Honor College, University of Electronic Science and Technology of China（电子科技大学荣誉学院） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 OLieRA通过基于李群的乘法更新和任务子空间正交性，有效解决大语言模型在持续学习中的灾难性遗忘问题，实现性能和鲁棒性的提升。

Comments 13 pages, 3 figures

From Tags to Trees: Structuring Fine-Grained Knowledge for Controllable Data Selection in LLM Instruction Tuning

从标签到树：为LLM指令微调中的可控数据选择构建细粒度知识

Zihan Niu, Wenping Hu, Junmin Chen, Xiyue Wang, Tong Xu, Ruiming Tang

机构 * University of Science and Technology of China（中国科学技术大学） ； Klear Team, Kuaishou Technology（快手科技Klear团队） 纠错

专题命中 指令微调 ：LLM(title,abstract)；instruction tuning(title,abstract)；分类 cs.CL

AI总结 TAGS通过构建细粒度知识树，实现LLM指令微调中可控数据选择的高效采样与知识对齐。

An Empirical Analysis of Fine-Tuning Large Language Models on Bioinformatics Literature: PRSGPT and BioStarsGPT

对在生物信息学文献上微调大型语言模型的实证分析：PRSGPT和BioStarsGPT

Muhammad Muneeb, David B. Ascher

机构 * School of Chemistry and Molecular Biology（化学与分子生物学学院） ； The University of Queensland（昆士兰大学） ； Baker Heart and Diabetes Institute（贝克心脏与糖尿病研究所） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出了一种可重复的管道，用于在生物信息学文献上微调大型语言模型，通过PRSGPT和BioStarsGPT两个用例展示了方法和成果。

A Decompilation-Driven Framework for Malware Detection with Large Language Models

基于大语言模型的反恶意软件检测解编驱动框架

Aniesh Chawla, Udbhav Prasad

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文提出基于大语言模型的反恶意软件检测框架，通过解编和微调提升恶意软件检测效果，但需持续更新以应对新型威胁。

Comments 6 pages, published in 2025 IEMCON

UCO: A Multi-Turn Interactive Reinforcement Learning Method for Adaptive Teaching with Large Language Models

UCO：一种用于基于大语言模型的自适应教学的多轮交互强化学习方法

Shouang Wei, Min Zhang, Xin Lin, Bo Jiang, Kun Kuang, Zhongxiang Dai

机构 * East China Normal University（东华大学） ； Zhejiang University（浙江大学） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 UCO通过多轮交互强化学习方法，利用进展奖励和支架奖励函数，提升大语言模型在教育场景中的自适应教学能力。

Breaking Audio Large Language Models by Attacking Only the Encoder: A Universal Targeted Latent-Space Audio Attack

通过仅攻击编码器打破音频大语言模型：一种通用的目标潜在空间音频攻击

Roee Ziv, Raz Lapid, Moshe Sipper

机构 * Ben Gurion University of the Negev（贝纳乔大学奈夫分校） ； Deepkeep 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文提出了一种针对音频大语言模型编码器的通用潜在空间攻击方法，通过操纵音频潜在表示实现目标输出，展示了编码器层面的安全漏洞。

CrashChat: A Multimodal Large Language Model for Multitask Traffic Crash Video Analysis

CrashChat: 一种多模态大语言模型用于多任务交通事故视频分析

Kaidi Liang, Ke Li, Xianbiao Hu, Ruwen Qin

机构 * Stony Brook University（石溪大学） ； The Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 CrashChat是一种多模态大语言模型，用于多任务交通事故视频分析，通过任务解耦和分组策略提升事故识别、定位等任务的性能。

Governance-Aware Hybrid Fine-Tuning for Multilingual Large Language Models

面向治理的混合微调方法用于多语言大语言模型

Haomin Qi, Chengbo Huang, Zihan Dai, Yunkai Gao

机构 * University of California San Diego（加州大学圣地亚哥分校） ； Columbia University（哥伦比亚大学） ； University of Copenhagen（哥本哈根大学） ； Duke University（杜克大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出面向治理的混合微调方法，通过结合低秩更新和正交变换提升多语言大模型的适应效率与准确性。

Comments 11 pages, 4 figures, 6 tables. arXiv admin note: substantial text overlap with arXiv:2507.18076

Journal ref 2025 IEEE International Conference on Big Data

AI-Powered Annotation Pipelines for Stabilizing Large Language Models: A Human-AI Synergy Approach

基于AI的标注流程用于稳定大语言模型：一种人机协同方法

Gangesh Pathak, Prasanna Kumar

专题命中 指令微调 ：large language model(title)；language model(title)；LLM(abstract)；RLHF(abstract)

AI总结 本文提出了一种基于AI的标注流程，通过人机协同方法系统识别并修复大语言模型的不稳定性，提升模型的可靠性和鲁棒性。

Comments 16 Pages

Efficiently Seeking Flat Minima for Better Generalization in Fine-Tuning Large Language Models and Beyond

高效寻找平坦极小值以提升大型语言模型及其他模型的泛化能力

Jiaxin Deng, Qingcheng Zhu, Junbiao Pang, Linlin Yang, Zhongqian Fu, Baochang Zhang

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出EFMLoRA，通过寻找LoRA的平坦极小值提升模型泛化能力，实验表明其在效率和性能上均优于传统LoRA方法。

SPACE: Noise Contrastive Estimation Stabilizes Self-Play Fine-Tuning for Large Language Models

SPACE：噪声对比估计稳定了大语言模型的自我对战微调

Yibo Wang, Qing-Guo Chen, Zhao Xu, Weihua Luo, Kaifu Zhang, Lijun Zhang

机构 * National Key Laboratory for Novel Software Technology, Nanjing University（新型软件技术国家实验室，南京大学） ； School of Artificial Intelligence, Nanjing University（人工智能学院，南京大学） ； Alibaba International Digital Commerce（阿里巴巴国际数字商业） ； Pazhou Laboratory (Huangpu)（琶洲实验室（黄埔）） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 SPACE通过噪声对比估计稳定大语言模型的自我对战微调，提升下游任务性能

Comments NeurIPS 2025

Language Integration in Fine-Tuning Multimodal Large Language Models for Image-Based Regression

基于图像回归的多模态大语言模型微调中的语言整合

Roy H. Jennings, Genady Paikin, Roy Shaul, Evgeny Soloveichik

机构 * Samsung Israel R&D Center（三星以色列研发中心） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 本文提出RvTC方法，通过灵活的区间法替代传统词汇受限分类，提升多模态大语言模型在图像回归任务中的性能。

Comments WACV 2026

LLM4SFC: Sequential Function Chart Generation via Large Language Models

LLM4SFC: 通过大语言模型生成顺序功能图

Ofek Glick, Vladimir Tchuiev, Marah Ghoummaid, Michal Moshkovitz, Dotan Di-Castro

机构 * Bosch Research（博世研究） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 LLM4SFC通过大语言模型生成可执行的顺序功能图，实现图形与文本PLC语言的高效转换。

ZiGong 1.0: A Large Language Model for Financial Credit

ZiGong 1.0：一种用于金融信用的大型语言模型

Yu Lei, Zixuan Wang, Chu Liu, Tongyao Wang

机构 * Didi International Business（滴滴国际业务） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 ZiGong 1.0通过多任务监督微调和数据修剪方法，提升大型语言模型在金融信用评估中的性能和鲁棒性。

Journal ref 2025 IEEE 41st International Conference on Data Engineering Workshops (ICDEW)

VeriLoRA: Fine-Tuning Large Language Models with Verifiable Security via Zero-Knowledge Proofs

VeriLoRA: 通过零知识证明实现通过验证的安全大语言模型微调

Guofu Liao, Taotao Wang, Shengli Zhang, Jiqun Zhang, Shi Long, Dacheng Tao

机构 * Shenzhen University（深圳大学） ； Nanjing University of Science（南京理工大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 VeriLoRA通过整合零知识证明与LoRA微调，实现了大语言模型在敏感环境中的安全可信部署。

Comments This paper has been accepted for publication at the Network and Distributed System Security Symposium (NDSS) 2026

A Comparative Study of LLM Prompting and Fine-Tuning for Cross-genre Authorship Attribution on Chinese Lyrics

跨流派中文歌词作者归属的LLM提示与微调比较研究

Yuxin Li, Lorraine Xu, Meng Fan Wang

机构 * Columbia University（哥伦比亚大学） 纠错

专题命中 指令微调 ：LLM(title,abstract)；prompting(title)；pretraining(abstract)；分类 cs.CL

AI总结 本文通过对比LLM提示与微调方法，研究中文歌词跨流派作者归属问题，提出新的数据集和领域模型，并探讨流派对性能的影响。

Comments 8 pages, 6 figures

MTA: A Merge-then-Adapt Framework for Personalized Large Language Model

MTA: 一种用于个性化大语言模型的融合后再适应框架

Xiaopeng Li, Yuanjin Zheng, Wanyu Wang, wenlin zhang, Pengyue Jia, Yiqi Wang, Maolin Wang, Xuetao Wei, Xiangyu Zhao

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 MTA通过融合后再适应框架，解决个性化大语言模型在存储成本和数据稀疏性方面的挑战，实现高效动态个性化。

FunReason: Enhancing Large Language Models' Function Calling via Self-Refinement Multiscale Loss and Automated Data Refinement

FunReason: 通过自精炼多尺度损失和自动化数据精炼增强大语言模型的功能调用

Bingguang Hao, ZengZhuang Xu, Maolin Wang, Yuntao Wen, Yicheng Chen, Cunyin Peng, Long Chen, Dong Wang, Xiangyu Zhao, Jinjie Gu, Chenyi Zhuang, Ji Zhang

机构 * AWorld Team, Inclusion AI（AWorld Team，Inclusion AI） ； City University of Hong Kong（香港城市大学） ； Southwest Jiaotong University（西南交通大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 FunReason通过自精炼多尺度损失和自动化数据精炼方法，提升大语言模型的功能调用能力，实现性能接近GPT-4o并缓解微调中的灾难性遗忘。

Unified Defense for Large Language Models against Jailbreak and Fine-Tuning Attacks in Education

Xin Yi, Yue Li, Dongsheng Shi, Linlin Wang, Xiaoling Wang, Liang He

机构 * Shanghai Institute of Artificial Intelligence for Education, East China Normal University, Shanghai 200062, China（教育人工智能研究所，华东师范大学，上海200062，中国） ； School of Computer Science and Technology, East China Normal University, Shanghai 200062, China（计算机科学与技术学院，华东师范大学，上海200062，中国） ； School of Computer Science（计算机科学学院） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL