语言大模型 / LLM

The RL/LLM Taxonomy Tree: Reviewing Synergies Between Reinforcement Learning and Large Language Models

Moschoula Pternea, Prerna Singh, Abir Chakraborty, Yagna Oruganti, Mirco Milletari, Sayli Bapat, Kebei Jiang

专题命中 指令微调 ：LLM(title,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

Comments 30 pages (including bibliography), 1 figure, 7 tables

RecRanker: Instruction Tuning Large Language Model as Ranker for Top-k Recommendation

Sichun Luo, Bowei He, Haohan Zhao, Wei Shao, Yanlin Qi, Yinya Huang, Aojun Zhou, Yuxuan Yao, Zongpeng Li, Yuanzhang Xiao, Mingjie Zhan, Linqi Song

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；instruction tuning(title,abstract)；LLM(abstract)

LLaMoCo: Instruction Tuning of Large Language Models for Optimization Code Generation

Zeyuan Ma, Hongshu Guo, Jiacheng Chen, Guojun Peng, Zhiguang Cao, Yining Ma, Yue-Jiao Gong

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；instruction tuning(title)；prompting(abstract)

Generative Speech Recognition Error Correction with Large Language Models and Task-Activating Prompting

Chao-Han Huck Yang, Yile Gu, Yi-Chieh Liu, Shalini Ghosh, Ivan Bulyko, Andreas Stolcke

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；prompting(title,abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Accepted to IEEE Automatic Speech Recognition and Understanding (ASRU) 2023. 8 pages. 2nd version revised from Sep 29th's version

Journal ref Proc. IEEE ASRU Workshop, Dec. 2023

SkyEyeGPT: Unifying Remote Sensing Vision-Language Tasks via Instruction Tuning with Large Language Model

Yang Zhan, Zhitong Xiong, Yuan Yuan

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；instruction tuning(title,abstract)；LLM(abstract)

Cheap and Quick: Efficient Vision-Language Instruction Tuning for Large Language Models

Gen Luo, Yiyi Zhou, Tianhe Ren, Shengxin Chen, Xiaoshuai Sun, Rongrong Ji

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；instruction tuning(title,abstract)；LLM(abstract)

Position-Enhanced Visual Instruction Tuning for Multimodal Large Language Models

Chi Chen, Ruoyu Qin, Fuwen Luo, Xiaoyue Mi, Peng Li, Maosong Sun, Yang Liu

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；instruction tuning(title,abstract)；LLM(abstract)

Identifying Implicit Bias in LLM-based Chat AI Toward People with Intellectual Disabilities

识别基于大语言模型（LLM）的聊天人工智能对智力障碍人群的隐含偏见

Karly V. Coffey, Gloria L. Krahn, John P. Hanley, Jacob E. Neely

专题命中 指令微调 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本研究针对5款LLM聊天AI生成的25000个故事，分析发现其对智力障碍人群存在将其矮化、依赖化等负面隐含偏见，呼吁AI开发警惕此类偏见并加以缓解。

Journal ref Karly V. Coffey, Gloria L. Krahn, John P. Hanley, Jacob E. Neely, Identifying implicit bias in LLM-based chat AI toward people with intellectual disabilities, Disability and Health Journal, 2026, 102086, ISSN 1936-6574

LP-SFT: Local-Preserving Supervised Fine-Tuning via Multimodal Entropy Structure

LP-SFT：通过多模态熵结构进行局部保持监督微调

Yueyang Wang, Baolong Bi, Shuo Lu, Jingyuan Zhang, Jiajun Shi

机构 * School of Mathematical Sciences, Peking University（北京大学数学科学学院） ； Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； College of Computing, Georgia Institute of Technology（佐治亚理工学院计算学院） 纠错

专题命中 指令微调 ：SFT(title,title_cn)；language model(abstract)；pretraining(abstract)；分类 cs.CL、cs.LG

AI总结 研究监督微调中存在的问题，利用香农和雷尼熵分析揭示预训练模型的多模态熵结构，提出LP-SFT目标，在多领域实验中提升性能，平衡准确率和k准确率。

Comments 20 pages, 3 figures. Code is available at https://github.com/Wakaka161/LP-SFT

Lost in Serialization: Invariance and Generalization of LLM Graph Reasoners

迷失在序列化中：LLM图推理器的不变性与泛化能力

Daniel Herbst, Lea Karbevska, Divyanshu Kumar, Akanksha Ahuja, Fatemeh Gholamzadeh Nasrabadi, Fabrizio Frasca

机构 * University of Cambridge（剑桥大学） ； ETH Zurich（苏黎世联邦理工学院） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究LLM图推理器对图表示对称性的缺乏不变性，通过分解序列化因素并评估微调影响，发现大模型更鲁棒，微调降低节点重标敏感但增加结构和格式敏感，且不保证泛化。

Comments ICML 2026 Workshop on Graph Foundation Models

LLM-Optic: Unveiling the Capabilities of Large Language Models for Universal Visual Grounding

Haoyu Zhao, Wenhang Ge, Ying-cong Chen

专题命中 指令微调 ：LLM(title,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

Comments Project Page: https://haoyu-zhao.github.io/LLM-Optic.github.io/

Causal Evidence Extraction and Triangulation in Crisis Reports using Large Language Models: A ReliefWeb-based Study

基于大型语言模型的危机报告中因果证据提取与三角验证：一项基于ReliefWeb的研究

Yuanjun Zhang, Mourad Oussalah

机构 * University of Oulu（奥卢大学） ； LUT University（拉普兰塔理工大学） 纠错

专题命中 指令微调 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 该研究基于ReliefWeb数据，提出两阶段LLM流水线提取危机报告中结构化因果证据，结合上下文保留的三角验证方法，在100份专家标注报告中取得优异性能，为现金援助的食品相关结果提供了高收敛性证据。

Journal ref Findings of the Association for Computational Linguistics: ACL 2026, pages 32478-32491, 2026

Energy- and Memory-Efficient PEFT Methods for Personalized On-Device SLMs on Consumer GPUs

面向消费级GPU上个性化端侧小型语言模型（SLM）的高能效、低内存参数高效微调（PEFT）方法

Kuanysh Akhmetzhanov, Jurn-Gyu Park

机构 * Nazarbayev University（纳扎尔巴耶夫大学） 纠错

专题命中 指令微调 ：SLM(title_cn,summary_cn)；LLM(summary_cn,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 该研究针对消费级GPU上的个性化端侧SLM，对比五种PEFT方法在四类SLM、六项基准任务的能耗与内存表现，发现LoRA+是多数场景的最优PEFT方法，QLoRA在内存受限场景具优势，为端侧个性化LLM部署提供了能耗与内存平衡的可行方案。

Personalizing Large Language Model Agents with Small Policy Models

用小型策略模型个性化大型语言模型智能体

Dian Jin, Zhi Zhang, Huichao Li, Yihe Pan, Rundong Huang, Doudou Zhou

专题命中 指令微调 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本研究提出轻量级策略层FABLE，通过在线学习用户执行策略实现LLM智能体个性化，在多类评估中改进偏好敏感行为且保持端到端任务性能。

Internalizing the Future: A Unified Agentic Training Paradigm for World Model Planning

内化未来：一种统一的世界模型规划智能体训练范式

Xuan Zhang, Zhijian Zhou, Lingfeng Qiao, Yulei Qin, Ke Li, Xing Sun, Xiaoyu Tan, Chao Qu, Yuan Qi

机构 * Fudan University（复旦大学） ； Shanghai Innovation Institute（上海创新研究院） ； Tencent Youtu Lab（腾讯优图实验室） 纠错

专题命中 指令微调 ：LLM(summary_cn,abstract)；SFT(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 提出一种三阶段训练范式（WM-AMT、FE-SFT、FC-RL），使LLM智能体内化世界模型以进行前瞻性规划，在搜索和数学推理任务上优于基线方法。

From Prompts to Responses: Dual-Sided Data Leakage and Defense in Split Large Language Models

从提示到响应：分割大语言模型中的双面数据泄露与防御

Zixuan Gu, Xiaojun Ye, Yang Liu

专题命中 指令微调 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 提出PIDI攻击方法，同时泄露分割LLM中的输入提示和输出响应；并设计ADMI防御机制，通过适配器热身和互信息正则化有效抵御攻击。

Comments 18 pages, Accepted at ICML 2026

Language-based Trial and Error Falls Behind in the Era of Experience

基于语言的试错在经验时代落后了

Haoyu Wang, Guozheng Ma, Shugang Cui, Yilun Kong, Haotian Luo, Li Shen, Mengya Gao, Yichao Wu, Xiaogang Wang, Dacheng Tao

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 指令微调 ：LLM(summary_cn,abstract)；SFT(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 针对LLM在非语言环境中探索成本高的问题，提出SCOUT框架，用轻量级模型探索环境，通过SFT和RL激活LLM的世界知识，显著提升性能并降低计算开销。

EvoDefense: Co-Evolving Black-Box Defense with Large Language Models

EvoDefense：与大语言模型共同进化的黑盒防御

Yu Li, Yuenan Hou, Yingmei Wei, Yanming Guo, Chaochao Lu

机构 * National University of Defense Technology（国防科技大学） ； Shanghai AI Laboratory（上海人工智能实验室） 纠错

专题命中 指令微调 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 提出一种基于经验引导的共同进化黑盒防御范式EvoDefense，通过守卫LLM和经验记忆模块在攻防迭代中优化策略，实现对未见攻击和目标模型的泛化防御。

Boosting Omni-Modal Language Models: Staged Post-Training with Visually Debiased Evaluation

提升多模态语言模型：带有视觉偏见评估的分阶段训练

Che Liu, Lichao Ma, Xiangyu Tony Zhang, Yuxin Zhang, Haoyang Zhang, Xuerui Yang, Fei Tian

机构 * StepFun-Audio Team（StepFun-Audio团队） 纠错

专题命中 指令微调 ：SFT(summary_cn,abstract)；language model(title,abstract)；post-training(title,abstract)；分类 cs.AI

AI总结 本文研究了多模态基准在视觉偏见评估下的表现，提出OmniBoost三阶段训练方法，通过混合双模SFT、混合模态RLVR和自蒸馏数据SFT提升模型性能，验证了小模型在分阶段训练下的有效性。

Comments Project page: https://cheliu-computation.github.io/omni/

Multi-User Large Language Model Agents

多用户大语言模型代理

Shu Yang, Shenzhe Zhu, Hao Zhu, José Ramón Enríquez, Di Wang, Alex Pentland, Michiel A. Bakker, Jiaxin Pei

机构 * Stanford University（斯坦福大学） ； KAUST ； UT Austin（得克萨斯大学奥斯汀分校） ； MIT（麻省理工学院） 纠错

专题命中 指令微调 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文首次系统研究多用户LLM代理，提出统一交互协议并设计压力测试场景，揭示前沿模型在优先级维护、隐私保护和协调效率方面的系统性缺陷。

FedLLM: A Privacy-Preserving Federated Large Language Model for Explainable Traffic Flow Prediction

FedLLM: 一种用于可解释交通流预测的隐私保护联邦大语言模型

Seerat Kaur, Sukhjit Singh Sehra, Dariush Ebrahimi

机构 * Department of Physics & Computer Science, Wilfrid Laurier University, Waterloo, Canada（物理与计算机科学系，威尔弗里德·劳里尔大学，多伦多，加拿大） 纠错

专题命中 指令微调 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 FedLLM提出一种隐私保护的联邦大语言模型框架，用于可解释的多时间尺度短时交通流预测，通过复合选择分数、领域适应的LLM微调、轻量级参数交换和结构化提示表示提升预测性能与可解释性。

Evaluating Robustness of Large Language Models Against Multilingual Typographical Errors

评估大型语言模型对多语言拼写错误的鲁棒性

Raoyuan Zhao, Yihong Liu, Lena Altinger, Hinrich Schütze, Michael A. Hedderich

机构 * Center for Information and Language Processing（信息与语言处理中心） ； LMU Munich（慕尼黑大学） ； Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心（MCML）） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(summary_cn,abstract_cn)；instruction tuning(abstract)

AI总结 本文提出MulTypo算法，评估18种开源LLM在多语言拼写错误下的表现，发现拼写错误显著降低性能，尤其在生成任务和推理任务中，且语言和任务类型影响鲁棒性，强调需关注噪声训练和多语言鲁棒性评估。

Comments ACL 2026

TRIDENT: Enhancing Large Language Model Safety with Tri-Dimensional Diversified Red-Teaming Data Synthesis

TRIDENT：通过三维多样化红队数据合成增强大语言模型安全性

Xiaorui Wu, Xiaofeng Mao, Fei Li, Xin Zhang, Xuanhong Li, Chong Teng, Donghong Ji, Zhuang Li

机构 * Key Laboratory of Aerospace Information Security and Trusted Computing, Ministry of Education, School of Cyber Science and Engineering, Wuhan University（航空信息安全与可信计算重点实验室，教育部，网络安全工程学院，武汉大学） ； Ant Group（蚂蚁集团） ； Ant International（蚂蚁国际） ； School of Computing Technologies, Royal Melbourne Institute of Technology（计算技术学院，皇家墨尔本理工学院） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；SFT(abstract,abstract_cn)

AI总结 TRIDENT通过三维分析框架和自动化流水线生成涵盖词汇多样性、恶意意图和突破战术的多样化数据，提升大语言模型安全性，实验显示在有害内容评分和攻击成功率上有显著提升。

When Search Goes Wrong: Red-Teaming Web-Augmented Large Language Models

当搜索出错时：针对具有网络搜索功能的大型语言模型的红队测试

Haoran Ou, Kangjie Chen, Xingshuo Han, Gelei Deng, Jie Zhang, Han Qiu, Tianwei Zhang

机构 * Nanyang Technological University, Singapore（新加坡南洋理工大学） ； Nanjing University of Aeronautics（南京航空航天大学） ； Tsinghua University, China（清华大学） 纠错

专题命中 指令微调 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文提出CREST-Search框架，针对具有网络搜索功能的LLM的安全性问题，通过三种新型攻击策略和迭代上下文优化机制，揭示网络搜索带来的安全漏洞。

SPAGBias: Uncovering and Tracing Structured Spatial Gender Bias in Large Language Models

SPAGBias：揭示和追踪大型语言模型中的结构化空间性别偏见

Binxian Su, Haoye Lou, Shucheng Zhu, Weikang Wang, Ying Liu, Dong Yu, Pengyuan Liu

机构 * School of Information Science, Beijing Language and Culture University（北京语言大学信息科学学院） ； Libraries, Renmin University of China（中国人民大学图书馆） ； School of Humanities, Tsinghua University（清华大学人文学院） ； Shanghai University of Finance and Economics（上海财经大学） ； National Print Media Language Resources Monitoring & Research Center（国家印刷媒体语言资源监测与研究中心） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(summary_cn,abstract_cn)；instruction tuning(abstract)

AI总结 本文提出SPAGBias框架，系统评估LLM中的空间性别偏见，通过62种城市微空间分类、提示库和三层诊断方法，揭示性别空间关联及偏见来源，扩展了偏见研究到空间领域。

Comments Accepted by ACL 2026

ProRank: Prompt Warmup via Reinforcement Learning for Small Language Models Reranking

ProRank：通过强化学习进行小语言模型的提示预热以实现文档重排序

Xianming Li, Aamir Shakir, Rui Huang, Tsz-fung Andrew Lee, Julius Lipp, Benjamin Clavié, Jing Li

机构 * Mixedbread AI ； The Hong Kong Polytechnic University（香港理工大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；small language model(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)

AI总结 本文提出ProRank方法，通过强化学习提升小语言模型对任务提示的理解，结合细粒度分数学习增强表示能力，实验证明其在文档重排序任务中优于现有模型，尤其在BEIR基准上表现突出。

Comments Accepted by ACL2026 Findings

Small Language Models for Efficient Agentic Tool Calling: Outperforming Large Models with Targeted Fine-tuning

小型语言模型用于高效的代理工具调用：通过针对性微调超越大模型

Polaris Jhandi, Owais Kazi, Shreyas Subramanian, Neel Sendas

专题命中 指令微调 ：language model(title,abstract)；small language model(title,abstract)；LLM(abstract)；large language model(abstract)

AI总结 本文通过针对性微调小型语言模型，在工具调用任务中超越大模型，展示了SLMs在成本优化和效率提升方面的潜力。

Comments Accepted at AAAI 2026 Workshop on Agentic AI Benchmarks and Applications for Enterprise Tasks

The Pragmatic Mind of Machines: Tracing the Emergence of Pragmatic Competence in Large Language Models

机器的实用性思维：追踪大型语言模型中实用性能力的出现

Kefan Yu, Qingcheng Zeng, Weihao Xuan, Wanxin Li, Jingyi Wu, Rob Voigt

机构 * Northwestern University（西北大学） ； The University of Tokyo（东京大学） ； RIKEN AIP（理化学研究所AIP） ； Zhejiang University（浙江大学） ； University of California, Davis（加州大学戴维斯分校） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；SFT(abstract)

AI总结 本文提出ALTPRAG数据集，通过对比推理评估不同训练阶段LLMs的实用性能力发展，发现模型规模和数据规模的增加提升其对实用性提示的敏感性，SFT和RLHF进一步增强其在认知-实用性场景中的表现。

ADELIE: Aligning Large Language Models on Information Extraction

Yunjia Qi, Hao Peng, Xiaozhi Wang, Bin Xu, Lei Hou, Juanzi Li

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；instruction tuning(abstract)

Comments Accepted at EMNLP 2024. Camera-ready version

SLMs as Multi-Agent Routers: A Progressive SFT and Reinforcement Learning Approach

小型语言模型（SLMs）作为多智能体路由器：一种渐进式监督微调与强化学习方法

Gayathri V Kondapalli, Alexander Ng, Hirsh Pithadia, Rahul Monish, Harvey Yorke, Amir Kayhani

机构 * Valyu AI ； University of Warwick（华威大学） ； University College London（伦敦大学学院） 纠错

专题命中 指令微调 ：SFT(title,abstract_cn)；SLM(summary_cn,abstract_cn)；LLM(abstract,abstract_cn)；language model(abstract)

AI总结 该研究提出用小型语言模型（SLM）结合渐进式监督微调与强化学习的方法，解决多智能体路由中仅基于意图选择的局限，在智能体-查询不匹配子集及总体NDCG@10指标上均优于仅基于意图路由的大语言模型基线，且选择延迟更低。