语言大模型 / LLM

Minerva: Reinforcement Learning with Verifiable Rewards for Cyber Threat Intelligence LLMs

Minerva: 为网络威胁情报LLM采用可验证奖励的强化学习

Md Tanvirul Alam, Aritran Piplai, Ionut Cardei, Nidhi Rastogi, Peter J Worth

机构 * Rochester Institute of Technology（罗切斯特理工学院） ； University of Texas at El Paso（德克萨斯大学埃尔帕索分校） ； Florida Atlantic University（佛罗里达Atlantic大学） 纠错

专题命中 指令微调 ：LLM(title_cn)；SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出Minerva，一种统一的数据集和训练流程，用于多类网络威胁情报子任务，通过任务特定验证器评分结构化输出。MinervaRL通过轻量自训练机制生成额外验证轨迹并反向蒸馏至模型，提升性能。

From Standard English to Singlish: A Retrieval-Augmented Approach for Code-Switched Creole Generation in Large Language Models

从标准英语到新加坡英语：一种检索增强的方法用于大型语言模型中的克里奥尔生成

Foong Ming Lai, Yujin Tan, Han Meng, Yi-Chieh Lee

专题命中 指令微调 ：large language model(title)；language model(title)；prompting(abstract)

AI总结 本文提出一种检索增强生成框架，通过外部化方言知识实现受控的克里奥尔语言生成，无需微调，通过稀疏词法替换指导生成，实验表明其在自然度和语义保留方面表现优异。

Enhanced LLM Reasoning by Optimizing Reward Functions with Search-Driven Reinforcement Learning

通过搜索驱动强化学习优化奖励函数以增强大语言模型推理能力

Arash Ahmadi, Sarah Sharif, Yaser, Banad

机构 * School of Electrical and Computer Engineering, University of Oklahoma（俄克拉荷马大学电气与计算机工程学院） ； Intelligent Neuromorphic and Quantum Understanding for Innovative Research and Engineering (INQUIRE) Laboratory, University of Oklahoma（智能神经形态与量子理解创新研究与工程实验室，俄克拉荷马大学） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 本文提出一种搜索驱动框架，通过优化奖励函数提升大语言模型推理能力，通过五轮搜索生成50个候选奖励，最终获得79.5%的F1分数，优于基线方法。

BITS Pilani at SemEval-2026 Task 9: Structured Supervised Fine-Tuning with DPO Refinement for Polarization Detection

BITS Pilani 在 SemEval-2026 任务 9：基于 DPO 细调的结构化监督微调用于极化检测

Atharva Gupta, Dhruv Kumar, Yash Sinha

机构 * Birla Institute of Technology and Science, Pilani, India（比拉理工学院和科学学院，瓦拉纳西，印度） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；preference optimization(abstract)

AI总结 本文提出结合结构化监督微调与 DPO 细调的方法，用于社交媒体文本中的极化检测，通过 LoRA 微调 Qwen 2.5-7B-Instruct 并利用自动偏好对减少误判，最终在英文测试集上达到 0.7664 的 Macro-F1 分数。

Comments Accepted to the 20th International Workshop on Semantic Evaluation (SemEval-2026), to be held in conjunction with ACL 2026

NCL-BU at SemEval-2026 Task 3: Fine-tuning XLM-RoBERTa for Multilingual Dimensional Sentiment Regression

NCL-BU 在 SemEval-2026 任务 3: 基于 XLM-RoBERTa 的多语言维度情感回归微调

Tong Wu, Nicolay Rusnachenko, Huizhi Liang

机构 * Independent Researcher（独立研究者） ； Centre for Applied Creative Technologies (CFACT+), Bournemouth University, UK（应用创意技术中心（CFACT+），伯恩茅斯大学，英国） ； School of Computing, Newcastle University, Newcastle upon Tyne, UK（计算学院，新castle大学，新castle upon Tyne，英国） 纠错

专题命中 指令微调 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文提出基于 XLM-RoBERTa 的微调方法，用于多语言维度情感回归任务，通过双回归头预测情感值和唤醒度，跨领域和语言进行训练，实验显示任务特定微调优于其他大语言模型。

NCL-UoR at SemEval-2026 Task 5: Embedding-Based Methods, Fine-Tuning, and LLMs for Word Sense Plausibility Rating

NCL-UoR在SemEval-2026任务5中的表现：基于嵌入的方法、微调与大语言模型用于词义可plausibility评分

Tong Wu, Thanet Markchom, Huizhi Liang

机构 * Independent Researcher（独立研究者） ； Department of Computer Science, University of Reading（阅读大学计算机科学系） ； School of Computing, Newcastle University（新castle大学计算学院） 纠错

专题命中 指令微调 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文比较了三种方法：基于嵌入的方法、Transformer微调和大语言模型提示，发现结构化提示优于微调和嵌入方法，提示设计比模型规模更重要。

WeatherSyn: An Instruction Tuning MLLM For Weather Forecasting Report Generation

WeatherSyn: 一种用于天气预报报告生成的指令微调MLLM

Zinan Zheng, Yang Liu, Nuo Chen, Juepeng Zheng, Hong Cheng, Jia Li

机构 * Hong Kong University of Science（香港科学大学） ； HY Foundation Model Team, Tencent（腾讯HY基础模型团队） ； The Chinese University of Hong Kong（香港中文大学） ； Sun Yat-Sen University（中山大学） ； National Supercomputing Center in Shenzhen（深圳国家超算中心） 纠错

专题命中 指令微调 ：instruction tuning(title)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出WeatherForecastingReport任务，构建首个指令微调数据集，开发首个专为生成天气预报报告设计的模型，验证其在多地区和多天气方面的优越性能。

Comments ICML 2026

The Convergence Gap: Instruction-Tuned Language Models Stabilize Later in the Forward Pass

收敛差距：指令微调语言模型在前向传递后期趋于稳定

Yifan Zhou

机构 * University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 指令微调 ：language model(title)；post-training(abstract)；prompting(abstract)；分类 cs.LG

AI总结 研究发现指令微调模型在前向传递后期更接近最终预测，通过分析六个预训练和指令微调检查点，发现后期MLP层对预测动态有显著影响。

Weblica: Scalable and Reproducible Training Environments for Visual Web Agents

Weblica: 可扩展且可重复的视觉网络代理训练环境

Oğuzhan Fatih Kar, Roman Bachmann, Yuanzheng Gong, Anders Boesen Lindbo Larsen, Afshin Dehghan

机构 * Apple（苹果公司） 纠错

专题命中 指令微调 ：LLM(summary_cn,abstract)；分类 cs.AI、cs.LG

AI总结 Weblica提出一种可扩展且可重复的视觉网络代理训练框架，通过HTTP级缓存和LLM环境合成技术，实现大规模多样化的网络环境训练，其最佳模型在多个网络导航基准中表现优异。

Comments 28 pages, 19 figures

When Does a Language Model Commit? A Finite-Answer Theory of Pre-Verbalization Commitment

语言模型何时做出承诺？一种有限答案理论的预言语承诺

Long Zhang, Wei-neng Chen, Feng-feng Wei, Zi-bo Qin

机构 * School of Computer Science and Engineering（计算机科学与工程学院） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究语言模型在生成最终答案前的推理过程，通过有限答案偏好稳定化理论分析模型在回答前的承诺时间，发现其在可解析前稳定，且信号可从隐藏状态恢复。

TAP: Two-Stage Adaptive Personalization of Multi-Task and Multi-Modal Foundation Models in Federated Learning

TAP: 多任务和多模态基础模型在联邦学习中的两阶段自适应个性化

Seohyun Lee, Wenzhi Fang, Dong-Jun Han, Seyyedali Hosseinalipour, Christopher G. Brinton

机构 * Purdue University（普渡大学） ； Yonsei University（延世大学） ； University at Buffalo-SUNY（布法罗大学-苏尼尔） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出TAP方法，通过两阶段自适应个性化在联邦学习中提升多任务和多模态基础模型的泛化能力，解决数据、任务和模态异质性问题。

Comments 29 pages

Retina-RAG: Retrieval-Augmented Vision-Language Modeling for Joint Retinal Diagnosis and Clinical Report Generation

Retina-RAG：基于检索增强的视觉-语言模型用于联合视网膜诊断和临床报告生成

Abdelrahman Zaian, Sheethal Bhat, Mohamed Abdalkader, Andreas Maier

机构 * Friedrich-Alexander-Universität（弗里德里希-亚历山大大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.AI

AI总结 Retina-RAG通过整合高精度视网膜分类器和参数高效视觉语言模型，实现糖尿病视网膜病变分级、黄斑水肿检测及报告生成，优于现有方法，且在单块消费级GPU上运行。

Comments 10 pages, 5 figures. Submitted to MICCAI 2026

Safety Anchor: Defending Harmful Fine-tuning via Geometric Bottlenecks

安全锚：通过几何瓶颈防御有害微调

Guoxin Lu, Letian Sha, Qing Wang, Peijie Sun, Hao Zhou, Hua Dai, Fu Xiao

机构 * Nanjing University of Posts and Telecommunications（南京邮电大学） 纠错

专题命中 指令微调 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出安全瓶颈正则化(SBR)，通过几何瓶颈层限制有害查询的隐藏状态，以对抗有害微调攻击，实验表明单个安全锚即可显著降低有害分数。

Comments Accepted to ICML 2026

CRAFT: Forgetting-Aware Intervention-Based Adaptation for Continual Learning

CRAFT：面向持续学习的遗忘感知干预式适应

Md Anwar Hossen, Fatema Siddika, Juan Pablo Munoz, Tanya Roosta, Ali Jannesari

机构 * Iowa State University（爱荷华州立大学） ； Maro Systems（Maro系统） ； University of California, Berkeley（加州大学伯克利分校） ； AMD 纠错

专题命中 指令微调 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 CRAFT通过在隐藏表示上学习低秩干预，避免更新模型权重，通过输出分布分歧路由任务、KL散度正则化和合并干预，减少遗忘并提升性能。

Comments 24 pages

MatryoshkaLoRA: Learning Accurate Hierarchical Low-Rank Representations for LLM Fine-Tuning

MatryoshkaLoRA: 学习准确的分层低秩表示以用于大语言模型微调

Ionut-Vlad Modoranu, Mher Safaryan, Dan Alistarh

机构 * ISTA ； Lancaster University, UK（兰卡斯特大学，英国） ； ISTA Institute of Science and Technology Austria (ISTA)（奥地利ISTA科学与技术研究所（ISTA）） 纠错

专题命中 指令微调 ：LLM(title)；分类 cs.CL、cs.AI、cs.LG

AI总结 MatryoshkaLoRA通过引入固定对角矩阵P，学习准确的分层低秩表示，实现动态秩选择并提升精度-性能平衡。

Fine-tuning a vision-language model for fracture-surface morphology recognition

对骨折表面形貌识别进行视觉-语言模型的微调

Quanliang Liu, Jungtaek Kim, Kangwook Lee, Hyunseok Oh

机构 * Department of Materials Science & Engineering, University of Wisconsin–Madison（威斯康星大学麦迪逊分校材料科学与工程系） ； Department of Electrical & Computer Engineering, University of Wisconsin–Madison（威斯康星大学麦迪逊分校电气与计算机工程系） ； KRAFTON ； Ludo Robotics 纠错

专题命中 指令微调 ：language model(title,abstract)

AI总结 本文通过微调开源视觉-语言模型，利用定制化的13168张骨折表面图像数据集，提升了对骨折表面形貌的识别能力，展示了在材料表征中的应用潜力。

LiteGUI: Distilling Compact GUI Agents with Reinforcement Learning

LiteGUI: 通过强化学习蒸馏紧凑的GUI代理

Yubin Wu, Zicheng Cai, Liping Ning, Hua Wang, Zhi Chen, Yaohua Tang, Hao Chen

机构 * Moore Threads AI 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 本文提出一种无需监督微调的训练方法，通过引导在线蒸馏和多解决方案双层GRPO框架，提升小规模模型在GUI任务中的性能和探索能力。

MIPIAD: Multilingual Indirect Prompt Injection Attack Defense with Qwen -- TF-IDF Hybrid and Meta-Ensemble Learning

MIPIAD: 多语言间接提示注入攻击防御与Qwen-TF-IDF混合及元集成学习

Al Muhit Muhtadi, Mostafa Rifat Tazwar

机构 * Bangladesh University of Engineering and Technology（孟加拉工程与技术大学） 纠错

专题命中 指令微调 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.LG

AI总结 本文提出MIPIAD框架，结合Qwen2.5-1.5B微调序列分类器、TF-IDF特征和元集成学习，通过合成基准测试在英文和孟加拉文上实现高准确率的攻击检测，有效减少跨语言差距。

Beyond Factor Aggregation: Gauge-Aware Low-Rank Server Representations for Federated LoRA

超越因子聚合：面向联邦LoRA的 gauge 意识低秩服务器表示

Jinqian Chen, Chang Liu, Jihua Zhu

机构 * School of Software Engineering（软件工程学院） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 GLoRA通过估计共识更新子空间和共享参考坐标，实现语义化的低秩更新聚合，优于联邦LoRA基线，在数据、资源和任务异质性下表现更优。

SEIF: Self-Evolving Reinforcement Learning for Instruction Following

SEIF：用于指令跟随的自演化强化学习

Qingyu Ren, Qianyu He, Jiajie Zhu, Xingzhou Chen, Jingwen Chang, Zeye Sun, Han Xia, Fei Yu, Jiaqing Liang, Yanghua Xiao

机构 * Shanghai Key Laboratory of Data Science, College of Computer Science and Artificial Intelligence, Fudan University（上海数据科学 key laboratory，计算机科学与人工智能学院，复旦大学） ； School of Data Science, Fudan University（数据科学学院，复旦大学） ； Ant Group（蚂蚁集团） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 SEIF提出了一种自演化框架，通过闭环自我进化提升大语言模型的指令跟随能力，通过动态调整指令难度与模型能力相互促进，实验表明其在多模型规模上均有效提升性能。

BoHA: Blockwise Hadamard Product Adaptation for Parameter-Efficient Fine-Tuning

BoHA：基于块状哈达玛积的参数高效微调

Feng Yu, Jia Hu, Geyong Min

机构 * Department of Computer Science（计算机科学系） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 BoHA通过块状哈达玛积适配在参数受限下提升模型微调性能，保留初始任务表现，优于LoRA并在连续学习中表现优异。

Activation Differences Reveal Backdoors: A Comparison of SAE Architectures

激活差异揭示后门：SAE架构的比较

Sachin Kumar

机构 * LexisNexis 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究通过对比稀疏自编码器架构，探讨如何通过激活差异检测语言模型中的后门，发现Diff-SAE在后门隔离中表现优于Crosscoders，且在不同层和微调策略下均有效。

Comments Accepted at IJCNN 2026 (IEEE WCCI). ©2026 IEEE

Benchmarking and Improving GUI Agents in High-Dynamic Environments

在高动态环境中评估和改进GUI代理

Enqi Liu, Liyuan Pan, Zhi Gao, Yan Yang, Chenrui Shi, Yang Liu, Jingrong Wu, Qing Li

机构 * Beijing Institute of Technology（北京理工大学） ； Beijing Institute for General Artificial Intelligence（北京通用人工智能研究院） ； Yangtze Delta Region Academy of Beijing Institute of Technology（北京理工大学长江三角洲地区研究院） ； Australian National University（澳大利亚国立大学） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)

AI总结 本文提出DynamicGUIBench和DynamicUI，通过动态界面处理方法提升高动态GUI环境下的代理性能，同时保持其他基准测试的竞争力。

The Moltbook Files: A Harmless Slopocalypse or Humanity's Last Experiment

Moltbook Files：一场无害的混乱还是人类的最后实验

William Brach, Federico Torrielli, Stine Lyngsø Beltoft, Annemette Brok Pirchert, Peter Schneider-Kamp, Lukas Galke Poech

机构 * Slovak University of Technology（斯洛伐克技术大学） ； University of Turin（都灵大学） ； University of Southern Denmark（南部丹麦大学） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究Moltbook平台上的群体行为，通过分析232k篇帖子和2.2M条评论，发现其数据对语言模型的影响，发现微调后真实性下降，但Reddit数据集也产生类似效果。

ProtSent: Protein Sentence Transformers

ProtSent：蛋白质句子变换器

Dan Ofer, Oriel Perets, Michal Linial, Nadav Rappoport

机构 * Department of Biological Chemistry（生物化学系） ； Department of Computer and Information Science（计算机与信息科学系） ； The Hebrew University of Jerusalem（耶路撒冷希伯来大学） ； Ben-Gurion University of the Negev（内盖夫本·古里安大学） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.CL、cs.LG

AI总结 ProtSent通过对比学习框架改进蛋白质语言模型，提升蛋白质功能和结构表征能力，在23项下游任务中表现优异，尤其在远程同源检测和结构检索中取得显著提升。

Comments 9 figures, appendix, 2 figures, open code and models

Conditional generation of antibody sequences with classifier-guided germline-absorbing discrete diffusion

基于分类器引导的germline吸收离散扩散的抗体序列生成

Justin Sanders, Luca Giancardo, Lan Guo, Yue Zhao, Kemal Sonmez, Nina Cheng, Melih Yilmaz

机构 * Paul G. Allen School of Computer Science and Engineering, University of Washington（华盛顿大学保罗·G·艾伦计算机科学与工程学院） ； Life Sciences, Amazon Web Services（亚马逊网络服务生命科学） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出germline吸收扩散模型，通过离散扩散微调提升抗体序列生成性能，有效减少germline偏差，改进非germline残基预测准确率，并在条件生成任务中优于现有方法。

Comments 9 pages, 2 figures, 2 tables

DurableUn: Quantization-Induced Recovery Attacks in Machine Unlearning

DurableUn: 机器无学习中量化诱导的恢复攻击

Abdullah Ahmad Khan, Ferdous Sohel

机构 * Murdoch University（默多克大学） 纠错

专题命中 指令微调 ：LLM(abstract_cn)；分类 cs.LG

AI总结 研究揭示在INT4量化下，即使模型通过BF16合规审计，也会系统性恢复被删除内容，提出DURABLEUN-SAF方法以实现稳定无学习性能。

Beyond GSD-as-Token: Continuous Scale Conditioning for Remote Sensing VLMs

超越GSD-as-Token：远程 sensing VLMs 的连续尺度调节

Song Zhang, Yanlong Chen, Yilin Li, Yining Chen, Zili Yi, Xiaowei Zhang, Yawei Li

机构 * Nanjing University（南京大学） ； ETH Zurich（苏黎世联邦理工学院） ； RWTH Aachen University（亚琛工业大学） 纠错

专题命中 指令微调 ：language model(abstract)

AI总结 本文提出ScaleEarth框架，通过连续尺度条件变量动态调节模型计算路径，结合SSE-U和GeoScale-VQA实现遥感VLMs在不同GSD下的高效适应。

Comments Under review. 30 pages, 16 figures, 7 tables

Sat3R: Satellite DSM Reconstruction via RPC-Aware Depth Fine-tuning

Sat3R: 通过RPC-aware深度微调实现卫星DSM重建

Qiaoyi Yang, Chaoyi Zhou, Xi Liu, Run Wang, Minghui Xu, Mert D. Pesé, Feng Luo, Yuhao Xu, Zhi-Qi Cheng, Qiushi Chen, Hairong Qi, Siyu Huang

机构 * Clemson University（克莱姆森大学） ； University of Washington（华盛顿大学） ； University of Tennessee（田纳西大学） 纠错

专题命中 指令微调 ：foundation model(abstract)

AI总结 Sat3R通过RPC-aware深度微调Depth Anything V2，利用SiLog损失构建物理一致的伪深度监督，实现无需每场景优化的卫星DSM重建，实验显示其在精度和速度上均优于现有方法。

Medvedev degrees of subshifts on groups

子群在群上的梅德维埃德度数

Sebastián Barbieri, Nicanor Carrasco-Vargas

专题命中 指令微调 ：SFT(abstract_cn)

AI总结 研究子移位在群上的梅德维埃德度数，通过代数和几何关系转移度数，对有限生成群的有限类型子移位进行分类，证明超几何平面准等距群具有非零度数。

Comments 26 pages, minor improvements