语言大模型 / LLM

Reward-Aware Population Scaling of Evolutionary Strategies in LLM Fine-Tuning

语言模型微调中基于奖励感知的进化策略种群规模缩放

Sung Cho, Gyubin Han

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究在大语言模型微调中，进化策略种群规模缩放与奖励设计及归一化的关系。通过实验发现交叉熵与二元奖励微调种群规模结论差异大，主要因奖励设计和归一化，禁用归一化可改进小种群模型表现，揭示小种群失败可能是实现问题而非内在限制。

Comments 15 pages, 2 figures. Accepted at the 4th HiLD (High-dimensional Learning Dynamics) Workshop, ICML 2026

PGN: Design and Implementation of a Vision-Language Navigation System Based on Pangu Multimodal Foundation Model

PGN：基于盘古多模态基础模型的视觉语言导航系统的设计与实现

Li Xian, Mingxi Li, Yizheng Wang, Yiming Shen, Qi Chen, Zhuoling Xiao

机构 * University of Electronic Science and Technology of China（电子科技大学） ； School of Information and Communication Engineering（信息与通信工程学院） 纠错

专题命中 指令微调 ：foundation model(title)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究基于盘古多模态基础模型设计实现视觉语言导航系统PGN，训练分两阶段，先对齐视觉与语言编码器，再使模型适应专家轨迹，结合多种计算方式，在特定评估下取得一定指标，量化了离线专家动作对齐情况。

Comments 6 pages, 5 figures

A vision foundation model for single-cell biology via spatial gene cartography

通过空间基因制图构建单细胞生物学的视觉基础模型

Ridvan Yesiloglu, Sakib Mostafa, James Zou, Ash Alizadeh, Jiajun Wu, Lei Xing, Ehsan Adeli, Md Tauhidul Islam

机构 * Stanford University（斯坦福大学） ； Stanford University School of Medicine（斯坦福大学医学院） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；language model(abstract)；分类 cs.LG

AI总结 研究提出scVision视觉基础模型，利用最优传输将基因布局成图像，通过掩码图像建模预训练视觉Transformer。该模型在零样本评估中表现出色，能无监督恢复基因程序，在多研究整合中效果好，还证明基因布局位置携带信号，重塑单细胞表示学习为视觉问题。

Comments 54 pages, 34 figures, 10 tables, including supplementary information. Project page: https://islamlab.org/scvision

Policy of Thoughts: Scaling Test-Time Training for LLM Reasoning via Online Policy Evolution

思维策略：通过在线策略进化扩展大语言模型推理的测试时训练

Zhengbo Jiao, Hongyu Xian, Qinglong Wang, Yunpu Ma, Zhebo Wang, Zifan Zhang, Dezhang Kong, Meng Han

机构 * Binjiang Institute, Zhejiang University（浙江大学滨江学院） ； Shanghai University of Finance and Economics（上海财经大学） ； South China Normal University（华南师范大学） ； LMU Munich（慕尼黑大学） ； Wuhan University（武汉大学） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究针对大语言模型复杂推理难题，提出思维策略（PoT）框架，通过高效探索机制生成候选解，用组相对策略优化更新LoRA适配器，实现推理策略实时进化，显著提升模型性能。

Comments Under Review, preprint

Enhancement of E-commerce Sponsored Search Relevancy with LLM

利用大语言模型提升电子商务赞助搜索的相关性

Md Omar Faruk Rokon, Andrei Simion, Weizhi Du, Musen Wen, Hong Yao, Kuang-chih Lee

机构 * Walmart AdTech（沃尔玛广告技术） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究利用预训练大语言模型在电子商务赞助搜索框架中开发先进广告相关性模型，通过LoRA改编LLAMA2 7B模型，引入新型分类器，经训练显著提升搜索精度和效率。

Comments eCom 24: ACM SIGIR Workshop on eCommerce, July 18, 2024, Washington, DC, USA

Contrastive Training with LLM-generated Near-Misses for Robust Code-Switching Speech Recognition

基于大语言模型生成近误样本的对比训练用于鲁棒语码转换语音识别

Tung X. Nguyen, Hieu Minh Truong, Giang Son Nguyen, Nhu Vo, Wray Buntine, Dung D. Le

机构 * VinUniversity（文大学） ； University of Technology Sydney（技术悉尼大学） ； Monash University（莫纳什大学） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出POI感知对比训练框架，通过大语言模型生成近误负样本并过滤，结合POI加权交叉熵与多负例对比损失微调Whisper-small，在语码转换语音识别任务上降低超过2%的错误率。

Comments Accepted at INTERSPEECH 2026

Localizing and Editing Knowledge in Large Audio-Language Models

定位与编辑大型音频-语言模型中的知识

Sung Kyun Chung, Jiaheng Dong, Qiuchi Hu, Gongping Huang, Hong Jia, Ting Dang

机构 * The University of Melbourne, Australia（墨尔本大学） ； University of Auckland, New Zealand（奥克兰大学） ； Wuhan University, China（武汉大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；LLM(abstract_cn)；分类 cs.LG

AI总结 提出首个音频知识定位与编辑基准，通过语音感知因果追踪定位事实知识存储的层和模块，并应用编辑实现细粒度知识控制。

Comments Paper was accepted by Interspeech 2026

Task-Adaptive Parameter-Efficient Fine-Tuning for Weather Foundation Models

面向天气基础模型的任务自适应参数高效微调

Shilei Cao, Hehai Lin, Jiashun Cheng, Yang Liu, Guowen Li, Xuehe Wang, Juepeng Zheng, Haoyuan Liang, Meng Jin, Chengwei Qin, Hong Cheng, Haohuan Fu

机构 * Sun Yat-sen University（中山大学） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； The Hong Kong University of Science and Technology（香港科技大学） ； The Chinese University of Hong Kong（香港中文大学） ； National Supercomputing Center in Shenzhen（深圳国家超算中心） ； Huawei Technologies Co., Ltd（华为技术有限公司） ； Tsinghua University（清华大学） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；prompting(abstract)；分类 cs.LG

AI总结 提出WeatherPEFT框架，通过任务自适应动态提示和随机Fisher引导自适应选择，在天气下游任务上以更少参数达到全微调性能。

AsFT: Anchoring Safety During LLM Fine-Tuning Within Narrow Safety Basin

AsFT：在窄安全盆地内锚定大语言模型微调期间的安全性

Shuo Yang, Qihui Zhang, Yuyang Liu, Xiaojun Jia, Kunpeng Ning, Jiayu Yao, Jigang Wang, Hailiang Dai, Yibing Song, Li Yuan

机构 * National University of Singapore（新加坡国立大学） ； University of Science and Technology of China（中国科学技术大学） ； Tsinghua University（清华大学） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 针对微调大语言模型时安全性易受损的问题，提出AsFT方法，通过惩罚与对齐方向正交的更新，将模型约束在窄安全盆地内，在提升任务性能的同时显著降低有害行为。

Language-Aware Token Boosting: LLM Language Confusion Reduction Without Tuning

语言感知令牌增强：无需微调的大语言模型语言混淆减少

Trapoom Ukarapol, Pakhapoom Sarapat, Nut Chukamphaeng

机构 * SCB DataX ； Tsinghua University（清华大学） ； SCBX 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出无需微调的语言混淆减少方法，通过语言感知令牌增强（LATB）和自适应版本（Adaptive-LATB）对目标语言令牌施加扰动，有效提升多语言对齐并保持摘要质量。

Comments ACL2026 Main Conference

Emotion-Aware Image Generation from Korean Diary Text via LLM-based Prompt Translation and LoRA Fine-Tuning

基于LLM提示翻译和LoRA微调的韩语日记文本情感感知图像生成

Jihun Cho, Soo-Yeon Jeong, Sun-Young Ihm

机构 * KAIST（韩国科学技术院） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；分类 cs.AI

AI总结 提出一种情感感知文本到图像流水线，利用Qwen3-8B识别短日记中的隐含情感，并通过LoRA微调Stable Diffusion 3.5 Medium生成儿童手绘风格图像，同时探讨情感触发词的影响及CLIP Score作为评估指标的局限性。

Comments 4 pages, 4 figures, 2 tables, MITA 2026

Journal ref Proc. Int. Conf. Multimedia, Information Technology and its Applications (MITA), 2026

SpectCount: Spectrotemporal Counting via Synthetic Signals Improves Large Audio Language Models

SpectCount: 通过合成信号进行频谱时间计数改进大型音频语言模型

Seonuk Kim, Yonghyeon Jun, Ju Yeon Kang, Jimin Hong, Yoonhyeong Lee, Nam Soo Kim

机构 * Department of Electrical and Computer Engineering and INMC, Seoul National University, Seoul, South Korea（电气与计算机工程系和INMC，首尔国立大学，首尔，韩国） 纠错

专题命中 指令微调 ：language model(title,abstract)；large language model(abstract)；分类 cs.AI

AI总结 针对大型音频语言模型在频谱时间感知上的弱点，提出SpectCount方法，利用动态生成的完全合成音频信号进行数据高效微调，无需真实音频或标注，显著提升多种听觉基准性能。

Comments 5 pages, 5 figures

Masks Can Be Distracting: On Context Comprehension in Diffusion Language Models

掩码可能具有干扰性：关于扩散语言模型中的上下文理解

Julianna Piskorz, Cristina Pinneri, Alvaro Correia, Motasem Alfarra, Risheek Garrepalli, Christos Louizos

机构 * University of Cambridge（剑桥大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.LG

AI总结 本文研究了扩散语言模型中掩码对上下文理解的影响，发现掩码会干扰模型对相关信息的处理，提出一种掩码无关的损失函数以提高模型的鲁棒性。

Comments Published at the Forty-Third International Conference on Machine Learning (ICML 2026)

EvoBrain: Continual Learning of EEG Foundation Models Across Heterogeneous BCI Tasks

EvoBrain: 面向异构BCI任务的EEG基础模型的持续学习

Yangxuan Zhou, Sha Zhao, Jiquan Wang, Shijian Li, Gang Pan

机构 * State Key Laboratory of Brain-machine Intelligence and College of Computer Science and Technology, Zhejiang University（脑机智能国家重点实验室和浙江大学计算机科学与技术学院） ； MOE Frontier Science Center for Brain Science and Brain-Machine Integration, Zhejiang University（教育部脑科学与脑机集成前沿科学中心，浙江大学） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；post-training(abstract)；分类 cs.AI

AI总结 提出EvoBrain框架，通过神经频谱任务归一化和响应亲和蒸馏，解决EEG基础模型在异构BCI任务中的持续学习问题，实现跨任务知识迁移和遗忘缓解。

Comments 18 pages,12 figures

Dynamic Proxy-Mixing: Transferring Replay Controllers from Small to Large Models for Continual Instruction Tuning

动态代理混合：将重放控制器从小模型迁移到大模型以进行持续指令微调

Ibne Farabi Shihab, Fariya Afrin, Anuj Sharma

机构 * Department of Computer Science, Iowa State University（爱荷华州立大学计算机科学系） ； Department of Computer Science, Kalinga Institute of Industrial Technology（卡林加工业技术学院计算机科学系） ； Department of Civil, Construction & Environmental Engineering, Iowa State University（爱荷华州立大学土木、建筑与环境工程系） 纠错

专题命中 指令微调 ：instruction tuning(title,abstract)；language model(abstract)；分类 cs.LG

AI总结 提出PROXY-MIX框架，通过在小代理模型上学习动态重放控制器并冻结迁移至大模型，以解决持续指令微调中固定重放比例导致的灾难性遗忘问题，在LLaMA-3-8B上平均准确率提升3.4%，遗忘降低3.5%，安全性提升5.8%。

Feature Geometry of LoRA Adapters: A Sparse Autoencoder Analysis of Representational Divergence in Fine-Tuned Language Models

LoRA适配器的特征几何：微调语言模型中表示差异的稀疏自编码器分析

Prasanth K K

机构 * Independent AI Safety Researcher（独立人工智能安全研究员） 纠错

专题命中 指令微调 ：language model(title,abstract)；large language model(abstract)；分类 cs.LG

AI总结 本研究使用稀疏自编码器分析LoRA微调引起的表示几何变化，发现LoRA特征字典与预训练特征存在弱几何对齐，且适配器特定SAE能更有效重建delta激活。

Open-Weight LLM Fine-Tuning Defenses are Susceptible to Simple Attacks

开源权重大语言模型微调防御易受简单攻击

Kevin Kuo, Chhavi Yadav, Virginia Smith

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Simons Institute, UC Berkeley（Simons研究所，伯克利大学） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文发现针对开源权重大语言模型的防御措施易受abliteration和prefilling等低成本攻击，并提出abliteration-resistant tuning (ART) 方法将攻击成功率降低10%-20%。

Comments main body: 9 pages, 3 figures

MAGIC: Multimodal Alignment & Grounding-aware Instruction Coreset for Vision-Language Models

MAGIC: 面向视觉语言模型的多模态对齐与接地感知指令核心集

Shristi Das Biswas, Kaushik Roy

机构 * Purdue University（普渡大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；instruction tuning(abstract)；分类 cs.CL

AI总结 提出MAGIC方法，利用预训练VLM中的多模态增益、桥接相关性和技能神经元签名三种内在信号，通过无训练、前向传播的核心集选择，构建紧凑且行为保真的子集用于多模态指令微调，在20%预算下达到甚至超越全微调性能。

Ablating Safety: Mechanisms for Removing Alignment in Language Models for Security Applications

消除安全性：用于安全应用的语言模型对齐机制

Isaac David, Arthur Gervais

机构 * University College London（伦敦大学学院） 纠错

专题命中 指令微调 ：language model(title,abstract)；prompting(abstract)；分类 cs.AI

AI总结 该研究探讨了通过受控转换评估协议去除语言模型对齐机制的方法，评估了安全任务中的拒绝率、尝试率、安全成功率、一般能力保留、不稳定性及超出范围的不安全合规性，证明了去除对齐作为效用-风险前沿的重要性，而非单纯的去审查配方。

Fine-tuning with Hierarchical Prompting for Robust Propaganda Classification Across Annotation Schemas

基于分层提示的微调：跨注释方案的鲁棒宣传分类

Lukas Stähelin, Veronika Solopova, Max Upravitelev, David Kaplan, Ariana Sahitaj, Premtim Sahitaj, Charlott Jakob, Sebastian Möller, Vera Schmitt

机构 * Technische Universität Berlin, QU Lab, XplaiNLP Group（技术大学柏林，QU实验室，XplaiNLP小组） ； German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI）） ； Centre for European Research in Trusted AI (CERTAIN)（可信AI欧洲研究中心（CERTAIN）） 纠错

专题命中 指令微调 ：prompting(title,abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出一种意图导向的宣传技术分类体系，通过四个语言模型评估，发现微调对提升性能至关重要，Qwen模型在整体表现上最优，而Phi-4 14B在复杂注释方案中表现突出。

Persona-Conditioned Adversarial Prompting: Multi-Identity Red-Teaming for Adversarial Discovery and Mitigation

基于身份的对抗提示：多身份红队测试用于对抗发现与缓解

Cristian Morasso, Anisa Halimi, Muhammad Zaid Hameed, Douglas Leith

机构 * IBM Research（IBM研究院） ； Trinity College Dublin（都柏林大学） 纠错

专题命中 指令微调 ：prompting(title,abstract)；LLM(abstract_cn)；分类 cs.LG

AI总结 本文提出PCAP方法，通过多身份对抗搜索发现真实攻击场景，提升模型鲁棒性，生成多样化防御数据集。

HEBATRON: A Hebrew-Specialized Open-Weight Mixture-of-Experts Language Model

HEBATRON：一种 Hebrew 专用的开放权重混合专家语言模型

Noam Kayzer, Dan Revital, Ori Bar Joseph, Smadar Arvatz, Or Levi, Tal Geva, Shaltiel Shmidman, Amir DN Cohen, Noam Ordan, Omer Baruch, Kate Zinkovskaia, Zevi Apini, Sarel Weinberger

机构 * PwC（普华永道） 纠错

专题命中 指令微调 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL

AI总结 HEBATRON基于NVIDIA Nemotron-3架构，通过三阶段课程学习提升性能，实现Hebrew推理准确率73.8%，并在长上下文支持下达到9倍推理吞吐量。

When More Parameters Hurt: Foundation Model Priors Amplify Worst-Client Disparity Under Extreme Federated Heterogeneity

当更多参数有害：基础模型先验放大极端联邦异质性下的最差客户端差异

Kiran Naseer, Umar Shoaib

机构 * University of Gujrat（瓜尔杰特大学） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；pretraining(abstract)；分类 cs.LG

AI总结 研究发现，在极端联邦异质性下，基础模型先验可能加剧最差客户端的差异，通过实验对比文本分类中TextCNN与DistilBERT+LoRA的表现，揭示FM公平性悖论。

Comments 7 pages, 5 figures. Submitted to FL@FM-IJCAI 2026 Workshop

WeatherSyn: An Instruction Tuning MLLM For Weather Forecasting Report Generation

WeatherSyn: 一种用于天气预报报告生成的指令微调MLLM

Zinan Zheng, Yang Liu, Nuo Chen, Juepeng Zheng, Hong Cheng, Jia Li

机构 * Hong Kong University of Science（香港科学大学） ； HY Foundation Model Team, Tencent（腾讯HY基础模型团队） ； The Chinese University of Hong Kong（香港中文大学） ； Sun Yat-Sen University（中山大学） ； National Supercomputing Center in Shenzhen（深圳国家超算中心） 纠错

专题命中 指令微调 ：instruction tuning(title)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出WeatherForecastingReport任务，构建首个指令微调数据集，开发首个专为生成天气预报报告设计的模型，验证其在多地区和多天气方面的优越性能。

Comments ICML 2026

The Convergence Gap: Instruction-Tuned Language Models Stabilize Later in the Forward Pass

收敛差距：指令微调语言模型在前向传递后期趋于稳定

Yifan Zhou

机构 * University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 指令微调 ：language model(title)；post-training(abstract)；prompting(abstract)；分类 cs.LG

AI总结 研究发现指令微调模型在前向传递后期更接近最终预测，通过分析六个预训练和指令微调检查点，发现后期MLP层对预测动态有显著影响。

Secret Stealing Attacks on Local LLM Fine-Tuning through Supply-Chain Model Code Backdoors

通过供应链模型代码后门进行本地LLM微调中的秘密窃取攻击

Zi Li, Tian Zhou, Wenze Li, Jingyu Hua, Yunlong Mao, Sheng Zhong

机构 * Nanjing University（南京大学） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；分类 cs.AI

AI总结 研究揭示本地微调数据中敏感信息泄露风险，提出通过供应链代码后门实现主动执行劫持，引入确定性全链记忆机制，实现高精度秘密窃取，实验表明方法在不干扰主要任务的前提下达到98%以上的ASR。

Contextual Linear Activation Steering of Language Models

上下文线性激活引导的语言模型

Brandon Hsu, Daniel Beaglehole, Adityanarayanan Radhakrishnan, Mikhail Belkin

机构 * UC San Diego（加州大学圣地亚哥分校） ； MIT（麻省理工学院） ； Broad Institute of MIT and Harvard（麻省理工学院与哈佛大学Broad研究所） 纠错

专题命中 指令微调 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL

AI总结 本文提出CLAS方法，通过动态调整线性激活引导强度，在有限标注数据下提升语言模型的专精能力，优于传统方法和ReFT、LoRA。

SGP-SAM: Self-Gated Prompting for Transferring 3D Segment Anything Models to Lesion Segmentation

SGP-SAM：用于将3D分割任何模型转移到病变分割的自门控提示

Zixuan Tang, Shen Zhao

机构 * School of Intelligent Systems Engineering, Sun Yat-sen University, Shenzhen China（智能系统工程学院，中山大学，深圳中国） 纠错

专题命中 指令微调 ：prompting(title,abstract)；foundation model(abstract)；分类 cs.AI

AI总结 本文提出SGP-SAM，通过自门控提示模块提升3D病变分割的转移效果，设计Zoom损失增强小病变学习，实验显示在肝肿瘤和脑肿瘤数据集上优于基线模型。

Can LLMs Interpret and Leverage Structured Linguistic Representations? A Case Study with AMRs

大型语言模型能否解释并利用结构化的语言表示？一项基于AMR的案例研究

Ankush Raut, Xiaofeng Zhu, Maria Leonor Pacheco

机构 * University of Colorado Boulder（科罗拉多大学博尔德分校） ； Northwestern University（西北大学） 纠错

专题命中 指令微调 ：LLM(abstract,abstract_cn)；large language model(abstract,journal_ref)；language model(abstract,journal_ref)；分类 cs.CL

AI总结 本文研究了大型语言模型在结构化语言表示下的表现，发现短文任务中添加AMR会降低性能，但长文任务如对话摘要能提升模型表现，尤其在大模型中效果更显著。

Comments 13 pages, 23 figures. Accepted to XLLM Workshop at ACL 2025

Journal ref Proceedings of the 1st Joint Workshop on Large Language Models and Structure Modeling (XLLM 2025), page 173, Vienna, Austria. Association for Computational Linguistics

ANCHOR: LLM-driven Subject Conditioning for Text-to-Image Synthesis

ANCHOR：基于大语言模型的文本到图像合成中的主体条件化

Aashish Anantha Ramakrishnan, Sharon X. Huang, Dongwon Lee

机构 * Optum AI ； The Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 ANCHOR通过大规模抽象式标题数据集研究文本到图像合成中多主体理解与上下文推理的缺陷，提出基于大语言模型的主体感知微调方法，提升图像-标题一致性与人类偏好对齐。

Comments Accepted to The 64th Annual Meeting of the Association for Computational Linguistics (ACL) 2026