语言大模型 / LLM

SmileyLlama: Modifying Large Language Models for Directed Chemical Space Exploration

SmileyLlama：通过监督微调改进大语言模型以定向探索化学空间

Joseph M. Cavanagh, Kunyang Sun, Andrew Gritsevskiy, Dorian Bagni, Yingze Wang, Thomas D. Bannister, Teresa Head-Gordon

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；SFT(abstract)

AI总结 SmileyLlama通过监督微调和直接偏好优化，改进大语言模型以生成具有特定性质的药物分子，展示了其在药物发现中的应用潜力。

SimBench: Benchmarking the Ability of Large Language Models to Simulate Human Behaviors

SimBench：大型语言模型模拟人类行为能力的基准测试

Tiancheng Hu, Joachim Baumann, Lorenzo Lupo, Nigel Collier, Dirk Hovy, Paul Röttger

机构 * University of Cambridge（剑桥大学） ； Stanford University（斯坦福大学） ； Bocconi University（博科尼大学） ； University of Oxford（牛津大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；instruction tuning(abstract)

AI总结 SimBench通过统一20个多样化的数据集，评估大型语言模型模拟人类行为的 fidelity，发现模型性能与模型大小呈对数线性关系，但与计算资源无关，且存在指令微调与模拟准确性之间的权衡。

Comments Accepted at ICLR 2026. Project Website: http://simbench.tiancheng.hu/ Data: https://huggingface.co/datasets/pitehu/SimBench

DeCoVec: Building Decoding Space based Task Vector for Large Language Models via In-Context Learning

DeCoVec：通过上下文学习构建基于解码空间的任务向量以指导大语言模型

Feiyang Li, Yile Wang

机构 * College of Computer Science and Software Engineering, Shenzhen University（深圳大学计算机与软件学院） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL

AI总结 DeCoVec通过上下文学习在解码空间中构建任务向量，无需微调或侵入性操作，有效提升大语言模型性能，实验显示在多个数据集上优于基线方法。

Comments Accepted to ACL 2026 Findings

StyleBench: Evaluating thinking styles in Large Language Models

StyleBench: 评估大型语言模型中的思维风格

Junyu Guo, Shangding Gu, Ming Jin, Costas Spanos, Javad Lavaei

机构 * University of California, Berkeley（加州大学伯克利分校） ； Virginia Tech（弗吉尼亚理工大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文通过StyleBench评估不同推理风格在大型语言模型中的表现，发现结构复杂度在特定任务和模型容量下提升准确性，同时探讨了推理策略选择的挑战。

RL makes MLLMs see better than SFT

强化学习使多模态大语言模型比监督微调看得更清楚

Junha Song, Sangdoo Yun, Dongyoon Han, Jaegul Choo, Byeongho Heo

机构 * NAVER AI Lab（NAVER AI实验室） 纠错

专题命中 指令微调 ：SFT(title,abstract)；LLM(abstract)；language model(abstract)；pretraining(abstract)

AI总结 本文研究了强化学习在多模态大语言模型中的视觉编码器影响，发现RL能产生更精确的视觉表示，提出PIVOT方法提升视觉编码性能。

Enhancing Multimodal Large Language Models for Ancient Chinese Character Evolution Analysis via Glyph-Driven Fine-Tuning

通过字形驱动微调增强多模态大语言模型用于古汉字演变分析

Rui Song, Lida Shi, Ruihua Qi, Yingji Li, Hao Xu

机构 * College of Computer Science and Technology, Jilin University, China（吉林大学计算机科学与技术学院） ； Key Laboratory of Ancient Chinese Script, Culture Relics and Artificial Intelligence, Jilin University, China（吉林大学古文字、文物与人工智能重点实验室） ； School of Artificial Intelligence, Jilin University, China（吉林大学人工智能学院） ； School of Archaeology, Jilin University, China（吉林大学考古学院） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出GEVO框架，通过字形驱动微调提升多模态大语言模型在古汉字演变分析中的能力，实验显示模型在多个任务上均取得显著提升。

Comments Accepted by ACL 2026 main

TalkLoRA: Communication-Aware Mixture of Low-Rank Adaptation for Large Language Models

TalkLoRA: 一种面向通信的低秩适应混合框架用于大语言模型

Lin Mu, Haiyang Wang, Li Ni, Lei Sang, Zhize Wu, Peiquan Jin, Yiwen Zhang

机构 * Anhui University（安徽大学） ； Hefei University（合肥大学） ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 TalkLoRA通过引入专家间通信机制，提升LoRA在大语言模型中的参数效率和路由稳定性，实现在多种任务中更高效和均衡的专家路由。

Journal ref ACL 2026

How Many Tries Does It Take? Iterative Self-Repair in LLM Code Generation Across Model Scales and Benchmarks

需要多少次尝试？跨模型规模和基准的LLM代码生成中的迭代自修复

Johin Johny Arimbur

机构 * Independent Researcher（独立研究员） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 研究探讨了在不同模型规模和基准测试中，通过迭代自修复提高代码生成正确率的方法，发现自修复显著提升了通过率，且现代模型无需微调即可实现有效自修复。

Comments 11 pages, 7 figures, 8 tables

Risk Awareness Injection: Calibrating Vision-Language Models for Safety without Compromising Utility

风险感知注入：为安全校准视觉-语言模型而不牺牲实用性

Mengxuan Wang, Yuxin Chen, Gang Xu, Tao He, Hongjie Jiang, Ming Li

机构 * Shien-Ming Wu School of Intelligent Engineering, South China University of Technology（华南理工大学吴贤铭智能工程学院） ； Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ)（广东省人工智能与数字经济实验室（深圳）） ； Computer Science and Engineering, The Hong Kong University of Science and Technology（香港科技大学计算机科学与工程系） ； University of Electronic Science and Technology of China（电子科技大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出RAI框架，通过增强不安全信号恢复视觉-语言模型的安全识别能力，同时保持语义完整性，实验显示有效降低攻击成功率。

Why Steering Works: Toward a Unified View of Language Model Parameter Dynamics

为何转向有效：语言模型参数动态的统一视角

Ziwen Xu, Chenyan Wu, Hengyu Sun, Haiwen Hong, Mengru Wang, Yunzhi Yao, Longtao Huang, Hui Xue, Shumin Deng, Zhixuan Chu, Huajun Chen, Ningyu Zhang

机构 * Zhejiang University（浙江大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 指令微调 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出统一视角分析语言模型控制方法，通过偏好-效用分析揭示控制效果的权衡关系，并引入SPLIT方法提升偏好与效用。

Comments ACL 2026

Graph-Enhanced LLM for SWAN-ISAC

图增强的大语言模型用于SWAN-ISAC

Qian Gao, Ruikang Zhong, Yuanwei Liu

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出图增强大语言模型框架，用于分割捏缩天线辅助的ISAC系统，通过自图捕捉场景依赖交互，实现天线部署与波束成形预测的优化。

Re-Mask and Redirect: Exploiting Denoising Irreversibility in Diffusion Language Models

重新掩码和引导：利用去噪不可逆性在扩散语言模型中进行攻击

Arth Singh

机构 * National Institute of Technology Agartala（阿加尔塔拉国立理工学院） 纠错

专题命中 指令微调 ：language model(title,abstract)；SFT(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出TrajHijack攻击，通过重新掩码已承诺的拒绝标记并注入短的肯定前缀，显著提升ASR性能，揭示了扩散语言模型的安全性漏洞及防御机制的不足。

Comments 15 pages

Consolidation or Adaptation? PRISM: Disentangling SFT and RL Data via Gradient Concentration

巩固还是适应？PRISM：通过梯度集中解耦SFT和RL数据

Yang Zhao, Yangou Ouyang, Xiao Ding, Hepeng Wang, Bibo Cai, Kai Xiong, Jinglong Gao, Zhouhao Sun, Li Du, Bing Qin, Ting Liu

机构 * Research Center for Social Computing and Interactive Robotics, Harbin Institute of Technology（哈尔滨工业大学社会计算与交互机器人研究中心） ； Beijing Academy of Artificial Intelligence（北京人工智能研究院） 纠错

专题命中 指令微调 ：SFT(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 PRISM通过分析梯度空间结构，区分高冲突数据需RL重构与低冲突数据需SFT巩固，提升LLM训练效率与鲁棒性。

Comments ACL2026 Main Conference

Calibration Collapse Under Sycophancy Fine-Tuning: How Reward Hacking Breaks Uncertainty Quantification in LLMs

在奉承式微调下校准崩溃：奖励黑客如何破坏大语言模型的不确定性量化

Subramanyam Sahoo

机构 * Cambridge AI Safety Hub (CAISH)（剑桥人工智能安全中心） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；SFT(abstract)；RLHF(abstract)

AI总结 研究探讨了在强化学习从人类反馈（RLHF）等方案中，奉承式微调对校准的影响，发现GRPO微调导致校准退化，尽管效果不显著，但经矩阵缩放后仍保留较高校准误差。

Comments Accepted at the AISTATS 2026 Workshop on Towards Trustworthy Predictions: Theory and Applications of Calibration for Modern AI. 14 Pages

Toward Generalized Cross-Lingual Hateful Language Detection with Web-Scale Data and Ensemble LLM Annotations

迈向基于网络级数据和集成大语言模型标注的通用多语言仇恨语言检测

Dang H. Dang, Jelena Mitrovi, Michael Granitzer

专题命中 指令微调 ：LLM(title,abstract)；language model(abstract)；分类 cs.CL

AI总结 本文研究大规模未标注网络数据与基于大语言模型的合成标注对多语言仇恨语检测的提升作用，通过继续预训练BERT模型和集成LLM标注策略，展示了在低资源环境下显著的性能提升。

Comments 8 Pages, 3 tables, LREC 2026 papers

GenProve: Learning to Generate Text with Fine-Grained Provenance

GenProve：学习生成文本的细粒度溯源

Jingxuan Wei, Xingyue Wang, Yanghaoyu Liao, Jie Dong, Yuchen Liu, Caijun Jia, Bihui Yu, Junnan Zhu

机构 * Key Laboratory of Computing Power Network and Information Security, Ministry of Education, Shandong Computer Science Center (National Supercomputer Center in Jinan), Qilu University of Technology (Shandong Academy of Sciences)（计算能力网络与信息安全教育部重点实验室，山东省计算中心（国家超级计算济南中心），齐鲁工业大学（山东省科学院）） ； Shenyang Institute of Computing Technology, Chinese Academy of Sciences（中国科学院沈阳计算技术研究所） ； MAIS, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所多模态人工智能系统实验室） ； University of Chinese Academy of Sciences（中国科学院大学） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；SFT(abstract)

AI总结 本文提出GenProve框架，通过结合监督微调与组相对策略优化，提升生成文本的准确性和细粒度溯源能力，优于14个强LLM。

Aligning What LLMs Do and Say: Towards Self-Consistent Explanations

对LLMs的行为与说法进行对齐：迈向自洽的解释

Sahar Admoni, Ofra Amir, Assaf Hallak, Yftah Ziser

机构 * Technion – Israel Institute of Technology（以色列理工学院） ； Nvidia Research（英伟达研究院） ； University of Groningen（格罗宁根大学） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；preference optimization(abstract)

AI总结 研究通过比较回答与解释的特征重要性分布，发现后验自一致性银行(PSCB)能更可靠地体现模型决策与解释的一致性，应用DPO优化提升对齐性而不影响任务精度。

Comments Accepted to Findings of ACL 2026

Proximal Supervised Fine-Tuning

近端监督微调

Wenhong Zhu, Ruobing Xie, Rui Wang, Xingwu Sun, Di Wang, Pengfei Liu

机构 * Shanghai Jiao Tong University（上海交通大学） ； Shanghai Innovation Institute（上海创新研究院） ； Large Language Model Department, Tencent（腾讯大语言模型部） ； University of Macau（澳门大学） 纠错

专题命中 指令微调 ：foundation model(abstract)；post-training(abstract)；SFT(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出近端监督微调（PSFT），通过引入信任区域方法约束策略漂移，提升模型在新领域中的泛化能力，实验显示其在跨领域泛化和长期稳定性方面优于传统监督微调。

Comments ICLR 2026

Disambiguation-Centric Finetuning Makes Enterprise Tool-Calling LLMs More Realistic and Less Risky

以消歧为核心的知识蒸馏使企业工具调用LLM更真实且更安全

Ashutosh Hathidara, Julien Yu, Sebastian Schreiber

机构 * SAP Labs（SAP实验室） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出DiaFORGE框架，通过三阶段流程提升企业工具调用LLM的准确性和安全性，实验显示其在工具调用成功率上优于GPT-4o和Claude-3.5-Sonnet。

Comments ACL 2026 Findings

MM-LIMA: Less Is More for Alignment in Multi-Modal Datasets

MM-LIMA：多模态数据集对齐中的‘少即是多’

Lai Wei, Xiaozhe Li, Zihao Jiang, Weiran Huang, Lichao Sun

机构 * School of Computer Science, Shanghai Jiao Tong University（上海交通大学计算机科学与工程学院） ； Shanghai Innovation Institute（上海创新研究院） ； Lehigh University（里海大学） ； Tongji University（同济大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；instruction tuning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出MM-LIMA，仅用200个示例（约6%的指令数据）训练，通过数据选择器过滤低质量数据，使模型在多项评估中超越MiniGPT-4，证明高质量少量指令数据的有效性。

Comments Published at Artificial Intelligence for Engineering

Unified Graph Prompt Learning via Low-Rank Graph Message Prompting

通过低秩图消息提示实现统一图提示学习

Beibei Wang, Bo Jiang, Ziyan Zhang, Jin Tang

机构 * School of Computer Science and Technology, Anhui University（安徽大学计算机科学与技术学院） ； State Key Laboratory of Opto-Electronic Information Acquisition and Protection Technology, School of Computer Science and Technology, Anhui University（安徽大学计算机科学与技术学院光电信息获取与防护技术国家重点实验室） 纠错

专题命中 指令微调 ：prompting(title,abstract)；分类 cs.LG

AI总结 本文提出低秩图消息提示（LR-GMP），通过统一的提示空间实现对所有图组件的联合提示，提升模型在多样化下游任务中的泛化能力和鲁棒性。

New Hybrid Fine-Tuning Paradigm for LLMs: Algorithm Design and Convergence Analysis Framework

大语言模型的新混合微调范式：算法设计与收敛分析框架

Shaocong Ma, Peiran Yu, Heng Huang

机构 * University of Maryland（马里兰大学） ； University of Texas Arlington（德克萨斯大学阿灵顿分校） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种混合微调方法，结合零阶和一阶优化方法更新LLM和PEFT模块，通过混合平滑条件理论分析其收敛性，并在多种下游任务中验证了有效性。

Comments Accepted by ICLR 2026

On the Effectiveness of Textual Prompting with Lightweight Fine-Tuning for SAM3 Remote Sensing Segmentation

在轻量级微调下文本提示对SAM3遥感分割有效性研究

Roni Blushtein-Livnon, Osher Rafaeli, David Ioffe, Amir Boger, Karen Sandberg Esquenazi, Tal Svoray

机构 * Ben-Gurion University of the Negev（内盖夫本-古里安大学） 纠错

专题命中 指令微调 ：prompting(title,abstract)

AI总结 本文探讨了在有限监督下，通过文本提示和轻量级微调提升SAM3在遥感图像分割中的性能，发现结合语义和几何信息能获得最佳效果，而纯文本提示在不规则目标上表现较差。

CLSGen: A Dual-Head Fine-Tuning Framework for Joint Probabilistic Classification and Verbalized Explanation

CLSGen：一种用于联合概率分类和 verbalized 解释的双头微调框架

WonJin Yoon, Kangyu Zhu, Ian Bulovic, Autumn Sehy, Yanjun Gao, Dmitriy Dligach, Majid Afshar, Timothy A. Miller

机构 * Boston Children’s Hospital（波士顿儿童医院） ； Harvard Medical School（哈佛医学院） ； University of Colorado Anschutz Medical Campus（科罗拉多大学安施图茨医学院） ； Loyola University Chicago（芝加哥洛约拉大学） ； University of Wisconsin Madison（威斯康星大学麦迪逊分校） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 CLSGen 提出了一种双头微调框架，通过新的架构和方法实现概率估计与解释生成的平衡，实验表明其在分类和解释质量上优于现有基线。

BoxTuning: Directly Injecting the Object Box for Multimodal Model Fine-Tuning

BoxTuning：直接注入物体框进行多模态模型微调

Zekun Qian, Ruize Han, Wei Feng

机构 * School of Computer Science and Technology, Tianjin University（天津大学计算机科学与技术学院） ； Faculty of Computer Science and Artificial Intelligence, Shenzhen University of Advanced Technology（深圳理工大学计算机科学与人工智能学院） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.AI

AI总结 BoxTuning通过将物体空间时间信息直接注入视觉模态，解决多模态大语言模型在视频问答中物体细粒度定位的不足，显著降低token成本并保持时间分辨率，实验表明其在空间导向任务中优于文本坐标方法。

Do LLMs Feel? Teaching Emotion Recognition with Prompts, Retrieval, and Curriculum Learning

LLMs能否感知情绪？通过提示、检索和课程学习进行情绪识别

Xinran Li, Yu Liu, Jiaqi Qiao, Xiujuan Xu

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出PRC-Emo框架，结合提示工程、示范检索和课程学习，探索LLM在对话中感知情绪的能力，实验表明在IEMOCAP和MELD数据集上达到新的SOTA性能。

Comments Accepted at AAAI 2026

Journal ref Proc. AAAI Conf. on Artificial Intelligence, Vol. 40, No. 38, pp. 31778-31786 (2026)

Tree Training: Accelerating Agentic LLMs Training via Shared Prefix Reuse

树训练：通过共享前缀重用加速代理LLM训练

Jinghui Wang, Shaojie Wang, Yinghan Cui, Xuxing Chen, Chao Wang, Liang Huang, Xiaojiang Zhang, Junyi Peng, Li Wan, Haotian Zhang, Bin Chen

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出Tree Training框架，通过DFS序列化和树分区策略，高效处理树状token轨迹，实现LLM训练速度提升6.2倍。

Ultra-Low-Dimensional Prompt Tuning via Random Projection

超低维提示调优

Zijun Wu, Yongchang Hao, Lili Mou

机构 * Dept. Computing Science & Alberta Machine Intelligence Institute (Amii), University of Alberta（阿尔伯塔大学计算机科学系与阿尔伯塔机器智能研究所） ； Canada CIFAR AI Chair（加拿大CIFAR人工智能讲席） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出超低维提示调优方法，通过在低维空间优化提示并在冻结随机矩阵上进行上投影，实现训练参数减少98%且保持性能，适用于大规模LLM定制。

Comments Accepted by EACL 2026 (Main Conference, Long Paper)

Jailbreaking the Matrix: Nullspace Steering for Controlled Model Subversion

矩阵劫持：用于受控模型反制的空域操控

Vishal Pramanik, Maisha Maliha, Susmit Jha, Sumit Kumar Jha

机构 * Department of Computer & Information Science & Engineering, University of Florida（佛罗里达大学计算机与信息科学与工程系） ； School of Computer Science, University of Oklahoma（俄克拉荷马大学计算机科学学院） ； Computer Science Laboratory, SRI International（SRI国际计算机科学实验室） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；instruction tuning(abstract)；分类 cs.AI

AI总结 本文提出HMNS方法，通过识别并抑制注意力头，注入受限于正交补集的扰动，实现对模型的受控反制，展示了新的安全防御范式。

FashionMV: Product-Level Composed Image Retrieval with Multi-View Fashion Data

FashionMV：基于多视角时尚数据的产品级复合图像检索

Peng Yuan, Bingyin Mei, Hui Zhang

机构 * Tsinghua University（清华大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.AI

AI总结 本文提出FashionMV，首个大规模多视角时尚数据集，用于产品级复合图像检索。通过构建包含127K产品、472K多视角图像和220K三元组的数据集，结合ProCIR框架，采用多阶段对话、标题对齐和思维链引导等机制，提升了检索性能。