语言大模型 / LLM

Toward Graph-Tokenizing Large Language Models with Reconstructive Graph Instruction Tuning

迈向通过重构图指令微调的大型语言模型的图-词化

Zhongjian Zhang, Xiao Wang, Mengmei Zhang, Jiarui Tan, Chuan Shi

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； Beihang University（北航） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；instruction tuning(title,abstract)；LLM(abstract)

AI总结 本文提出RGLM方法，通过重构图信息和显式图监督改进图-词化LLMs的对齐效果，提升对图结构的理解与利用。

Comments accepted by WWW 2026

FCN-LLM: Empower LLM for Brain Functional Connectivity Network Understanding via Graph-level Multi-task Instruction Tuning

FCN-LLM: 通过图级多任务指令微调赋能LLM理解脑功能连接网络

Xingcan Hu, Wei Wang, Li Xiao

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 指令微调 ：LLM(title,abstract)；instruction tuning(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 FCN-LLM通过图级多任务指令微调使LLM理解脑功能连接网络，提升其在临床任务中的泛化能力。

Prompt and Parameter Co-Optimization for Large Language Models

用于大型语言模型的提示与参数联合优化

Xiaohe Bo, Rui Li, Zexu Sun, Quanyu Dai, Zeyu Zhang, Zihang Tian, Xu Chen, Zhenhua Dong

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学人工智能学院） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出MetaTuner框架，通过联合优化提示和参数提升大型语言模型性能，通过共享编码层和监督正则化损失实现协同优化。

Comments ICLR 2026

Rewarding Doubt: A Reinforcement Learning Approach to Calibrated Confidence Expression of Large Language Models

奖励怀疑：一种强化学习方法用于大语言模型的校准置信表达

David Bani-Harouni, Chantal Pellegrini, Paul Stangel, Ege Özsoy, Kamilia Zaripova, Nassir Navab, Matthias Keicher

机构 * Technical University of Munich（慕尼黑技术大学） ； Munich Center for Machine Learning（慕尼黑机器学习中心） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出了一种强化学习方法，通过直接微调大语言模型以实现校准的置信度表达，提升了模型的置信度校准能力和泛化能力。

Building a Strong Instruction Language Model for a Less-Resourced Language

为资源较少的语言构建一个强大的指令语言模型

Domen Vreš, Tjaša Arčon, Timotej Petrič, Dario Vajda, Marko Robnik-Šikonja, Iztok Lebar Bajec

机构 * University of Ljubljana, Faculty of Computer and Information Science（卢布尔雅那大学计算机与信息科学学院） 纠错

专题命中 指令微调 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；pretraining(abstract)

AI总结 本文提出了一种针对斯洛文尼亚语的高性能开源语言模型GaMS3-12B，通过预训练和微调方法在多个评估任务中优于现有模型。

Comments Currently under review at Natural Language Processing Special Issue on Language Models for Low-Resource Languages

SecP-Tuning: Efficient Privacy-Preserving Prompt Tuning for Large Language Models via MPC

SecP-Tuning: 通过MPC实现大语言模型高效隐私保护提示微调

Jinglong Luo, Zhuo Zhang, Yehong Zhang, Shiyu Liu, Ye Dong, Hui Wang, Yue Yu, Xun Zhou, Zenglin Xu

机构 * Pengcheng Laboratory（鹏城实验室） ； Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） ； Fudan University（复旦大学） ； Shanghai Academy of AI for Science（上海人工智能科学研究院） ； Institute of Statistical Interdisciplinary Research, Southwestern University of Finance and Economics（统计交叉学科研究所，西南财经大学） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；SFT(abstract)；分类 cs.LG

AI总结 SecP-Tuning通过MPC实现大语言模型高效隐私保护提示微调，显著提升微调效率并减少通信开销。

Comments ICLR 2026

A Foundational Individual Mobility Prediction Model based on Open-Source Large Language Models

基于开源大型语言模型的个体移动性预测基础模型

Zhenlin Qin, Leizhen Wang, Yancheng Ling, Francisco Camara Pereira, Zhenliang Ma

机构 * Department of Civil and Architectural Engineering, KTH Royal Institute of Technology（土木与建筑系，皇家理工学院） ； Department of Data Science and Artificial Intelligence, Monash University（数据科学与人工智能系，莫纳什大学） ； Department of Technology, Management and Economics Intelligent Transportation Systems, Technical University of Denmark（技术、管理与经济智能交通系统系，丹麦技术大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL

AI总结 本文提出MoBLLM，基于开源大语言模型，通过参数高效微调技术实现个体移动性预测，具有高准确性和成本效益，适用于多种交通场景。

Journal ref Transportation Research Part C: Emerging Technologies, Vol. 185, 105562 (2026)

Antibody: Strengthening Defense Against Harmful Fine-Tuning for Large Language Models via Attenuating Harmful Gradient Influence

Antibody: 通过削弱有害梯度影响来加强对抗有害微调的防御

Quoc Minh Nguyen, Trung Le, Jing Wu, Anh Tuan Bui, Mehrtash Harandi

机构 * Department of Electrical and Computer Systems Engineering, Monash University, Australia（莫纳什大学电气与计算机系统工程系） ； Department of Data Science and AI, Monash University, Australia（莫纳什大学数据科学与人工智能系） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 Antibody通过削弱有害梯度影响，提升大型语言模型对有害微调攻击的防御能力，并增强微调性能。

Comments Published at ICLR 2026

Training Large Language Models To Reason In Parallel With Global Forking Tokens

训练大型语言模型以并行推理与全局分叉标记

Sheng Jia, Xiao Wang, Shiva Prasad Kasiviswanathan

机构 * University of Toronto（多伦多大学） ； Amazon（亚马逊） ； Vector Institute（向量研究所） 纠错

专题命中 指令微调 ：large language model(title)；language model(title)；SFT(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出SSFT和GFPO方法，通过集合基于的损失和双射匹配，提升大型语言模型在并行推理中的多样性和准确性，从而在数学推理和代码生成任务中取得优于传统SFT的性能。

Comments Accepted at ICLR 2026

Journal ref The Fourteenth International Conference on Learning Representations (ICLR 2026), https://openreview.net/forum?id=xBQvvkg4Wc

Token-level Data Selection for Safe LLM Fine-tuning

令牌级数据选择用于安全大语言模型微调

Yanping Li, Zhening Liu, Zijian Li, Zehong Lin, Jun Zhang

机构 * The Hong Kong University of Science（香港科学与技术大学） ； School of Data Science, Lingnan University（岭南大学数据科学学院） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出TOSS框架，通过令牌级数据选择提升LLM微调的安全性，同时在下游任务性能上优于现有样本级防御方法。

Comments Accepted by ICLR 2026

Relational Transformer: Toward Zero-Shot Foundation Models for Relational Data

关系变换器：面向关系数据的零样本基础模型

Rishabh Ranjan, Valter Hudovernik, Mark Znidar, Charilaos Kanatsoulis, Roshan Upendra, Mahmoud Mohammadi, Joe Meyer, Tom Palczewski, Carlos Guestrin, Jure Leskovec

专题命中 指令微调 ：foundation model(title,abstract)；LLM(abstract)；prompting(abstract)；分类 cs.AI、cs.LG

AI总结 关系变换器通过零样本迁移能力，为关系数据提供高效的基础模型解决方案。

Comments Accepted to ICLR 2026

Self-Destructive Language Model

自我毁灭型语言模型

Yuhui Wang, Rongyi Zhu, Ting Wang

机构 * Department of Computer Science（计算机科学系） 纠错

专题命中 指令微调 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.AI、cs.LG

AI总结 SEAM是一种通过自我毁灭机制增强大语言模型安全性的新型防御方法，通过使模型在面对有害数据微调时性能急剧下降，从而有效抵御攻击。

Comments Accepted to ICLR 2026

Individual Turing Test: A Case Study of LLM-based Simulation Using Longitudinal Personal Data

个体图灵测试：基于长期个人数据的LLM模拟案例研究

Minghao Guo, Ziyi Ye, Wujiang Xu, Xi Zhu, Wenyue Hua, Dimitris N. Metaxas

机构 * Rutgers University（罗格斯大学） ； Fudan University（复旦大学） ； Microsoft（微软公司） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出个体图灵测试，通过长期个人数据评估LLM模拟个体的能力，发现不同方法在日常聊天与个人意见上的表现存在显著差异。

Comments 5 pages, 2 figures

When Does RL Help Medical VLMs? Disentangling Vision, SFT, and RL Gains

当RL帮助医疗VLMs时？解构视觉、SFT和RL增益

Ahmadreza Jeddi, Kimia Shaban, Negin Baghbanzadeh, Natasha Sharan, Abhishek Moturu, Elham Dolatabadi, Babak Taati

机构 * University of Toronto, Canada（多伦多大学） ； Vector Institute, Canada（向量研究所） ； KITE Research Institute, University Health Network, Canada（KITE研究机构） ； York University, Canada（约克大学） 纠错

专题命中 指令微调 ：SFT(title,abstract)；language model(abstract)；post-training(abstract)

AI总结 研究通过解构视觉、SFT和RL增益，发现RL在模型已有支持时最有效，SFT扩展支持使RL有效，提出边界意识的配方并实现强性能。

ProtegoFed: Backdoor-Free Federated Instruction Tuning with Interspersed Poisoned Data

ProtegoFed: 无后门联邦指令微调与交错毒数据

Haodong Zhao, Jinming Hu, Zhaomin Wu, Zongru Wu, Wei Du, Junyi Hou, Caibei Zhao, Zhuosheng Zhang, Bingsheng He, Gongshen Liu

专题命中 指令微调 ：instruction tuning(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 ProtegoFed通过频域梯度和全局二次聚类机制，实现无后门的联邦指令微调，有效检测并净化跨客户端的毒数据。

Comments Work in progress

MLLM-4D: Towards Visual-based Spatial-Temporal Intelligence

MLLM-4D: 向基于视觉的空间-时间智能迈进

Xingyilang Yin, Chengzhengxu Li, Jiahao Chang, Chi-Man Pun, Xiaodong Cun

机构 * University of Macau（澳门大学） ； Xi'an Jiaotong University（西安交通大学） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； GVC Lab, Great Bay University（大湾大学GVC实验室） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；post-training(abstract)；SFT(abstract)

AI总结 MLLM-4D通过改进的数据筛选和训练策略，实现了从2D输入中强大的空间-时间理解和推理能力。

ROMA: a Read-Only-Memory-based Accelerator for QLoRA-based On-Device LLM

ROMA: 一种基于只读存储器的QLoRA加速器

Wenqiang Wang, Yijia Zhang, Zikai Zhang, Guanting Huo, Hao Liang, Shijie Cao, Ningyi Xu

机构 * Shanghai Jiao Tong University（上海交通大学） ； Huixi Intelligence（汇溪智能） ； Peking University（北京大学） ； Microsoft Research Asia（微软亚洲研究院） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 ROMA是一种基于只读存储器的QLoRA加速器，通过混合存储架构和B-ROM设计，实现高效存储和加速LLM在边缘设备上的部署。

Regularization Through Reasoning: Systematic Improvements in Language Model Classification via Explanation-Enhanced Fine-Tuning

通过推理进行正则化：通过解释增强微调提升语言模型分类性能

Vivswan Shah, Randy Cogill, Hanwei Yue, Gopinath Chennupati, Rinat Khaziev

机构 * Amazon Central Analytics and Research Science（亚马逊中央分析与研究科学） 纠错

专题命中 指令微调 ：language model(title)；LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 通过在微调中加入解释增强，提升语言模型分类的准确性和可靠性，揭示令牌级结构对推理过程的影响。

PointAlign: Feature-Level Alignment Regularization for 3D Vision-Language Models

PointAlign：用于3D视觉-语言模型的特征级对齐正则化

Yuanhao Su, Shaofeng Zhang, Xiaosong Jia, Qi Fan

机构 * University of Science and Technology of China（中国科学技术大学） ； Fuzhou University（福州大学） ； Fudan University（复旦大学） ； Nanjing University（南京大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；LLM(abstract)

AI总结 PointAlign通过特征级对齐正则化提升3D视觉-语言模型的几何信息保留与任务性能

Comments CVPR 2026 Accepted

Who Controls the Conversation? User Perspectives On Generative AI (LLM) System Prompts

谁控制对话？生成AI（LLM）系统提示的用户视角

Anna Neumann, Yulu Pi, Jatinder Singh

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)

AI总结 本文探讨用户对生成AI系统提示的认知与需求，旨在通过用户视角优化系统提示设计与治理实践。

Comments Accepted to CHI 2026 Paper Track

CharacterFlywheel: Scaling Iterative Improvement of Engaging and Steerable LLMs in Production

CharacterFlywheel: 在生产环境中迭代改进社交聊天应用中吸引人且可操控的大型语言模型

Yixin Nie, Lin Guan, Zhongyao Ma, Anchit Gupta, Yipin Zhou, Xiao Li, Zhengping Zhou, Raymond Zeng, Gelin Zhou, Shigan Chu, Ajay Thampi, Wancen Mu, Nathan Shuster, Ketong Wang, Lin Chen, Jason Brewer, Derek Hao Hu, Alexander McCauley, Jason Weston, Sem Park, Na Zhang, Kevin Tang

机构 * Meta Superintelligence Labs（Meta超智能实验室） ； FAIR at Meta（Meta的FAIR部门） ； OpenAI（开放人工智能研究所） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.CL、cs.AI

AI总结 CharacterFlywheel通过迭代优化提升社交聊天应用中LLMs的参与度和可操控性，实现显著的性能提升。

Enhancing Persona Following at Decoding Time via Dynamic Importance Estimation for Role-Playing Agents

通过动态重要性估计增强解码时的个性跟随以用于角色扮演代理

Yuxin Liu, Mingye Zhu, Siyuan Liu, Bo Hu, Lei Zhang

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；language agent(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出了一种基于理论的动态重要性估计方法，通过加权奖励引导解码提升角色扮演代理在动态场景中的个性跟随能力。

Comments ICLR 2026

LOGIGEN: Logic-Driven Generation of Verifiable Agentic Tasks

LOGIGEN: 逻辑驱动的可验证代理任务生成

Yucheng Zeng, Weipeng Lu, Linyun Liu, Shupeng Li, Zitian Qu, Chenghao Zhu, Shaofei Li, Zhengdong Tan, Mengyue Liu, Haotian Zhao, Zhe Zhou, Jianmin Wu

机构 * Baidu Inc.（百度公司） ； Tsinghua University（清华大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.AI

AI总结 LOGIGEN通过逻辑驱动和验证训练生成可验证的复杂任务，提升代理在复杂环境中的任务完成率。

Investigating Group Relative Policy Optimization for Diffusion Transformer based Text-to-Audio Generation

探究基于扩散变压器的文本到音频生成中的群体相对策略优化

Yi Gu, Yanqing Liu, Chen Yang, Sheng Zhao

机构 * Tsinghua University（清华大学） ； Microsoft（微软） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文基于扩散变压器架构，利用群体相对策略优化提升文本到音频生成的保真度和提示遵循性。

Prompt Injection Vulnerability of Consensus Generating Applications in Digital Democracy

共识生成应用在数字民主中的提示注入漏洞

Jairo Gudiño-Rosero, Clément Contet, Umberto Grandi, César A. Hidalgo

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 研究揭示了共识生成LLMs在数字民主中的提示注入漏洞，并提出鲁棒性方法以减少方向性失败。

Comments 33 pages, 11 figures, 11 tables

StructXLIP: Enhancing Vision-language Models with Multimodal Structural Cues

StructXLIP: 通过多模态结构线索增强视觉-语言模型

Zanxi Ruan, Songqun Gao, Qiuyu Kong, Yiming Wang, Marco Cristani

专题命中 指令微调 ：language model(title)；分类 cs.AI

AI总结 StructXLIP通过引入多模态结构线索提升视觉-语言模型的跨模态检索性能。

Comments Accepted by CVPR 2026

ALTER: Asymmetric LoRA for Token-Entropy-Guided Unlearning of LLMs

ALTER: 用于LLM中基于令牌熵引导的不对称LoRA去学习

Xunlei Chen, Jinyu Guo, Yuang Li, Zhaokun Wang, Yi Gong, Jie Zou, Jiwei Wei, Wenhong Tian

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 ALTER通过不对称LoRA架构实现基于令牌熵引导的LLM高效去学习，取得SOTA性能并保留高模型效用。

Comments Accepted at The 40th Annual AAAI Conference on Artificial Intelligence (AAAI 2026)

LexChronos: An Agentic Framework for Structured Event Timeline Extraction in Indian Jurisprudence

LexChronos：一个用于印度法理学中结构化事件时间线提取的代理框架

Anka Chandrahas Tummepalli, Preethu Rose Anish

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 LexChronos通过双代理架构提取印度最高法院判决中的结构化事件时间线，提升法律文本理解和推理能力。

Comments Published in AILaw @ AAAI 2026 Conference

Journal ref AILaw @ AAAI 2026

CoVe: Training Interactive Tool-Use Agents via Constraint-Guided Verification

CoVe：通过约束引导验证训练交互工具使用代理

Jinpeng Chen, Cheng Gong, Hanbo Li, Ziru Liu, Zichen Tian, Xinyu Fu, Shi Wu, Chenyang Zhang, Wu Zhang, Suiyun Zhang, Dandan Tu, Rui Liu

机构 * Huawei Research（华为研究） 纠错

专题命中 指令微调 ：post-training(abstract)；SFT(abstract)；分类 cs.AI

AI总结 CoVe通过约束引导验证方法有效提升交互式工具使用代理的训练数据合成效率与质量。

AWARE-US: Preference-Aware Infeasibility Resolution in Tool-Calling Agents

AWARE-US: 工具调用代理中的偏好意识不可行性解决

Mehmet Kurmaz

机构 * Department of Computer Science University College London（计算机科学系伦敦大学学院） 纠错

专题命中 指令微调 ：LLM(abstract)；preference optimization(abstract)；分类 cs.AI

AI总结 AWARE-US通过三种LLM方法解决工具调用代理中的不可行性问题，提升用户偏好一致性。

Comments 22 pages, 5 figures, 6 tables