语言大模型 / LLM

Reflect-Guard: Enhancing LLM Safeguards against Adversarial Prompts via Logical Self-Reflection

Reflect-Guard: 通过逻辑自我反思增强大语言模型对对抗性提示的防护

Lixing Lin, Juli You, Yue Li, Luyun Lin, Yiqing Wang, Zhen Zhang, Moxuan Zheng

机构 * Yale University（耶鲁大学） ； Columbia University（哥伦比亚大学） ； Citigroup（摩根大通） ； Independent Researcher（独立研究者） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出Reflect-Guard方法，通过参数高效微调为大语言模型安全分类器注入链式思维自我反思能力，显著提升对对抗性越狱攻击的检测性能。

Comments 12 pages, 2 figures, and 4 tables

Modeling Pathology-Like Behavioral Patterns in Language Models Through Behavioral Fine-Tuning

通过行为微调建模病理样行为模式

Nicola Milano, Davide Marocco

机构 * University of Naples Federico II（那不勒斯费德里科二世大学） ； Natural and Artificial Cognition Laboratory（自然与人工认知实验室） ； Department of Humanities（人文学部） 纠错

专题命中 指令微调 ：language model(title,abstract)；LLM(abstract_cn)；large language model(abstract)；分类 cs.CL

AI总结 本文研究了通过行为微调在语言模型中建模病理样行为模式，采用结构化决策任务进行微调，发现模型在不同上下文中产生稳定的生成分布变化，表明行为优化能影响语言生成的分布特性。

StrLoRA: Towards Streaming Continual Visual Instruction Tuning for MLLMs

StrLoRA: 向流式连续视觉指令微调迈进以适应大规模多模态语言模型

Chang Che, Ziqi Wang, Hui Ma, Cheems Wang, Zenglin Shi

机构 * Hefei University of Technology（合肥工业大学） ； Tsinghua University（清华大学） 纠错

专题命中 指令微调 ：instruction tuning(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出StrLoRA，一种流式连续视觉指令微调方法，旨在解决动态任务流中模型持续学习的问题，通过任务感知的专家路由框架提升模型在不断变化的数据流中的表现。

BatchWeave: A Consistent Object-Store-Native Data Plane for Large Foundation Model Training

BatchWeave: 一种用于大规模基础模型训练的一致对象存储原生数据平面

Ting Sun, Junjie Zhang, Xiao Yan, Songxin Zhang, Zhuoyang Song, Jingyi Xi, Zunyao Mao, Bingyi Jing, Jiaxing Zhang, Zejian Xie

机构 * Lionrock AI Lab, China Merchants Group, Hong Kong, China（狮岩人工智能实验室，中国商人集团，香港，中国） ； Wuhan University, Wuhan, China（武汉大学，武汉，中国） ； The Chinese University of Hong Kong, Shenzhen, China（香港中文大学（深圳）） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；SFT(abstract,abstract_cn)；分类 cs.LG

AI总结 BatchWeave通过版本化清单和条件对象写入协调批量发布、恢复和生命周期管理，提供一致的分布式基础模型训练数据平面，支持事务全局批量、去中心化适应提交算法，提升吞吐量和故障隔离能力。

LoRA in LoRA: Towards Parameter-Efficient Architecture Expansion for Continual Visual Instruction Tuning

LoRA in LoRA: 朝着参数高效架构扩展的方向：持续视觉指令微调

Chang Che, Ziqi Wang, Pengwan Yang, Qi Wang, Hui Ma, Zenglin Shi

机构 * Hefei University of Technology（合肥工业大学） ； University of Amsterdam（阿姆斯特丹大学） ； Tsinghua University（清华大学） 纠错

专题命中 指令微调 ：instruction tuning(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出LiLoRA，一种高效的持续视觉指令微调架构扩展方法，通过共享LoRA矩阵A、低秩分解矩阵B以及余弦正则化损失，提升参数效率和任务学习性能。

Comments AAAI 2026 Oral Presentation. 9 pages

Journal ref Proceedings of the AAAI Conference on Artificial Intelligence, 40(24):19978--19986, 2026

Holmes: A Benchmark to Assess the Linguistic Competence of Language Models

Holmes：一个评估语言模型语言能力的基准

Andreas Waldis, Yotam Perlitz, Leshem Choshen, Yufang Hou, Iryna Gurevych

机构 * Ubiquitous Knowledge Processing Lab (UKP Lab)（通用知识处理实验室） ； Technical University of Darmstadt（达姆施塔特技术大学） ； Information Systems Research Lab（信息系统研究实验室） ； Lucerne University of Applied Sciences and Arts（卢塞恩应用科学与艺术大学） ； IBM Research AI（IBM AI研究部） ； MIT CSAIL（MIT CSAIL实验室） ； MIT-IBM Watson AI Lab（MIT-IBM沃森AI实验室） ； IBM Research Europe - Ireland（IBM欧洲爱尔兰研究部） 纠错

专题命中 指令微调 ：language model(title,abstract)；instruction tuning(abstract)；prompting(abstract)；分类 cs.CL

AI总结 Holmes基准通过分类器探测方法评估语言模型对语法、形态学等语言现象的理解，发现模型大小、架构和指令微调显著影响性能，提出FlashHolmes提升效率。

Enhanced LLM Reasoning by Optimizing Reward Functions with Search-Driven Reinforcement Learning

通过搜索驱动强化学习优化奖励函数以增强大语言模型推理能力

Arash Ahmadi, Sarah Sharif, Yaser, Banad

机构 * School of Electrical and Computer Engineering, University of Oklahoma（俄克拉荷马大学电气与计算机工程学院） ； Intelligent Neuromorphic and Quantum Understanding for Innovative Research and Engineering (INQUIRE) Laboratory, University of Oklahoma（智能神经形态与量子理解创新研究与工程实验室，俄克拉荷马大学） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 本文提出一种搜索驱动框架，通过优化奖励函数提升大语言模型推理能力，通过五轮搜索生成50个候选奖励，最终获得79.5%的F1分数，优于基线方法。

FedSpy-LLM: Towards Scalable and Generalizable Data Reconstruction Attacks from Gradients on LLMs

FedSpy-LLM: 向可扩展和通用的数据重建攻击迈进：从LLM上的梯度中提取私有数据

Syed Irfan Ali Meerza, Feiyi Wang, Jian Liu

机构 * University of Tennessee, Knoxville（田纳西大学诺克斯维尔分校） ； Oak Ridge National Laboratory（橡树岭国家实验室） ； University of Georgia（佐治亚大学） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出FedSpy-LLM，一种可扩展且通用的数据重建攻击方法，旨在从LLM的梯度中恢复更大批次和更长序列的训练数据，适用于多种模型架构，即使使用PEFT方法训练。核心是新的梯度分解策略，利用梯度的秩不足和子空间结构，实现高效令牌提取并保持关键信号。

Controlling Distributional Bias in Multi-Round LLM Generation via KL-Optimized Fine-Tuning

通过KL优化微调控制多轮LLM生成的分布偏倚

Yanbei Jiang, Amr Keleg, Ryandito Diandaru, Jey Han Lau, Lea Frermann, Biaoyan Fang, Fajri Koto

机构 * University of Melbourne（墨尔本大学） ； Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； Oracle（甲骨文公司） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；preference optimization(abstract)

AI总结 本文提出通过KL优化微调结合语义对齐的方法，解决多轮LLM生成中分布控制问题，实验显示其在属性生成任务中表现优异。

Comments Accepted at ACL Main Conference

Can LLMs Predict Academic Collaboration? Topology Heuristics vs. LLM-Based Link Prediction on Real Co-authorship Networks

大语言模型能预测学术合作吗？拓扑启发式方法与基于LLM的链接预测在真实合著网络中的比较

Fan Huang, Munjung Kim

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文研究了大语言模型能否通过作者资料预测未来学术合作，发现LLM与拓扑启发式方法捕捉不同信号，在互补场景中表现最佳，且在不平衡数据中表现优异。

Optimal Brain Decomposition for Accurate LLM Low-Rank Approximation

用于准确LLM低秩近似的最优脑分解

Yuhang Li, Donghyun Lee, Ruokai Yin, Priyadarshini Panda

机构 * Yale University（耶鲁大学） ； University of Sounthern California（南加州大学） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出OBD-LLM，通过利用二阶Hessian信息在模型空间中研究分解问题，结合输入输出信息实现更优的低秩近似，比传统方法提升20-40%。

GazeQwen: Lightweight Gaze-Conditioned LLM Modulation for Streaming Video Understanding

GazeQwen: 轻量级 gaze-条件 LLM 调制用于流视频理解

Trong Thang Pham, Hien Nguyen, Ngan Le

机构 * University of Arkansas（阿肯色大学） ； University of Houston（休斯顿大学） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 GazeQwen 通过隐藏状态调制使开源 MLLM 获得 gaze 意识，采用紧凑的 gaze resampler 和可选 LoRA 调整，在 StreamGaze 基准上达到 63.9% 准确率，优于其他模型。

Lightweight Fairness for LLM-Based Recommendations via Kernelized Projection and Gated Adapters

基于核化投影和门控专家的轻量公平性方法用于基于LLM的推荐

Nan Cui, Wendy Hui Wang, Yue Ning

机构 * Department of Computer Science, Stevens Institute of Technology, Hoboken NJ, USA（计算机科学系，史蒂文斯理工学院，新泽西州霍博肯） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出一种轻量级方法，结合核化投影与门控专家适配器，以减轻LLM推荐系统中的偏见，通过无额外参数的投影去除敏感属性，同时保留任务效用。

PolicySim: An LLM-Based Agent Social Simulation Sandbox for Proactive Policy Optimization

PolicySim：一种基于LLM的代理社会模拟沙盒，用于主动政策优化

Renhong Huang, Ning Tang, Jiarong Xu, Yuxuan Cao, Qingqian Tu, Sheng Guo, Bo Zheng, Huiyuan Liu, Yang Yang

机构 * Zhejiang University（浙江大学） ； Fudan University（复旦大学） ； University of Nottingham（诺丁汉大学） ； PowerChina Huadong Engineering Corporation Limited（国家电网华东工程公司） 纠错

专题命中 指令微调 ：LLM(title,abstract)；SFT(abstract)；preference optimization(abstract)；分类 cs.AI

AI总结 本文提出PolicySim，通过用户代理模块和自适应干预模块，模拟用户行为与平台干预的双向动态，实现对干预政策的主动评估与优化。

LAMB: LLM-based Audio Captioning with Modality Gap Bridging via Cauchy-Schwarz Divergence

LAMB：基于LLM的音频描述通过Cauchy-Schwarz散度弥合模态间隙

Hyeongkeun Lee, Jongmin Choi, KiHyun Nam, Joon Son Chung

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出LAMB框架，通过Cauchy-Schwarz散度弥合音频与文本嵌入空间的模态差距，设计Two-Stream Adapter和Token Guide提升LLM解码器推理能力，在AudioCaps上取得最佳性能。

Comments 5 pages, 2 figures; Accepted to ICASSP 2026

OptMerge: Unifying Multimodal LLM Capabilities and Modalities via Model Merging

OptMerge: 通过模型融合统一多模态大语言模型的能力与模态

Yongxian Wei, Runxi Cheng, Weike Jin, Enneng Yang, Li Shen, Lu Hou, Sinan Du, Chun Yuan, Xiaochun Cao, Dacheng Tao

机构 * Tsinghua University（清华大学） ； Huawei Noah’s Ark Lab（华为诺亚实验室） ； Sun Yat-sen University（中山大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；foundation model(abstract)

AI总结 OptMerge通过模型融合统一多模态大语言模型的能力与模态，提出基准和算法提升性能2.48%

Individual Turing Test: A Case Study of LLM-based Simulation Using Longitudinal Personal Data

个体图灵测试：基于长期个人数据的LLM模拟案例研究

Minghao Guo, Ziyi Ye, Wujiang Xu, Xi Zhu, Wenyue Hua, Dimitris N. Metaxas

机构 * Rutgers University（罗格斯大学） ； Fudan University（复旦大学） ； Microsoft（微软公司） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出个体图灵测试，通过长期个人数据评估LLM模拟个体的能力，发现不同方法在日常聊天与个人意见上的表现存在显著差异。

Comments 5 pages, 2 figures

Intention-Adaptive LLM Fine-Tuning for Text Revision Generation

意图自适应的LLM微调用于文本修订生成

Zhexiong Liu, Diane Litman

机构 * Department of Computer Science, Learning Research & Development Center University of Pittsburgh（计算机科学系、学习研究与开发中心宾夕法尼亚大学） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出Intention-Tuning框架，通过意图自适应的逐层微调提升文本修订生成效果。

Comments In the Conference of the European Chapter of the Association for Computational Linguistics (EACL), March 2026

EyeLayer: Integrating Human Attention Patterns into LLM-Based Code Summarization

EyeLayer：将人类注意力模式整合到基于LLM的代码摘要中

Jiahao Zhang, Yifan Zhang, Kevin Leach, Yu Huang

机构 * Vanderbilt University（范德比尔特大学） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 EyeLayer通过整合人类眼动模式提升LLM代码摘要效果，实现13.17%的BLEU-4提升。

Comments Accepted at the 34th IEEE/ACM International Conference on Program Comprehension (ICPC 2026), April 12-13, 2026, Rio de Janeiro, Brazil

Whisper: Courtside Edition Enhancing ASR Performance Through LLM-Driven Context Generation

Whisper：球场版通过LLM驱动的上下文生成提升ASR性能

Yonathan Ron, Shiri Gilboa, Tammuz Dubnov

机构 * Reichman University（里奇曼大学） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 Whisper：球场版通过LLM驱动的上下文生成提升ASR性能，实现17%的词错误率降低。

This human study did not involve human subjects: Validating LLM simulations as behavioral evidence

这项人研究未涉及人类受试者：验证LLM模拟作为行为证据

Jessica Hullman, David Broska, Huaman Sun, Aaron Shaw

机构 * Northwestern University（西北大学） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文探讨了使用大型语言模型作为行为证据的有效性，对比了启发式方法与统计校准方法在社会科学实验中的应用及优劣。

Under-resourced studies of under-resourced languages: lemmatization and POS-tagging with LLM annotators for historical Armenian, Georgian, Greek and Syriac

低资源语言的低资源研究：利用LLM标注者进行历史亚美尼亚、格鲁吉亚、希腊和叙利亚语的词形还原与词性标注

Chahan Vidal-Gorène, Bastien Kindt, Florian Cafiero

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；foundation model(abstract)

AI总结 本文研究了LLM在低资源语言词形还原和词性标注中的表现，发现其在少量样本设置中表现优异，尤其在缺乏数据时能有效辅助标注。

The Magic Correlations: Understanding Knowledge Transfer from Pretraining to Supervised Fine-Tuning

魔法相关性：从预训练到监督微调的知识转移理解

Simin Fan, Dimitris Paparas, Natasha Noy, Binbin Xiong, Noveen Sachdeva, Berivan Isik

机构 * Google Research（谷歌研究） ； EPFL（瑞士联邦理工学院） 纠错

专题命中 指令微调 ：pretraining(title,abstract)；language model(abstract)；SFT(abstract)；分类 cs.LG

AI总结 本研究通过分析预训练到监督微调的知识转移，揭示了不同能力类别、基准测试和模型规模间转移可靠性的差异，为模型开发和数据整理提供指导。

Charting Empirical Laws for LLM Fine-Tuning in Scientific Multi-Discipline Learning

绘制LLM微调的实证定律以用于科学多学科学习

Lintao Wang, Zhuqiang Lu, Yilin Zhu, Kun Hu, Zhenfei Yin, Shixiang Tang, Zhiyong Wang, Wanli Ouyang, Xinzhu Ma

机构 * The University of Sydney（悉尼大学） ； Shanghai AI Laboratory（上海人工智能实验室） ； Edith Cowan University（埃德温·考文大学） ； University of Oxford（牛津大学） ； The Chinese University of Hong Kong（香港中文大学） ； Beihang University（北航大学） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本研究通过构建五学科语料库，揭示了多学科LLM微调的四个实证定律，为科学领域通用LLM的发展提供了可操作的指导。

What Do Agents Learn from Trajectory-SFT: Semantics or Interfaces?

轨迹SFT中智能体学习了语义还是接口？

Weizheng Gu, Chengze Li, Zhuohao Yu, Mengyuan Sun, Zhibang Yang, Wei Wang, Hongrui Jia, Shikun Zhang, Wei Ye

机构 * National Engineering Research Center for Software Engineering, Peking University, Beijing, China（软件工程国家工程研究中心，北京大学，北京，中国） ； Nanjing University, Nanjing, China（南京大学，南京，中国） ； Tongji University, Shanghai, China（同济大学，上海，中国） 纠错

专题命中 指令微调 ：SFT(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出PIPE协议用于评估智能体在轨迹SFT中对接口的依赖性，发现轨迹SFT显著放大了接口捷径，且引入了接口依赖性指标以量化训练时接口的偏好。

InstructDiff: Domain-Adaptive Data Selection via Differential Entropy for Efficient LLM Fine-Tuning

InstructDiff：通过微分熵实现领域自适应的数据选择以实现高效的LLM微调

Junyou Su, He Zhu, Xiao Luo, Liyu Zhang, Hong-Yu Zhou, Yun Chen, Peng Li, Yang Liu, Guanhua Chen

机构 * Peking University（北京大学） ； University of Wisconsin-Madison（威斯康星大学麦迪逊分校） ； Tsinghua University（清华大学） ； SUFE（上海财经大学） ； SUSTech（南方科技大学） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；SFT(abstract)

AI总结 InstructDiff通过微分熵实现领域自适应的数据选择，提升LLM微调效率，实验显示在数学推理和通用指令遵循任务上分别提高17%和52%。

SFT Doesn't Always Hurt General Capabilities: Revisiting Domain-Specific Fine-Tuning in LLMs

SFT并不总是损害通用能力：重新审视LLM中的领域特定微调

Jiacheng Lin, Zhongruo Wang, Kun Qian, Tian Wang, Arvind Srinivasan, Hansi Zeng, Ruochen Jiao, Xie Zhou, Jiri Gesi, Dakuo Wang, Yufan Guo, Kai Zhong, Weiqi Zhang, Sujay Sanghavi, Changyou Chen, Hyokun Yun, Lihong Li

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Amazon（亚马逊） ； University of Massachusetts Amherst（马萨诸塞大学阿姆赫斯特分校） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） ； University at Buffalo（布法罗大学） ； Northeastern University（东北大学） 纠错

专题命中 指令微调 ：SFT(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文研究了SFT对LLM通用能力的影响，发现较小学习率可缓解性能下降，提出TALR方法在平衡领域特定性能与通用能力方面表现优异。

Comments Accepted by ICLR 2026

Towards Transparent RAG: Fostering Evidence Traceability in LLM Generation via Reinforcement Learning

迈向透明的RAG：通过强化学习促进LLM生成中的证据可追溯性

Jingyi Ren, Yekun Xu, Xiaolong Wang, Weitao Li, Ante Wang, Weizhi Ma, Yang Liu

机构 * DCST \& AIR, Tsinghua University Beijing, China ； DCST, Tsinghua University Beijing, China ； AIR, Tsinghua University Beijing, China ； DSCT \& AIR, Tsinghua University Beijing, China ； DCST \& AIR, Tsinghua University ； DCST, Tsinghua University ； AIR, Tsinghua University ； DSCT \& AIR, Tsinghua University 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 TRACE通过强化学习提升LLM生成中的证据可追溯性，实现透明输出和准确性提升。

Field Matters: A Lightweight LLM-enhanced Method for CTR Prediction

领域重要性：一种轻量级的LLM增强CTR预测方法

Yu Cui, Feng Liu, Jiawei Chen, Xingyu Lou, Changwang Zhang, Jun Wang, Yuegang Sun, Xiaohu Yang, Can Wang

机构 * Zhejiang University（浙江大学） ； OPPO Research Institute（OPPO研究院） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 LLaCTR通过领域级增强范式，提出一种轻量级LLM增强CTR预测方法，提升CTR预测的有效性和效率。

MLVTG: Mamba-Based Feature Alignment and LLM-Driven Purification for Multi-Modal Video Temporal Grounding

MLVTG: 基于Mamba的特征对齐与LLM驱动的多模态视频时间定位

Zhiyi Zhu, Xiaoyu Wu, Zihao Liu, Linlin Yang

机构 * State Key Laboratory of Media Convergence and Communication（媒体融合与传播国家重点实验室） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 MLVTG通过结合MambaAligner和LLMRefiner，实现了多模态视频时间定位的高精度定位与语义净化。