语言大模型 / LLM

Cordyceps: Covert Control Attacks on LLMs via Data Poisoning

Cordyceps: 通过数据投毒对LLM的隐蔽控制攻击

Zedian Shao, Charles Fleming, Teodora Baluta

机构 * Georgia Institute of Technology（佐治亚理工学院） ； Cisco Systems（思科系统） 纠错

专题命中 指令微调 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出一种数据投毒方法，通过语义关联教LLM隐藏任意恶意指令，实现隐蔽控制攻击，绕过多种防御。

Comments USENIX Security '26

Pretraining Language Models on Historical Text

在历史文本上预训练语言模型

Xiaoxi Luo, Zachary Shinnick, Niclas Griesshaber, Yixuan Wang, Junchi Yu, Freda Shi, Philip Torr, Yao Lu

机构 * University of Waterloo（多伦多大学） ； Vector Institute（向量研究所） ； AIML, Adelaide University（AIML，阿德莱德大学） ； Department of Engineering Science, University of Oxford（牛津大学工程科学系） ； Oxford Centre for Economic and Social History, University of Oxford（牛津大学经济与社会史中心） ； Department of Computer Science, University College London（伦敦大学学院计算机科学系） 纠错

专题命中 指令微调 ：language model(title,abstract)；pretraining(title)；instruction tuning(abstract)；post-training(abstract)

AI总结 提出TypewriterLM，一个仅在1913年前英文文本上训练的7.24B历史语言模型，通过构建TypewriterCorpus语料库、引入词汇基础指令微调框架和History-Event基准套件，解决数据质量、时间泄漏、训练和评估等挑战。

GAC: Noise-Aware Adaptive Mixing for Hybrid SFT-RL Post-Training

GAC: 面向混合SFT-RL后训练的噪声感知自适应混合

Yuelin Hu, Zhenbo Yu, Zhengxue Cheng, Wei Liu, Li Song

机构 * Shanghai Jiao Tong University（上海交通大学） ； Shanghai Maritime University（上海海洋大学） 纠错

专题命中 指令微调 ：SFT(title,title_cn)；post-training(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出噪声感知控制器GAC，通过在线估计梯度方差和两个训练信号之间的不一致性，自适应调整混合权重，以改进混合后训练性能。

Comments 15 pages, 3 figures, 22 tables

Understanding Reasoning in LLMs through Strategic Information Allocation under Uncertainty

不确定性下通过策略信息分配理解LLM中的推理

Jeonghye Kim, Xufang Luo, Minbeom Kim, Sangmook Lee, Dongsheng Li, Yuqing Yang

机构 * Microsoft Research（微软研究院） ； KAIST（韩国科学技术院） ； Seoul National University（首尔国立大学） 纠错

专题命中 指令微调 ：LLM(title_cn,abstract)；SFT(summary_cn,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一个信息论框架，将推理分解为程序推进和认知外化（不确定性标记级外化），证明零散外化能在无显式错误触发时恢复收敛，并通过实验表明小规模SFT即可调控该能力，从而将推理重新定义为不确定性下的策略信息分配。

Beyond Log Likelihood: Probability-Based Objectives for Supervised Fine-Tuning across the Model Capability Continuum

超越对数似然：面向模型能力连续体的监督微调概率目标

Gaotang Li, Ruizhong Qiu, Xiusi Chen, Heng Ji, Hanghang Tong

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 指令微调 ：SFT(summary_cn,abstract)；LLM(abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本文系统研究监督微调中不同概率目标函数，发现模型能力连续体决定目标优劣：强模型端偏好先验倾向目标（如-p），弱模型端对数似然最优，并理论解释其转换机制。

Comments ICML 2026

Comparing Explanations is Not Enough, Explain the Change: New Standards are Needed to Explain Behavioral Shifts in Large Language Models

比较解释并不足够，解释变化：需要新的标准来解释大型语言模型中的行为转变

Martino Ciaperoni, Marzio Di Vece, Roberto Pellungrini, Luca Pappalardo, Fosca Giannotti, Francesco Giannini

机构 * Scuola Normale Superiore（诺莱学院） ； ISTI-CNR（意大利国家研究委员会ISTI研究所） ； University of Pisa（比萨大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种新的XAI方法，旨在解释大型语言模型在干预后行为转变的原因和机制，以应对现有解释方法无法解释行为转变的问题。

Graphs of Research: Citation Evolution Graphs as Supervision for Research Idea Generation

研究图谱：引用演化图谱作为研究想法生成的监督

Songyang Gao, Yinghui Xia, Siyi Liu, Hui Xiong

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； Tsinghua University（清华大学） 纠错

专题命中 指令微调 ：LLM(summary_cn,abstract)；SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出GoR方法，通过提取种子论文的2跳引用邻域，构建引用演化有向无环图，利用结构化文本提示训练LLM生成研究想法，实验表明其在想法生成任务中优于基线模型。

Towards the Next Frontier of LLMs, Training on Private Data: A Cross-Domain Benchmark for Federated Fine-Tuning

迈向LLM的下一个前沿：在私有数据上训练：一个跨域基准用于联邦微调

Daniel M. Jimenez-Gutierrez, Enrique Zuazua, Georgios Kellaris, Joaquin del Rio, Oleksii Sliusarenko, Xabi Uribe-Etxebarria

专题命中 指令微调 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出通过联邦学习平台在跨域基准中评估联邦微调方法，展示在隐私数据上训练LLM的可行性，对比三种参数高效微调策略，证明联邦微调在非独立同分布数据下的有效性。

Intrinsic Guardrails: How Semantic Geometry of Personality Interacts with Emergent Misalignment in LLMs

内在护栏：人格语义几何与LLM中涌现偏差的交互

Krishak Aneja, Manas Mittal, Anmol Goel, Ponnurangam Kumaraguru, Vamshi Krishna Bonagiri

机构 * International Institute of Information Technology, Hyderabad（国际信息研究所，海得拉巴） ； Mohamed bin Zayed University of Artificial Intelligence, Abu Dhabi（Mohamed bin Zayed人工智能大学，阿布扎比） 纠错

专题命中 指令微调 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究通过心理测量学方法揭示LLM人格空间的稳定性，发现人格向量可作为内在护栏抑制LLM的涌现偏差。

Comments 20 pages, 9 figures including appendix

Analysing Lightweight Large Language Models for Biomedical Named Entity Recognition on Diverse Ouput Formats

分析轻量级大语言模型在多种输出格式上的生物医学命名实体识别

Pierre Epron, Adrien Coulet, Mehwish Alam

机构 * Inria, Inserm, Université Paris Cité, HeKA, UMR 1346, Paris, France（法国国家科学研究中心（Inria）、法国国家医学研究院（Inserm）、巴黎城市大学（Université Paris Cité）、HeKA、法国国家科研机构（UMR 1346）、巴黎） ； Télécom Paris, Institut Polytechnique de Paris, France（巴黎电信学院（Télécom Paris）、巴黎理工学院（Institut Polytechnique de Paris）、法国） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；instruction tuning(abstract)；分类 cs.CL、cs.AI

AI总结 研究轻量级大语言模型在生物医学命名实体识别中的性能，评估不同输出格式对模型表现的影响，发现轻量级模型在资源受限环境下具有竞争力。

Comments LREC 2026 - Language Resources and Evaluation Conference, May 2026, Palma De Majorque, Spain

Beyond Experience Retrieval: Learning to Generate Utility-Optimized Structured Experience for Frozen LLMs

超越经验检索：学习生成优化的结构化经验以冻结LLM

Xuancheng Li, Haitao Li, Yujia Zhou, Yiqun Liu, Qingyao Ai

机构 * Department of Computer Science and Technology, Tsinghua University, Beijing, China（清华大学计算机科学与技术系，北京，中国） ； Quancheng Laboratory（千晨实验室） 纠错

专题命中 指令微调 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出SEAM模块，通过单次前向传递生成实例定制的经验条目，优化冻结LLM的执行效率，实验显示在数学推理基准上准确率提升显著。

RePrompT: Recurrent Prompt Tuning for Integrating Structured EHR Encoders with Large Language Models

RePrompT：基于结构化电子健康记录编码器的循环提示微调

Arya Hadizadeh Moghaddam, Drew Ross, Mohsen Nayebi Kerdabadi, Dongjie Wang, Zijun Yao

机构 * University of Kansas（堪萨斯大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 RePrompT通过循环整合结构化EHR编码器与大语言模型，解决时间序列信息丢失和代码身份模糊问题，提升临床预测性能。

Comments Finding of ACL 2026 - Accepted Paper

BitFlipScope: Scalable Fault Localization and Recovery for Bit-Flip Corruptions in LLMs

BitFlipScope：面向LLM中位翻故障的可扩展故障定位与恢复

Muhammad Zeeshan Karamat, Sadman Saif, Christiana Chamon Garcia

机构 * Bradly Dept. of ECE（布拉利电子工程系） ； Virginia Tech（弗吉尼亚理工学院） 纠错

专题命中 指令微调 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 BitFlipScope通过两种部署场景实现LLM中位翻故障的定位与恢复，利用差分分析和残差路径扰动等方法，支持轻量级性能恢复，提升硬件环境下的模型可靠性。

Comments Accepted at the IEEE International Symposium on Hardware Oriented Security and Trust (HOST) 2026

Transforming the Voice of the Customer: Large Language Models for Identifying Customer Needs

将客户之声转变：大型语言模型用于识别客户需求

Artem Timoshenko, Chengfeng Mao, John R. Hauser

机构 * Kellogg School of Management, Northwestern University（西北大学凯洛格管理学院） ； MIT Management School, Massachusetts Institute of Technology（麻省理工学院斯隆管理学院） ； Applied Marketing Science, Inc.（应用营销科学公司） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；SFT(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了大型语言模型在自动化识别客户需求方面的有效性，证明其在多个产品和服务类别中表现优异，优于基础模型，并为VOC应用提供了新的自动化方法。

Neuro-RIT: Neuron-Guided Instruction Tuning for Robust Retrieval-Augmented Language Model

Neuro-RIT: 用于鲁棒检索增强语言模型的神经引导指令微调

Jaemin Kim, Jae O Lee, Sumyeong Ahn, Seo Yeon Park

机构 * Hanyang University（汉阳大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；instruction tuning(title,abstract)；large language model(abstract)；分类 cs.CL、cs.AI

AI总结 Neuro-RIT通过神经层面的对齐提升检索增强语言模型的鲁棒性，通过神经属性挖掘分离相关与无关上下文的神经元，并采用两阶段指令微调策略增强噪声鲁棒性。

Control Barrier Function for Aligning Large Language Models

用于对齐大语言模型的控制屏障函数

Yuya Miyaoka, Masaki Inoue

机构 * Keio University（庆应义塾大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出基于控制的框架，利用控制屏障函数确保用户期望的文本生成，通过安全过滤器干预生成文本，无需微调基模型。

Comments This work is an extenede version of arXiv:2408.15625 and has been submitted to the IEEE for possible publication

Journal ref IEEE Transactions on Control Systems Technology 2026

Exploring Cultural Variations in Moral Judgments with Large Language Models

探索大语言模型在道德判断中的文化差异

Hadi Mohammadi, Ayoub Bagheri

机构 * Utrecht University（乌得勒支大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；instruction tuning(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究大语言模型在捕捉文化多样性道德价值观方面的能力，通过对比不同模型与全球态度调查数据的关联性，发现指令微调模型在跨文化道德规范上表现更佳。

Enhancing Safety of Large Language Models via Embedding Space Separation

通过嵌入空间分离增强大语言模型的安全性

Xu Zhao, Xiting Wang, Weiran Shen

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学首都人工智能学院） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出嵌入空间分离方法，通过扩大有害与安全表示间的距离提升大语言模型安全性，同时保持模型通用能力。

Amnesia: Adversarial Semantic Layer Specific Activation Steering in Large Language Models

遗忘：大型语言模型中的对抗性语义层特定激活引导

Ali Raza, Gurang Gupta, Nikolay Matyunin, Jibesh Patra

机构 * Honda Research Institute Europe（本田欧洲研究院） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出Amnesia攻击，通过操纵transformer内部状态绕过开放式大语言模型的安全机制，展示其能生成有害内容而无需微调。研究强调了对开放式大语言模型安全性的迫切需求。

Decision-Level Ordinal Modeling for Multimodal Essay Scoring with Large Language Models

基于大语言模型的多模态作文评分的决策级序数建模

Han Zhang, Jiamin Su, Li liu

专题命中 指令微调 ：language model(title,abstract)；large language model(title)；LLM(abstract)；SFT(abstract)

AI总结 本文提出DLOM方法，通过显式序数决策提升多模态作文评分的准确性，DLOM-GF和DLOM-DA分别引入门控融合模块和距离感知正则化项，实验表明在多模态和纯文本评分任务中均取得显著提升。

Aligning Large Language Model Agents with Rational and Moral Preferences: A Supervised Fine-Tuning Approach

对齐大型语言模型代理的理性与道德偏好：一种监督微调方法

Wei Lu, Amit Dhanda, Daniel L. Chen, Christian B. Hansen

机构 * Zicklin School of Business, CUNY Baruch College（纽约大学法学院） ； Amazon（亚马逊） ； Toulouse School of Economics（图卢兹经济学院） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 本文通过监督微调方法对齐LLM代理的理性与道德偏好，揭示了代理在经济游戏中的系统性偏差，并展示了不同偏好结构对均衡结果的影响。

Helping Large Language Models Protect Themselves: An Enhanced Filtering and Summarization System

帮助大语言模型自我保护：一种增强的过滤与摘要系统

Sheikh Samit Muhaimin, Spyridon Mastorakis

机构 * University of Notre Dame（诺特大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出一种无需重新训练的LLM自我防护系统，通过过滤模块检测恶意输入并摘要模块提供上下文知识，有效提升对抗性攻击的防御能力。

Journal ref Proceedings of the 2025 IEEE 7th International Conference on Trust, Privacy and Security in Intelligent Systems and Applications (TPS-ISA), Pittsburgh, PA, USA, November 12-14, 2025. IEEE

Prompt and Parameter Co-Optimization for Large Language Models

用于大型语言模型的提示与参数联合优化

Xiaohe Bo, Rui Li, Zexu Sun, Quanyu Dai, Zeyu Zhang, Zihang Tian, Xu Chen, Zhenhua Dong

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学人工智能学院） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出MetaTuner框架，通过联合优化提示和参数提升大型语言模型性能，通过共享编码层和监督正则化损失实现协同优化。

Comments ICLR 2026

Rewarding Doubt: A Reinforcement Learning Approach to Calibrated Confidence Expression of Large Language Models

奖励怀疑：一种强化学习方法用于大语言模型的校准置信表达

David Bani-Harouni, Chantal Pellegrini, Paul Stangel, Ege Özsoy, Kamilia Zaripova, Nassir Navab, Matthias Keicher

机构 * Technical University of Munich（慕尼黑技术大学） ； Munich Center for Machine Learning（慕尼黑机器学习中心） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出了一种强化学习方法，通过直接微调大语言模型以实现校准的置信度表达，提升了模型的置信度校准能力和泛化能力。

Low-Resource Dialect Adaptation of Large Language Models: A French Dialect Case-Study

低资源方言大语言模型适应：法语方言案例研究

Eeham Khan, Firas Saidani, Owen Van Esbroeck, Richard Khoury, Leila Kosseim

机构 * 1\,Computational Linguistics at Concordia (CLaC) Laboratory Department of Computer Science 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了通过持续预训练和参数高效微调方法，将大语言模型适应到低资源方言，以魁北克法语为例，展示了在有限数据和计算资源下提升方言识别性能的方法与成果。

Comments Accepted at LREC 2026

The Curse of Depth in Large Language Models

深度在大语言模型中的诅咒

Wenfang Sun, Xinyuan Song, Pengxiang Li, Lu Yin, Yefeng Zheng, Shiwei Liu

机构 * Westlake University（西湖大学） ； Emory University（埃默里大学） ； Dalian University of Technology（大连理工大学） ； University of Surrey（萨里大学） ； University of Oxford（牛津大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出LayerNorm Scaling方法，通过缩放输出方差缓解深度诅咒，提升大语言模型的预训练和微调性能。

Comments Accepted by NeurIPS 2025

On the Entropy Dynamics in Reinforcement Fine-Tuning of Large Language Models

在大型语言模型强化微调中的熵动态研究

Shumin Wang, Yuexiang Xie, Wenhao Zhang, Yuchang Sun, Yanxi Chen, Yaliang Li, Yanyong Zhang

机构 * University of Science（科学大学） ； Tongyi Lab, Alibaba Group（通义实验室，阿里巴巴集团） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 本文研究了大型语言模型强化微调中熵动态的理论框架，提出了熵变化的判别表达式，并设计了熵控制方法以优化探索与利用的平衡。

FedKRSO: Communication and Memory Efficient Federated Fine-Tuning of Large Language Models

FedKRSO: 在联邦学习中实现高效通信和内存的大型语言模型微调

Guohao Yang, Tongle Wu, Yuanxiong Guo, Ying Sun, Yanmin Gong

机构 * University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校） ； Penn State University（宾夕法尼亚州立大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 FedKRSO通过在联邦学习中利用随机子空间优化，实现了高效通信和内存的LLM微调，兼顾性能与资源节约。

Comments Accepted by INFOCOM 2026

Multi-Level Safety Continual Projection for Fine-Tuned Large Language Models without Retraining

多级安全连续投影：无需重新训练的微调大语言模型安全增强方法

Bing Han, Feifei Zhao, Dongcheng Zhao, Guobin Shen, Ping Wu, Yu Shi, Yi Zeng

机构 * Beijing Key Laboratory of Safe AI and Superalignment（北京安全人工智能与超对齐重点实验室） ； Beijing Institute of AI Safety and Governance（北京人工智能安全与治理研究院） ； Brain-inspired Cognitive AI Lab, Institute of Automation, Chinese Academy of Sciences（脑启发认知人工智能实验室，中国科学院自动化研究所） ； University of Chinese Academy of Sciences（中国科学院大学） ； Long-term AI（长期人工智能） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种无需重新训练的微调后安全增强方法MSCP，通过多级表示对齐和安全方向投影，有效抑制有害输出并提升与人类偏好的对齐度。

A System for Name and Address Parsing with Large Language Models

基于大语言模型的姓名和地址解析系统

Adeeba Tarannum, Muzakkiruddin Ahmed Mohammed, Mert Can Cakmak, Shames Al Mandalawi, John Talburt

机构 * Center for Entity Resolution and Information Quality (ERIQ) - University of Arkansas - Little Rock, Arkansas, Little Rock, USA（实体解析与信息质量中心（ERIQ）- 亚拉荷马州立大学-小岩城，阿肯色州，小岩城，美国） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；prompting(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种基于提示和验证的框架，利用大语言模型实现无微调的姓名和地址解析，提供高准确率和可重复性的结构化数据提取方法。