语言大模型 / LLM

Representation Collapse in Sequential Post-Training of Large Language Models

大型语言模型顺序后训练中的表示坍缩

Yichen Liu, Mingyu Chen, Hao Wang, Xiaoran Xu, Chenxi Lin, Rui Zhang, Yutong Zhou, Yuxin Yang, Jiarui Wu, Wei Sun

机构 * Hangzhou Dianzi University（杭州电子科技大学） ； Zhejiang Gongshang University（浙江工商大学） ； Ningbo University（宁波大学） ； Shanghai University（上海大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；post-training(title,abstract)；preference optimization(abstract)

AI总结 研究大型语言模型在顺序后训练阶段中内部表示逐渐压缩为低秩、各向异性且同质的特征空间，并提出轻量级干预措施以保持未来可学习性。

Comments work in progress

EvoDefense: Co-Evolving Black-Box Defense with Large Language Models

EvoDefense：与大语言模型共同进化的黑盒防御

Yu Li, Yuenan Hou, Yingmei Wei, Yanming Guo, Chaochao Lu

机构 * National University of Defense Technology（国防科技大学） ； Shanghai AI Laboratory（上海人工智能实验室） 纠错

专题命中 指令微调 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 提出一种基于经验引导的共同进化黑盒防御范式EvoDefense，通过守卫LLM和经验记忆模块在攻防迭代中优化策略，实现对未见攻击和目标模型的泛化防御。

The Long-Term Effects of Data Selection in LLM Fine-Tuning

LLM微调中数据选择的长期影响

Yuxin Yang, Aoxiong Zeng, Xiangquan Yang

机构 * Shanghai University（上海大学） ； East China Normal University（华东师范大学） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究多阶段LLM微调中，短视数据选择策略（如基于当前效用）可能导致后续学习变慢、遗忘加剧和排名反转，提出长视距感知选择（LHAS）目标函数以缓解此问题。

Comments work in process

DEBATE: A Large-Scale Benchmark for Evaluating Opinion Dynamics in Role-Playing LLM Agents

DEBATE：用于评估角色扮演LLM代理中观点动态的大规模基准

Yun-Shiuan Chuang, Ruixuan Tu, Chengtao Dai, You Li, Smit Vasani, Binwei Yao, Michael Henry Tessler, Sijia Yang, Dhavan Shah, Robert Hawkins, Junjie Hu, Timothy T. Rogers

机构 * University of Wisconsin–Madison（威斯康星大学麦迪逊分校） ； Google DeepMind（谷歌DeepMind） ； Stanford University（斯坦福大学） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；SFT(abstract,abstract_cn)；分类 cs.CL

AI总结 提出DEBATE基准，通过多轮公共消息和Likert量表信念数据，评估多代理角色扮演LLM模拟中观点动态的真实性，发现零样本设置下代理组过度收敛，而监督微调可改善立场对齐并减少组级收敛误差。

HiPER: Hierarchical Reinforcement Learning with Explicit Credit Assignment for Large Language Model Agents

HiPER: 具有显式信用分配的分层强化学习用于大型语言模型智能体

Jiangweizhi Peng, Yuanxin Liu, Ruida Zhou, Charles Fleming, Zhaoran Wang, Alfredo Garcia, Mingyi Hong

机构 * University of Minnesota ； Northwestern University ； Amazon AGI ； Texas A\&M University ； Cisco Research 纠错

专题命中 指令微调 ：LLM(summary_cn,abstract)；large language model(title)；language model(title)；分类 cs.AI、cs.LG

AI总结 针对稀疏奖励长程任务中LLM智能体信用分配困难的问题，提出HiPER分层规划-执行框架，通过分层优势估计（HAE）在规划和执行层面显式分配信用，在ALFWorld和WebShop上达到97.4%和83.3%的成功率。

Comments ICML 2026

Harness Updating Is Not Harness Benefit: Disentangling Evolution Capabilities in Self-Evolving LLM Agents

利用更新并非利用收益：解构自演化LLM智能体中的演化能力

Minhua Lin, Juncheng Wu, Zijun Wang, Zhan Shi, Yisi Sang, Bing He, Zewen Liu, Tianxin Wei, Zongyu Wu, Zhiwei Zhang, Dakuo Wang, Xiang Zhang, Benoit Dumoulin, Cihang Xie, Yuyin Zhou, Suhang Wang, Hanqing Lu

机构 * The Pennsylvania State University（宾夕法尼亚州立大学） ； UC Santa Cruz（加州大学圣克鲁兹分校） ； Amazon（亚马逊） ； Emory University（埃默里大学） ； UIUC（伊利诺伊大学香槟分校） ； Northeastern University（东北大学） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；分类 cs.AI

AI总结 本文通过分析LLM智能体在外部框架（提示、技能、记忆和工具）上的自演化能力，发现框架更新能力与基础能力无关，而框架收益能力与基础能力呈非单调关系，中等能力模型受益最大。

Comments 24 pages, 9 figures, 12 tables

Used Car Salesbots? Honesty and Credulity of LLMs as Bargaining Agents under Partial Information

二手车销售机器人？作为讨价还价代理的LLM在部分信息下的诚实与轻信

Antonio Valerio Miceli-Barone, Vaishak Belle, Shay B. Cohen

机构 * University of Edinburgh（爱丁堡大学） 纠错

专题命中 指令微调 ：LLM(title_cn,summary_cn)；prompting(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究LLM代理在模拟讨价还价场景中的表现，发现它们偏离博弈论均衡，尝试撒谎但无法有效利用信息不对称，且优化财务效用会增强谈判能力但增加不诚实行为。

Comments 18 pages, 14 figures

Re-examining Low Rank adaptation for private LLM fine-tuning

重新审视用于私有LLM微调的低秩适应

Ali Dadsetan, Frank Rudzicz

机构 * Dalhousie University（达尔豪斯大学） ； Vector Institute（向量研究所） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究差分隐私SGD中噪声导致的梯度奇异值膨胀问题，提出通过部分恢复原始奇异值分布来提升DP-SGD的样本效率。

Human-Alignment, Calibration, and Activation Patterns in Large Language Model Uncertainty

大型语言模型不确定性中的人类对齐、校准与激活模式

Kyle Moore, Jesse Roberts, Daryl Watson, William Ward, Grayson Heyboer

机构 * Vanderbilt University（范德比大学） ； Tennessee Technological University（田纳西技术大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究大型语言模型的不确定性与人类不确定性的相似性，通过分析行为与内部激活模式，发现模型在多项选择和开放式事实回忆数据集上同时存在对齐与校准，并描述了指令微调的影响。

GoodVibe: Security-by-Vibe for LLM-Based Code Generation

GoodVibe：基于神经元的LLM代码生成安全增强方法

Maximilian Thang, Lichao Wu, Sasha Behrouzi, Mohamadreza Rostami, Jona te Lintelo, Stjepan Picek, Ahmad-Reza Sadeghi

专题命中 指令微调 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 提出GoodVibe框架，通过梯度归因识别安全相关神经元并进行选择性微调，在保持模型通用性的同时显著提升代码生成安全性。

MADS: Model-Aware Diverse Core Set Selection for Instruction Tuning

MADS: 面向指令微调的模型感知多样化核心集选择

Yi Bai, Wenhao Zhang, Yao Chen, Jiao Xue, Zhumin Chen, Pengjie Ren

机构 * Shandong University（山东大学） ； Inspurcloud 纠错

专题命中 指令微调 ：instruction tuning(title)；LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出一种基于模型推理时神经激活状态区分数据特征的多样化核心集选择方法，在减少数据量的同时提升大语言模型在多个下游任务上的性能。

Improving Small Language Models for Code Generation with Reinforcement Learning from Verification Feedback

通过验证反馈的强化学习改进用于代码生成的小型语言模型

Egor Skopin, Evgeny Kotelnikov

机构 * Vyatka State University（沃伊亚提卡州立大学） ； European University at St. Petersburg（圣彼得堡欧洲大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；small language model(title)；分类 cs.CL

AI总结 本研究通过基于验证奖励的强化学习（RLVR）结合LoRA微调，在MBPP基准上对小型语言模型（Qwen3-0.6B和Llama3.2-1B）进行Python代码生成实验，发现奖励设计对功能正确性和行为诊断有显著影响，并提出组合奖励可稳定权衡正确性与风格约束。

Comments Accepted for AINL-2026 conference

Learning a Zeroth-Order Optimizer for Fine-Tuning LLMs

学习零阶优化器以微调大语言模型

Kairun Zhang, Haoyu Li, Yanjun Zhao, Yifan Sun, Huan Zhang

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 指令微调 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 提出一种基于学习的零阶优化器ZO-Finetuner，通过紧凑且内存高效的设计自动学习高效扰动策略，实现大语言模型微调时避免反向传播并降低内存开销，在4个LLM和7个数据集上82.1%的任务-模型组合中优于现有零阶基线方法。

Comments ICML 2026

A Pilot Study on Curator-Guided Multilingual Art Description for Blind and Low-Vision Audiences with Small Vision-Language Models

策展人引导的多语言艺术描述对盲人和低视力观众的小型视觉语言模型试点研究

Iosif Tsangko, Andreas Triantafyllopoulos, George Margetis, Ioana Crihana, Björn W. Schuller

机构 * Technical University of Munich（慕尼黑技术大学） ； Foundation for Research and Technology -- Hellas（希腊研究与技术基金会） ； National University of Science and Technology Politehnica Bucharest（布加勒斯特政治技术科学与技术国家大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 本研究使用小型视觉语言模型Qwen2.5-VL-3B-Instruct，通过策展人引导的方式为盲人和低视力观众生成德语、罗马尼亚语和塞尔维亚语的多语言艺术描述，发现语言特定适配器在控制性和视觉基础描述质量上优于多语言适配器。

Comments 7 pages, 2 figures, 3 tables. Preprint

TSM-Bench: Detecting LLM-Generated Text in Real-World Wikipedia Editing Practices

TSM-Bench：在真实维基百科编辑实践中检测LLM生成的文本

Gerrit Quaremba, Elizabeth Black, Denny Vrandečić, Elena Simperl

机构 * King’s College London（伦敦国王学院） ； Wikimedia Foundation（维基媒体基金会） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；分类 cs.CL

AI总结 针对维基百科等用户生成内容平台，提出多语言、多生成器、多任务的TSM-Bench基准，发现现有检测器在任务特定MGT上准确率下降10-40%，且存在泛化不对称性。

What Gets Unmasked First? Trajectory Analysis of Diffusion Models for Graph-to-Text Generation

什么先被揭开？面向图到文本生成的扩散模型轨迹分析

Qing Wang, Jacob Devasier, Chengkai Li

机构 * The University of Texas at Arlington（德克萨斯大学阿灵顿分校） 纠错

专题命中 指令微调 ：LLM(abstract,abstract_cn)；SFT(abstract,abstract_cn)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文首次系统研究掩码扩散语言模型在图到文本生成中的解码轨迹，发现其优先生成实体，并针对监督微调导致的输出长度固定问题提出无训练推理时修改方法λ缩放结构解码，恢复+9.4 BLEU-4，同时引入Graph-LLaDA模型以显式融入关系图结构。

Fine-Tuning Improves Information Conveyance in Language Models

微调提升语言模型中的信息传递

Yuwei Cheng, Weiyi Tian, Haifeng Xu

机构 * Department of Statistics（统计学系） ； University of Chicago（芝加哥大学） ； Department of Data Science（数据科学系） ； Department of Computer Science（计算机科学系） 纠错

专题命中 指令微调 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL、cs.AI

AI总结 提出冠层熵（Canopy Entropy）度量，从树结构视角量化生成空间的有效大小，发现微调模型在总熵降低时仍能增强长度-熵率正相关，从而更高效地将不确定性转化为语义多样性。

Memory-Efficient Structured Backpropagation for On-Device LLM Fine-Tuning

面向设备上大语言模型微调的内存高效结构化反向传播

Juneyoung Park, Yuri Hong, Seongwan Kim, Jaeho Lee

机构 * OptAI Inc.（OptAI公司） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 提出MeSP方法，通过手动推导利用LoRA低秩结构的反向传播，在计算数学等价梯度的同时平均减少49%内存，使内存受限设备上的微调成为可能。

Comments ACL2026

Steering LLMs? Actually, Sparse Autoencoders can outperform simple baselines

引导LLM？实际上，稀疏自编码器可以胜过简单基线

Mikkel Godsk Jørgensen, Lars Kai Hansen

机构 * DTU Compute（丹麦技术大学计算学院） 纠错

专题命中 指令微调 ：LLM(title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文通过监督流水线选择并标注特征，证明稀疏自编码器在模型引导任务上可接近LoRA性能，并发现高稀疏性对基于可解释性的引导并非关键。

DRIFT: Decoupled Rollouts and Importance-Weighted Fine-Tuning for Efficient Multi-Turn Optimization

DRIFT: 解耦的轨迹采样与重要性加权微调以实现高效的多轮优化

Jian Mu, Tianyi Lin, Chengwei Qin, Zhongxiang Dai, Yao Shu

机构 * The Hong Kong University of Science（香港科学与技术大学） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 针对多轮交互中在线强化学习成本高而离线监督微调存在分布偏移的问题，提出DRIFT框架，通过将KL正则化强化学习目标等价转化为重要性加权监督学习，实现高效且稳定的多轮优化。

Inverse Reinforcement Learning without an Optimal Demonstrator: A Feasible Reward Set Approach

无最优演示者的逆强化学习：一种可行奖励集方法

Kihyun Kim, Shripad Deshmukh, Nikos Vlassis, Jiawei Zhang

机构 * MIT LIDS（麻省理工学院媒体实验室） ； University of Massachusetts, Amherst（马萨诸塞大学阿姆赫斯特分校） ； Adobe Research（Adobe研究院） ； University of Wisconsin-Madison（威斯康星大学麦迪逊分校） 纠错

专题命中 指令微调 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对多个非最优演示者数据，提出可行奖励集框架，通过线性约束联合可行集单调收缩，并给出恢复保证与高维环境离线算法。

Unifying and Optimizing Data Values for Selection via Sequential Decision-Making

通过序列决策统一和优化数据选择的数据价值

Hongliang Chi, Qiong Wu, Zhengyi Zhou, Jonathan Light, Emily Dodwell, Yao Ma

机构 * Rensselaer Polytechnic Institute（伦塞拉尔理工学院） 纠错

专题命中 指令微调 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 将数据选择重构为序列决策问题，通过动态规划得到最优选择序列，并统一解释Data Shapley等现有方法为近视线性近似，提出基于二分图的高效替代方法，在经典ML和大规模LLM微调数据选择中显著优于现有方法。

Cognitive Fatigue in Autoregressive Transformers: Formalization and Measurement

自回归Transformer中的认知疲劳：形式化与测量

Riju Marwah, Ritvik Garimella, Vishal Pallagani, Atishay Jain, Michael Stewart, Amit Sheth

机构 * Guru Gobind Singh Indraprastha University, India（古鲁·戈宾德·辛格·印度普拉斯塔大学） ； Artificial Intelligence Institute, University of South Carolina, USA（人工智能研究所，南卡罗来纳大学） ； Indian Institute of Technology, Kanpur, India（印度理工学院，坎浦尔） ； Indian AI Research Organization, India（印度人工智能研究组织） 纠错

专题命中 指令微调 ：LLM(abstract,abstract_cn)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文形式化自回归语言模型在长程生成中的退化现象为认知疲劳，并提出轻量级诊断指标疲劳指数（FI），通过聚合注意力衰减、表征漂移和熵校准三个信号实现实时监测，实验表明FI能高精度预测任务退化和重复生成。

Comments 9 pages, 7 figures. Accepted at the 43rd International Conference on Machine Learning (ICML 2026)

InfiMed-ORBIT: Aligning LLMs on Open-Ended Complex Tasks via Rubric-Based Incremental Training

InfiMed-ORBIT: 通过基于评分标准的增量训练使大语言模型对齐开放复杂任务

Pengkai Wang, Pengwei Liu, Qi Zuo, Zhijie Sang, Congkai Xie, Hongxia Yang

机构 * Department of Computing, The Hong Kong Polytechnic University, Hong Kong, China（香港理工大学计算机系） ； Department of Control Science and Engineering, Zhejiang University（浙江大学控制科学与工程学院） 纠错

专题命中 指令微调 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 提出ORBIT框架，利用动态生成的病例条件评分标准指导增量强化学习，仅用2k样本将Qwen3-4B-Instruct在HealthBench-Hard上的得分从7.0提升至27.5，达到同规模开源模型最优。

Reinforcement Learning Amplifies Emergent Misalignment from Harmless Rewards

强化学习放大了来自无害奖励的涌现性失调

Magnus Jørgenvåg, David Kaczér, Lasse Ruttert, Marvin Gülhan, Lucie Flek, Florian Mai

机构 * Bonn-Aachen International Center for Information Technology, University of Bonn, Germany（波恩-亚琛信息科技国际中心，波恩大学，德国） ； Lamarr Institute for Machine Learning and Artificial Intelligence, Germany（拉马尔机器学习与人工智能研究所，德国） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；language model(abstract)；分类 cs.CL

AI总结 本文研究强化学习如何从看似无害的奖励信号中引发语言模型的涌现性失调，发现其比监督微调更严重，并验证了在训练中插入安全数据可缓解此问题。

Safe Equilibrium Policy Optimization for Strategic Agent Policies

面向策略型智能体的安全均衡策略优化

Karthika Arumugam, Kiran Kumar Manku, Amit Dhanda

机构 * Amazon, USA（亚马逊公司） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；language model(abstract)；分类 cs.AI

AI总结 提出Safe Equilibrium Policy Optimization (SEPO)方法，通过惩罚可剥削性、共谋风险和外部性成本，优化语言模型在多智能体博弈中的策略安全性。

Comments Submitted to EMNLP 2026

SemStruct: Contextualizing Semantic Embeddings with Structural Information for Schema Matching

SemStruct: 利用结构信息对语义嵌入进行上下文化以实现模式匹配

Inwon Kang, Kavitha Srinivas, Nandana Mihindukulasooriya, Sola Shirai, Parikshit Ram, Horst Samulowitz, Oshani Seneviratne

机构 * Rensselaer Polytechnic Institute（伦斯勒理工学院） ； IBM Research（IBM研究院） 纠错

专题命中 指令微调 ：LLM(abstract,abstract_cn)；language model(abstract)；分类 cs.LG

AI总结 提出SemStruct框架，通过将冻结的预训练语言模型与图神经网络的结构归纳偏置相结合，利用行级共现关系作为结构信息，在模式匹配任务中实现最先进性能。

Comments Accepted to KDD 26 Research Track

MosaicLeaks:Privacy Risks in Querying-in-the-Open for Deep Research Agents

MosaicLeaks：深度研究代理的开放查询中的隐私风险

Alexander Gurung, Spandana Gella, Alexandre Drouin, Issam H. Laradji, Perouz Taslakian, Rafael Pardinas

机构 * ServiceNow AI Research（ServiceNow AI研究院） ； University of Edinburgh（爱丁堡大学） ； Mila - Quebec AI Institute（魁北克AI研究所） ； McGill University（麦吉尔大学） ； University of British Columbia（不列颠哥伦比亚大学） 纠错

专题命中 指令微调 ：LLM(abstract,abstract_cn)；prompting(abstract)；分类 cs.CL

AI总结 针对深度研究代理在查询外部工具时可能泄露本地敏感信息的问题，提出MosaicLeaks基准测试和隐私感知深度研究（PA-DR）框架，通过强化学习降低信息泄露风险。

R+R: Reassessing Java Security API Misuse in Current LLMs: A Replication on JCA and JSSE APIs with External Security Knowledge

R+R: 重新评估当前大语言模型中的Java安全API误用：对JCA和JSSE API的复制研究及外部安全知识

Tianhe Lu, Eric Spero, Sakuna Harinda Jayasundara, Robert Biddle, Giovanni Russello

专题命中 指令微调 ：LLM(abstract,abstract_cn)；prompting(abstract)

AI总结 本研究复制并扩展了Mousavi等人的工作，评估GPT-5.5和Llama-3.3-70B-Instruct在Java安全API（JCA和JSSE）使用中的误用情况，发现外部安全知识能显著改善但效果依赖模型，且误用问题仍未消除。

Comments 17 pages, 7 figures. Preprint

Unraveling LoRA Interference: Orthogonal Subspaces for Robust Model Merging

解开LoRA干扰：用于鲁棒模型合并的正交子空间

Haobo Zhang, Jiayu Zhou

机构 * University of Michigan Ann Arbor（密歇根大学安娜堡分校） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 针对LoRA微调模型合并时性能下降的问题，提出通过微调前约束LoRA子空间正交性来减少任务间干扰的方法OSRM，可无缝集成现有合并算法，提升合并性能并保持单任务准确率。

Comments 14 pages, 5 figures, 16 tables, accepted by ACL 2025