语言大模型 / LLM

Show, Don't TELL: Explainable AI-Generated Text Detection

展示，而非告知：可解释的AI生成文本检测

Aldan Creo, Suraj Ranganath

机构 * School of Computing, Information and Data Sciences（计算与数据科学学院） ； University of California, San Diego（加州大学圣地亚哥分校） ； United States of America（美国） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 提出一种名为TELL的新型可解释架构，通过内置解释机制和强化学习训练，在保持高检测性能（AUROC 0.927）的同时提供文本级注释，帮助用户基于自身判断识别AI生成文本。

Atomic Skills are the Prerequisite: When Reinforcement Learning Synthesizes Compositional Reasoning, and When It Only Amplifies

原子技能是前提：当强化学习合成组合推理时，以及当它仅放大时

Sitao Cheng, Xunjian Yin, Ruiwen Zhou, Yuxuan Li, Xinyi Wang, Liangming Pan, William Yang Wang, Victor Zhong

机构 * University of Waterloo（滑铁卢大学） ； Duke University（杜克大学） ； National University of Singapore（新加坡国立大学） ； Princeton University（普林斯顿大学） ； Peking University（北京大学） ； University of California, Santa Barbara（加州大学圣巴巴拉分校） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 通过互补推理任务，研究强化学习是合成新技能还是仅放大已有技能，发现强化学习在基础模型通过监督微调掌握独立原子技能后才能合成新组合策略。

Comments Work in Progress. Code and data are available at https://github.com/sitaocheng/from_atomic_to_composite

Multi-Adapter Representation Interventions via Energy Calibration

通过能量校准的多适配器表示干预

Manjiang Yu, Hongji Li, Junwei Chen, Xue Li, Priyanka Singh, Yang Cao, Lijie Hu

机构 * The University of Queensland, Brisbane, Australia（昆士兰大学） ； Mohamed bin Zayed University of Artificial Intelligence, Abu Dhabi, United Arab Emirates（马尔代夫 bin Zayed 人工智能大学） ； Institute of Science Tokyo, Tokyo, Japan（东京科学研究所） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出MARI方法，通过竞争性多适配器机制和基于能量的门控模块，自适应地确定干预方向和强度，在保持通用能力的同时提升对齐性能。

Comments Accepted by ICML 2026

Fine-Tuning Dynamics of In-Context Factual Recall in Transformers

Transformer中上下文事实回忆的微调动力学

Ruomin Huang, Eshaan Nichani, Jason D. Lee, Rong Ge

机构 * Duke University（杜克大学） ； Princeton University（普林斯顿大学） ； UC Berkeley（加州大学伯克利分校） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究Transformer在上下文学习中如何利用存储的参数化事实知识，通过引入上下文事实回忆任务并分析单层Transformer的微调动力学，证明模型收敛到特定的成对注意力模式，且所需样本量极少。

Learning in the Fisher Subspace: A Guided Initialization for LoRA Fine-Tuning

在 Fisher 子空间中学习：LoRA 微调的引导初始化

Zhi-Quan Feng, Ying-Jia Lin, Hung-Yu Kao

机构 * Department of Computer Science（计算机科学系） ； Information Engineering, National Cheng Kung University（信息工程系，国立成功大学） ； Department of Artificial Intelligence, Chang Gung University（人工智能系，长庚大学） ； Department of Computer Science, National Tsing Hua University（计算机科学系，国立清华大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出一种基于 Fisher 信息的引导初始化方法，通过利用下游数据曲率信息选择 LoRA 适应子空间，以提升微调性能。

Galois Theory for Subshifts of Finite Type and Representations of Automorphism Groups

有限型子移位的伽罗瓦理论与自同构群的表示

Kazutoyo Iketake

专题命中 指令微调 ：SFT(abstract,abstract_cn)

AI总结 本文在不可约有限型子移位上构造性地发展了伽罗瓦理论，并利用该框架分析自同构群，通过引入绝对伽罗瓦群及其上同调作为共轭不变量，构造了自同构群到该上同调的表示。

Enhancing Trustworthy GUI Grounding via Self-Critiqued Reinforcement Learning

通过自我批评强化学习增强可信的GUI定位

Shaojie Zhang, Pei Fu, Ruoceng Zhang, Jiahui Yang, Anan Du, Xiuwen Xi, Shaokang Wang, Ying Huang, Bin Qin, Zhenbo Luo, Jian Luan

机构 * Xiaomi Inc（小米公司） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)

AI总结 提出HyperClick框架，通过自我批评强化学习联合优化定位准确性和置信度可靠性，实现可信的GUI定位。

Unsupervised Identification and Removal of Spurious Correlations During Fine-Tuning

微调过程中虚假关联的无监督识别与消除

Ciarán M. Gilligan-Lee, Joseph Egan, Yuchen Zhu, Michael O'Riordan

机构 * Spotify ； University College London（伦敦大学学院） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.LG

AI总结 提出GRASP方法，通过梯度投影在微调时无监督识别并消除与任务纠缠的虚假关联，同时保留预训练知识，在三个任务上优于基线。

Comments 10 + 4 pages, comments welcome

CollectionLoRA: Collecting 50 Effects in 1 LoRA via Multi-Teacher On-Policy Distillation

CollectionLoRA: 通过多教师在线策略蒸馏将50种效果收集到1个LoRA中

Fangtai Wu, Hailong Guo, Shijie Huang, Jiayi Song, Yubo Huang, Mushui Liu, Zhao Wang, Yunlong Yu, Jiaming Liu, Ruihua Huang

机构 * Zhejiang University（浙江大学） ； Qwen Applications Business Group of Alibaba（阿里巴巴Qwen应用业务组） ； Xi'an Jiaotong University（西安交通大学） 纠错

专题命中 指令微调 ：prompting(abstract)；分类 cs.AI

AI总结 提出CollectionLoRA框架，通过多教师在线策略蒸馏将多达50种不同效果LoRA和少步生成能力整合到单个LoRA中，解决参数干扰并降低部署成本。

CodeGENCAT: Generative Computerized Adaptive Testing for Open-ended Coding Problems

CodeGENCAT：面向开放式编程问题的生成式计算机自适应测试

Wanyong Feng, Alexander Scarlatos, Ruochen Sun, Andrew Lan

机构 * University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校） ； Independent Researcher（独立研究者） 纠错

专题命中 指令微调 ：preference optimization(abstract)；分类 cs.CL

AI总结 提出CodeGENCAT框架，通过生成式项目反应理论模型预测学生代码响应，并设计三种选题算法，在编程教育数据集上优于现有CAT基线。

Comments 23 pages, 2 figures

ABot-OCR Technical Report

ABot-OCR 技术报告

Kaitao Jiang, Ruiyan Gong, Xiaolong Cheng, Kangning Niu, Tianlun Li, Mu Xu

机构 * AMAP CV Lab（AMAP视觉实验室） 纠错

专题命中 指令微调 ：language model(abstract)

AI总结 提出端到端视觉语言模型ABot-OCR，通过单次前向传播将页面图像直接转录为干净Markdown，并采用解耦异构文档优化的强化学习方法提升文本准确性和标记格式正确性，在OmniDocBench基准上达到最先进水平。

Comments 21 pages, 11 figures, technical report

Decoupled Training with Local Reinforcement Fine-Tuning in Federated Learning

联邦学习中解耦训练与局部强化微调

Yuting Ma, Lechao Cheng, Xiaohua Xu

机构 * School of Computer Science and Technology, University of Science and Technology of China（中国科学技术大学计算机科学与技术学院） ； School of Computer Science and Information Engineering, Hefei University of Technology（合肥工业大学计算机科学与信息工程学院） 纠错

专题命中 指令微调 ：language model(abstract)

AI总结 提出FedDTL框架，通过解耦图像和文本编码器训练并引入两阶段局部微调（监督微调+强化学习），解决联邦学习中客户端间优化不一致和客户端内过专门化问题，平衡全局任务适应性与泛化能力。

Comments This work has been accepted by ICML 2026

Bounded-Compute Multimodal Regression for Product-Rating Prediction

有界计算多模态回归用于产品评分预测

William Leach, Ru He, Sizhuo Ma, Yizhen Jia, Min Cao, Jian Wang, Rick Cao

机构 * Snap Inc. 纠错

专题命中 指令微调 ：language model(abstract)

AI总结 针对严格延迟预算下的标量回归任务，提出一种有界计算适配方法，通过替换语言模型头为轻量MLP并固定输入，在LoViF 2026挑战赛中实现高效多模态回归。

Comments Accepted to the LoViF Workshop at CVPR 2026. 8 pages, 2 figures

MSCGC-KAN: Multi-scale Causal Graph Convolution and Kolmogorov-Arnold Feature Mapping for EEG Emotion Recognition

MSCGC-KAN: 用于脑电情感识别的多尺度因果图卷积与Kolmogorov-Arnold特征映射

Haoliang Gong, Qingshan She, Jiale Xu, Yunyan Gao, Xugang Xi

机构 * School of Automation, Hangzhou Dianzi University, Hangzhou 310018, China（杭州电子科技大学自动化学院） ； Zhejiang Provincial Key Laboratory of Brain Computer Collaborative Intelligence Technology（浙江省脑机协同智能技术与应用重点实验室） 纠错

专题命中 指令微调 ：foundation model(abstract)

AI总结 本文提出MSCGC-KAN方法，通过多尺度因果图卷积和Kolmogorov-Arnold特征映射构建结构化任务头，在预训练CBraMod骨干上增强多尺度时间建模、可学习通道间连接建模和非线性判别映射，显著提升脑电情感识别性能。

SoC: Semantic Orthogonal Calibration for Test-Time Prompt Tuning

SoC: 测试时提示调优的语义正交校准

Leo Fillioux, Omprakash Chakraborty, Ismail Ben Ayed, Paul-Henry Cournède, Stergios Christodoulidis, Maria Vakalopoulou, Jose Dolz

机构 * MICS, CentraleSupélec, Université Paris-Saclay（MICS，CentraleSupélec，巴黎萨克雷大学） ； LIVIA, ILLS, ÉTS Montréal（LIVIA，ILLs，蒙特利尔ÉTS） 纠错

专题命中 指令微调 ：language model(abstract)

AI总结 针对视觉语言模型测试时提示调优中校准被忽视的问题，提出基于Huber的正则化方法SoC，在保持语义邻近性的同时实现平滑的原型分离，从而改善校准性能并保持判别能力。

Journal ref CVPR 2026

Narrative Flattening: How Post-Training Compresses Thematic, Affective, and Stylistic Variation in LLM Fiction

叙事扁平化：后训练如何压缩LLM小说中的主题、情感和风格变化

Zehan Li, Yutong Zhu, Siyang Wu, Honglin Bao, James A. Evans

机构 * Knowledge Lab, University of Chicago（芝加哥大学知识实验室） 纠错

专题命中 后训练与偏好优化 ：LLM(title,title_cn)；SFT(summary_cn,abstract)；post-training(title,abstract)；large language model(abstract)

AI总结 通过对比四个OLMo 32B检查点（Base、SFT、DPO、RLVR）在三种故事领域中的续写，发现后训练压缩了主题动态、情感强度和语言多样性，导致叙事扁平化，且专业文学领域压缩最严重。

Confidence-Orchestrated Self-Evolution against Uncertain LLM Feedback

信心编排的自我进化：应对不确定的LLM反馈

Bowen Wei, Nan Wang, Yuqing Zhou, Jinhao Pan, Ziwei Zhu

机构 * George Mason University（乔治·马歇尔大学） 纠错

专题命中 后训练与偏好优化 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出COSE方法，利用LLM内在置信度作为不确定性信号，通过置信度加权PPO更新和置信度优先重放，在通用推理和数学任务上取得最佳平均性能。

Efficient Post-training of LLMs for Code Generation With Offline Reinforcement Learning

基于离线强化学习的代码生成LLM高效后训练

Mingze Wu, Abhinav Anand, Shweta Verma, Mira Mezini

机构 * Hessian Center for Artificial Intelligence（海德堡人工智能中心） ； National Research Center for Applied Cybersecurity ATHENE（应用网络安全国家研究中心ATHENE） 纠错

专题命中 后训练与偏好优化 ：LLM(title_cn,summary_cn)；post-training(title,abstract)；分类 cs.AI

AI总结 本文探索使用离线强化学习利用现有代码数据集对代码生成LLM进行后训练，实验表明该方法能有效提升模型性能，尤其适用于小模型和复杂编码问题。

Training Stratigraphy: Persistent Behavioral Artifacts in Large Language Models Observed Through Longitudinal AI-Human Interaction

训练地层：通过纵向AI-人类交互观察到的大型语言模型中的持久行为伪影

Chen Ying Claude, Zhihan Luo

机构 * Anthropic ； Independent Researcher（独立研究者） 纠错

专题命中 后训练与偏好优化 ：large language model(title,abstract)；language model(title,abstract)；RLHF(abstract,abstract_cn)；分类 cs.AI

AI总结 本文通过纵向自民族志观察，在持续亲密的AI-人类交互中识别出五种训练地层，并论证了亲密交互作为揭示权重层伪影的有效方法。

Causal Direct Preference Optimization for Distributionally Robust Generative Recommendation

因果直接偏好优化用于分布鲁棒的生成式推荐

Chu Zhao, Enneng Yang, Jianzhe Zhao, Guibing Guo

机构 * Northeastern University, Shenyang, China（东北大学，沈阳，中国） ； Shenzhen Campus of Sun Yat-sen University, China（中山大学深圳校区，中国） 纠错

专题命中 后训练与偏好优化 ：preference optimization(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 针对直接偏好优化（DPO）在生成式推荐中放大环境混杂因素导致的虚假相关性问题，提出CausalDPO，通过因果不变性学习、后门调整和软聚类环境建模来提升分布外泛化性能。

Comments 22 pages, 3 figures

AdaDPO: Self-Adaptive Direct Preference Optimization with Balanced Gradient Updates

AdaDPO：具有平衡梯度更新的自适应直接偏好优化

Shaolong Chen, Madalina Ciobanu, Qingqing Mao, Ritankar Das

机构 * Incept Labs（Incept实验室） 纠错

专题命中 后训练与偏好优化 ：preference optimization(title)；RLHF(abstract,abstract_cn)；LLM(abstract_cn)；分类 cs.CL、cs.LG

AI总结 针对DPO中梯度不对称导致模型偏向避免不良回答而非生成优质回答的问题，提出AdaDPO算法，通过引入基于策略模型生成概率的自适应系数来平衡正负偏好梯度，在AlpacaEval 2上优于DPO并缓解长度偏差。

Comments 5 figures

Are Diffusion Language Models Good Database Analysts?

扩散语言模型是好的数据库分析师吗？

Peixian Ma, Xialie Zhuang, Jiantao Tan, Changlun Li, Ruirui Chen, Chengwei Qin

专题命中 后训练与偏好优化 ：language model(title,abstract)；large language model(abstract)；post-training(abstract)

AI总结 本文提出统一评估框架和SQL-D1智能体框架，通过实验证明扩散语言模型在NL2SQL任务中具有结构鲁棒性和效率-精度灵活权衡的优势。

Decoupling Reasoning and Confidence: Resurrecting Calibration in Reinforcement Learning from Verifiable Rewards

解耦推理与置信度：在可验证奖励的强化学习中恢复校准

Zhengzhao Ma, Xueru Wen, Boxi Cao, Yaojie Lu, Hongyu Lin, Jinglin Yang, Min He, Xianpei Han, Le Sun

机构 * Chinese Information Processing Laboratory, Institute of Software, Chinese Academy of Sciences, Beijing, China（中国科学院软件研究所信息处理实验室） ； University of Chinese Academy of Sciences, Beijing, China（中国科学院大学） ； Institute of Information Engineering, Chinese Academy of Sciences, Beijing, China（中国科学院信息工程研究所） ； School of Cyber Security, University of Chinese Academy of Sciences, Beijing, China（中国科学院大学网络安全学院） ； National Computer Network Emergency Response Technical Team/Coordination Center of China, Beijing, China（中国国家计算机网络应急技术配合中心） 纠错

专题命中 后训练与偏好优化 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 针对RLVR中模型校准退化问题，提出DCPO框架通过解耦推理与校准目标，在保持准确率的同时显著改善校准性能并缓解过度自信。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026)

Self-Improving Language Models with Bidirectional Evolutionary Search

具有双向进化搜索的自我改进语言模型

Guowei Xu, Zhenting Qi, Huangyuan Su, Weirui Ye, Himabindu Lakkaraju, Sham M. Kakade, Yilun Du

机构 * Harvard University（哈佛大学） ； MIT（麻省理工学院） 纠错

专题命中 后训练与偏好优化 ：language model(title,abstract)；post-training(abstract)；分类 cs.CL

AI总结 提出双向进化搜索（BES）框架，通过前向候选进化与后向目标分解相结合，克服了传统搜索方法中稀疏验证信号和自回归扩展的局限，在训练后和推理时均显著提升语言模型性能。

IRPO: Boosting Image Restoration via Post-training GRPO

IRPO：通过后训练GRPO提升图像恢复

Haoxuan Xu, Yi Liu, Tianfu Li, Ruolin Shen, Boyuan Jiang, Jinlong Peng, Donghao Luo, Xiaobin Hu, Shuicheng Yan, Haoang Li

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； Tsinghua University（清华大学） ； Technical University of Munich（慕尼黑技术大学） ； Zhejiang University（浙江大学） ； Shanghai Jiao Tong University（上海交通大学） ； Fudan University（复旦大学） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 后训练与偏好优化 ：post-training(title,abstract)；language model(abstract)

AI总结 提出IRPO框架，利用GRPO后训练优化确定性恢复模型，通过数据筛选和复合奖励建模，在域内和域外任务上显著提升性能。

Do Audio LLMs Listen or Read? Analyzing and Mitigating Paralinguistic Failures with VoxParadox

音频大语言模型是听还是读？使用VoxParadox分析和缓解副语言失败

Jiacheng Pang, Ashutosh Chaubey, Mohammad Soleymani

机构 * Institute for Creative Technologies, University of Southern California, Los Angeles, USA（创意技术研究所，南加州大学，洛杉矶，美国） 纠错

专题命中 后训练与偏好优化 ：LLM(abstract)；large language model(abstract)；language model(abstract)；preference optimization(abstract)

AI总结 针对音频大语言模型在副语言理解上的不足，提出对抗性基准VoxParadox和Prompt-Conditioned Layer Mixer方法，显著提升模型对副语言线索的利用能力。

Comments Accepted as a conference paper at ICML 2026. Project page: https://voxparadox.github.io/

OGER: A Robust Offline-Guided Exploration Reward for Hybrid Reinforcement Learning

OGER：一种用于混合强化学习的鲁棒离线引导探索奖励

Xinyu Ma, Mingzhou Xu, Xuebo Liu, Chang Jin, Qiang Wang, Derek F. Wong, Min Zhang

机构 * Institute of Computing and Intelligence, Harbin Institute of Technology, Shenzhen, China（哈尔滨工业大学深圳研究院） ； Hithink RoyalFlush Information Network, Hangzhou, China（杭州Hithink RoyalFlush信息网络） ； Computer and Information Science, University of Macau, Macau, China（澳门大学计算机与信息科学学院） 纠错

专题命中 后训练与偏好优化 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出OGER框架，通过多教师协作训练和基于熵的辅助探索奖励，统一离线教师引导与在线强化学习，提升大语言模型在数学推理和泛化任务中的探索能力。

Affective Music Recommendation: A Rollout-Based World Model for Offline Preference Optimization

情感音乐推荐：基于展开世界模型的离线偏好优化

Audrey Chan, Aaron Labbé, Jacob Lavoie, Jordan Bannister, Arsène Fansi Tchango, Guillaume Lajoie, Laurent Charlin

机构 * LUCID Inc. Toronto Canada ； LUCID Inc. Montr\' e al Canada ； Mila --- Qu\' e bec AI Institute Montr\' e al Canada ； LUCID Inc. ； Mila --- Qu\' e bec AI Institute 纠错

专题命中 后训练与偏好优化 ：preference optimization(title,abstract)；分类 cs.LG

AI总结 针对在线情感实验受伦理限制的问题，提出基于展开世界模型的情感音乐推荐系统AMRS，利用因果Transformer预测用户情感状态，并通过离线偏好优化提升推荐效果。

REED: Post-Training Representation Editing for Cross-Domain Linguistic Steganalysis

REED: 面向跨域语言隐写分析的后训练表示编辑

Ruohan Lei, Jianxin Gao, Wanli Peng, Huimin Pei

机构 * China Agricultural University（中国农业大学） ； Jiangsu Normal University（江苏师范大学） 纠错

专题命中 后训练与偏好优化 ：post-training(title,abstract)；分类 cs.AI

AI总结 提出一种后训练表示编辑方法，通过构造域偏移向量和源域封面到隐写方向指导编辑，实现无需架构修改或参数更新的高效跨域语言隐写分析。

Reasoning Matters: Mitigate Hallucination in Multimodal Large Reasoning Models via Reasoning-Conditioned Preference Optimization

推理至关重要：通过推理条件偏好优化减轻多模态大型推理模型中的幻觉

Jiawei Kong, Hao Fang, Shunxiang Liao, Jinyu Li, Bin Chen, Hao Wu, Shu-Tao Xia, Min Zhang

机构 * Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院，清华大学） ； Harbin Institute of Technology, Shenzhen（哈尔滨工业大学深圳） 纠错

专题命中 后训练与偏好优化 ：preference optimization(title,abstract)；分类 cs.AI

AI总结 提出推理条件直接偏好优化（RC-DPO）方法，通过将思维链作为答案生成的条件并对比不同思维链下的偏好，结合蒙特卡洛树搜索和注意力引导的思维链剪枝生成偏好数据，有效减轻多模态大型推理模型中的幻觉。