语言大模型 / LLM

Demystifying Group Relative Policy Optimization: Its Policy Gradient is a U-Statistic

解开群体相对策略优化：其策略梯度是U统计量

Hongyi Zhou, Kai Ye, Erhan Xu, Jin Zhu, Ying Yang, Shijin Gong, Chengchun Shi

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文通过经典U统计量框架解析GRPO，证明其策略梯度本质为U统计量，推导其MSE、有限样本误差界及渐近分布，揭示GRPO渐近等价于拥有价值函数的最优策略梯度算法，并建立通用缩放规律指导最优分组大小选择。

Comments 5 pages, 53 figures

MUTANT: A Recipe for Multilingual Tokenizer Design

MUTANT：多语言分词设计的配方

Souvik Rana, Arul Menezes, Ashish Kulkarni, Chandra Khatri, Shubham Agarwal

机构 * Krutrim AI 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出MUTANT多语言分词方法，通过精心设计词汇和训练数据、语言感知预分词和子词多词感知训练，提升多语言LLM的分词效果，MUTANT-Indic在22种印度语言上实现SOTA性能。

Asymmetric Dynamics of Partisan Warriors in YouTube Comments

YouTube评论中党派战士的不对称动态

Keyeun Lee, Sang Jung Kim

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 研究分析了YouTube评论中党派战士的行为，发现跨意识形态评论者并不比同阵营者更文明，保守派观众更奖励对异己领导者的攻击，而左派观众则惩罚此类攻击，且保守派频道中党派战士更普遍，其行为受频道层面异质性驱动。

Comments 16 pages, 8 figures, Accepted at ICWSM 2026

Learning Inflation Narratives from Reddit: How Lightweight LLMs Reveal Forward-Looking Economic Signals

从Reddit学习通货膨胀叙事：轻量级大语言模型如何揭示前瞻性的经济信号

Ryuichi Saito, Sho Tsugawa

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 本文利用轻量级大语言模型分析Reddit数据，提出新的通货膨胀感知测量方法，通过RIS评分与CPI和MICH指标高度相关，揭示了经济叙事中的结构性变化。

Comments 19 pages, accepted at The 20th International AAAI Conference on Web and Social Media (ICWSM'26)

Cortical Policy: A Dual-Stream View Transformer for Robotic Manipulation

皮层策略：一种双流视图变换器用于机器人操作

Xuening Zhang, Qi Lv, Xiang Deng, Miao Zhang, Xingbo Liu, Liqiang Nie

机构 * Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）） ； Shandong Jianzhu University（山东建筑大学） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；pretraining(abstract)

AI总结 本文提出Cortical Policy，通过双流视图变换器提升机器人操作中的空间和动态推理能力，实验证明其在复杂任务中的优越性。

Comments Published as a conference paper at ICLR 2026. 10 pages, 4 figures. Appendix included

Latent Policy Steering with Embodiment-Agnostic Pretrained World Models

基于世界模型的潜在策略引导

Yiqi Wang, Mrinal Verghese, Jeff Schneider

机构 * Robotics Institute, School of Computer Science, Carnegie Mellon University（机器人研究所、计算机科学学院、卡内基梅隆大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 本文通过预训练世界模型和优化价值函数，提升低数据场景下的视觉运动策略性能，采用光流作为动作表示，实现跨体素的策略优化，实验显示在机器人任务中性能提升显著。

A Knowledge-Informed Pretrained Model for Causal Discovery

基于知识的因果发现预训练模型

Wenbo Xu, Yue He, Yunhai Wang, Xingxuan Zhang, Kun Kuang, Yueguo Chen, Peng Cui

机构 * Renmin University of China（中国人民大学） ； Tsinghua University（清华大学） ； Zhejiang University（浙江大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 本文提出一种整合弱先验知识的因果发现预训练模型，通过双源编码器-解码器架构和多样预训练数据集，提升模型在不同先验强度下的适应能力，实验显示在分布内、分布外及现实数据集上均优于现有基线。

The Finetuner's Fallacy: When to Pretrain with Your Finetuning Data

微调者的谬误：何时应使用微调数据进行预训练

Christina Baek, Ricardo Pio Monti, David Schwab, Amro Abbas, Rishabh Adiga, Cody Blakeney, Maximilian Böther, Paul Burstein, Aldo Gael Carranza, Alvin Deng, Parth Doshi, Vineeth Dorna, Alex Fang, Tony Jiang, Siddharth Joshi, Brett W. Larsen, Jason Chan Lee, Katherine L. Mentzer, Luke Merrick, Haakon Mongstad, Fan Pan, Anshuman Suri, Darren Teh, Jason Telanoff, Jack Urbanek, Zhengping Wang, Josh Wills, Haoli Yin, Aditi Raghunathan, J. Zico Kolter, Bogdan Gaza, Ari Morcos, Matthew Leavitt, Pratyush Maini

机构 * DatologyAI Team（DatologyAI团队） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 本文研究了一种简单策略，即专门预训练（SPT），通过在预训练阶段重复使用小领域数据集，以提升领域性能并保留通用能力。实验显示，SPT能减少预训练token数量，提升领域表现，同时降低过拟合风险。

Segmenting Visuals With Querying Words: Language Anchors For Semi-Supervised Image Segmentation

通过查询词进行视觉分割：用于半监督图像分割的语言锚点

Numair Nadeem, Saeed Anwar, Muhammad Hamza Asad, Abdul Bais

机构 * University of Regina, Canada（里嘉大学） ； The University of Western Australia, Australia（西澳大学） ； University Canada West, Canada（加拿大西大学） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.AI

AI总结 本文提出HVLFormer，通过生成多尺度文本查询和引入跨视角一致性正则化，提升视觉与文本对齐，以实现更准确的半监督图像分割。

Molecular Quantum Transformer

分子量子变换器

Yuichi Kamata, Quoc Hoan Tran, Yasuhiro Endo, Hirotaka Oshima

机构 * Quantum Laboratory, Fujitsu Research, Fujitsu Limited（Fujitsu 研究院量子实验室） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 本文提出分子量子变换器，利用量子电路实现注意力机制，高效计算分子量子系统的基态能量，优于经典Transformer，拓展了量子化学应用。

Comments 14 pages, 8 figures; updated for refining results and discussion with other FTQC implementations of Quantum Transformer

Journal ref Proceedings of the AAAI Conference on Artificial Intelligence, 40(27), 22482-22490 (2026)

Denoise to Track: Harnessing Video Diffusion Priors for Robust Correspondence

去噪以跟踪：利用视频扩散先验进行鲁棒对应

Tianyu Yuan, Yuanbo Yang, Lin-Zhuo Chen, Yao Yao, Zhuzhong Qian

机构 * Nanjing University（南京大学） ； Zhejiang University（浙江大学） 纠错

专题命中 预训练与数据 ：foundation model(abstract)

AI总结 本文提出HeFT框架，利用预训练视频扩散模型的视觉先验进行零样本点跟踪，通过分析内部表示揭示注意力头在匹配、语义理解和位置编码中的不同专长，并提出基于头和频率的特征选择策略提升跟踪性能。

The Binding Effect: Analyzing How Multi-Dimensional Cues Form Gender Bias in Instruction TTS

绑定效应：分析多维线索如何在指令文本到语音中形成性别偏见

Kuan-Yu Chen, Yi-Cheng Lin, Po-Chung Hsieh, Huang-Cheng Chou, Chih-Fan Hsu, Jeng-Lin Li, Hung-yi Lee, Jian-Jiun Ding

机构 * Graduate Institute of Communication Engineering, National Taiwan University, Taiwan（台湾大学通讯工程研究所） ； AI Research Center, Inventec Corporation, Taiwan（Inventec公司人工智能研究中心） 纠错

专题命中 预训练与数据 ：prompting(abstract)

AI总结 研究通过分析多维线索的交互作用，揭示了指令文本到语音中性别偏见的复杂模式，指出单一维度测试无法全面捕捉偏见，强调需进行组合分析以识别生成语音中的潜在风险。

Comments 5 pages, 1 figure, 6 tables, Submitted to INTERSPEECH 2026

DiT4DiT: Jointly Modeling Video Dynamics and Actions for Generalizable Robot Control

DiT4DiT：联合建模视频动态与动作以实现通用机器人控制

Teli Ma, Jia Zheng, Zifan Wang, Chunli Jiang, Andy Cui, Junwei Liang, Shuo Yang

机构 * Mondo Robotics（Mondo机器人公司） ； HKUST(GZ)（香港科技大学（广州）） ； HKUST（香港科技大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 本文提出DiT4DiT模型，通过结合视频扩散变换器与动作扩散变换器，实现视频动态与动作的联合建模，提升机器人控制的泛化能力与样本效率。

Comments https://dit4dit.github.io/

Enhancing Safety of Large Language Models via Embedding Space Separation

通过嵌入空间分离增强大语言模型的安全性

Xu Zhao, Xiting Wang, Weiran Shen

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学首都人工智能学院） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出嵌入空间分离方法，通过扩大有害与安全表示间的距离提升大语言模型安全性，同时保持模型通用能力。

Mind over Space: Can Multimodal Large Language Models Mentally Navigate?

心灵超越空间：多模态大语言模型能否进行心理导航？

Qihui Zhu, Shouwei Ruan, Xiao Yang, Hao Jiang, Yao Huang, Shiji Zhao, Hanwei Fan, Hang Su, Xingxing Wei

机构 * Institute of Artificial Intelligence, Beihang University（北京航空航天大学人工智能研究院） ； Dept. of Comp. Sci. and Tech., Institute for AI, Tsinghua-Bosch Joint ML Center, THBI Lab, BNRist Center, Tsinghua University（清华大学-博世联合机器学习中心、THBI实验室、BNRist中心、清华大学计算机科学与技术系） ； School of Automation Science and Electrical Engineering , Beihang University（北京航空航天大学自动化科学与电气工程学院） ； college of AI, Tsinghua University（清华大学人工智能学院） ； Department of Computer Science and Technology , Tsinghua University（清华大学计算机科学与技术系） 纠错

专题命中 指令微调 ：large language model(title)；language model(title)；分类 cs.AI

AI总结 本文提出Video2Mental基准测试，评估多模态大语言模型的空间导航能力，发现标准预训练模型无法自然生成空间表示，NavMind通过显式认知地图提升导航性能。

Open-weight genome language model safeguards: Assessing robustness via adversarial fine-tuning

开放权重基因组语言模型的安全保障：通过对抗性微调评估鲁棒性

James R. M. Black, Moritz S. Hanke, Aaron Maiwald, Tina Hernandez-Boussard, Oliver M. Crook, Jaspreet Pannu

机构 * Center for Health Security（健康安全中心） ； Johns Hopkins Bloomberg School of Public Health（约翰霍普金斯大学布隆伯格公共卫生学院） ； Department of Chemistry（化学系） ； University of Oxford（牛津大学） ； Stanford University School of Medicine（斯坦福大学医学院） ； Department of Chemistry & Kavli Institute for Nanoscience Discovery（化学系及卡弗里纳米科学发现研究所） 纠错

专题命中 指令微调 ：language model(title,abstract)；pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 研究评估了开放权重基因组语言模型在对抗性微调下的鲁棒性，发现通过微调有害病毒序列可恢复模型的滥用相关能力，强调了需要安全框架以确保模型安全部署。

Comments 39th Conference on Neural Information Processing Systems (NeurIPS 2025) Workshop: Biosecurity Safeguards for Generative AI

User Preference Modeling for Conversational LLM Agents: Weak Rewards from Retrieval-Augmented Interaction

用于对话大语言模型代理的用户偏好建模：来自检索增强交互的弱奖励

Yuren Hao, Shuhaib Mehri, ChengXiang Zhai, Dilek Hakkani-Tür

机构 * University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出VARS框架，通过长短期向量表示用户偏好，利用弱奖励在线更新向量，提升交互效率，实验证明其在多会话协作任务中表现优异。

Comments 21 pages including appendices

RAIE: Region-Aware Incremental Preference Editing with LoRA for LLM-based Recommendation

RAIE: 基于LoRA的区域感知增量偏好编辑用于基于LLM的推荐系统

Jin Zeng, Yupeng Qi, Hui Li, Chengming Li, Ziyu Lyu, Lixin Cui, Lu Bai

机构 * School of Cyber Science and Technology, Shenzhen Campus of Sun Yat-sen University（中山大学深圳校区计算机科学与技术学院） ； Department of Computer Science and Technology, Xiamen University（厦门大学计算机科学与技术系） ； Artificial Intelligence Research Institute, Shenzhen MSU-BIT University（深圳MSU-BIT大学人工智能研究院） ； School of Information, Central University of Finance and Economics（中央财经大学信息学院） ； School of Artificial Intelligence, Beijing Normal University（北京师范大学人工智能学院） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出RAIE框架，通过区域级更新解决推荐系统中偏好漂移问题，采用LoRA模块实现动态修正，实验表明其在动态推荐场景中具有高准确性和可扩展性。

Comments Published on WWW'26: In Proceedings of the ACM Web Conference 2026

Learning to Interpret Weight Differences in Language Models

学习解释语言模型中的权重差异

Avichal Goel, Yoon Kim, Nir Shavit, Tony T. Wang

机构 * Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出Diff Interpretation Tuning方法，通过合成标签权重差异训练适配器，使模型能用自然语言描述微调后的修改。

Comments Project code and links to weight diffs, adapters, and training data can be found at https://github.com/Aviously/diff-interpretation-tuning

CoRA: Boosting Time Series Foundation Models for Multivariate Forecasting through Correlation-aware Adapter

CoRA: 通过相关性感知适配器提升多变量预测的时序基础模型

Hanyin Cheng, Xingjian Wu, Yang Shu, Zhongwen Rao, Lujia Pan, Bin Yang, Chenjuan Guo

机构 * East China Normal University（东华师范大学） ； Huawei Noah’s Ark Lab（华为诺亚实验室） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出CoRA，一种轻量级插件式方法，通过捕捉不同类型的相关性提升多变量时间序列预测性能，采用低秩时间变化和时间不变成分分解相关矩阵，并引入双对比学习方法。

DMFI: A Dual-Modality Log Analysis Framework for Insider Threat Detection with LoRA-Tuned Language Models

DMFI: 一种用于内部威胁检测的双模态日志分析框架，结合LoRA微调语言模型

Kaichuan Kong, Dongjie Liu, Xiaobo Jin, Guanggang Geng, Zhiying Li, Jian Weng

机构 * College of Cyber Security, Jinan University, Guangzhou, China（广州大学网络安全学院） ； School of Advanced Technology, Xi’an Jiaotong-Liverpool University, Suzhou, China（西安交通大学利物浦大学先进技术学院） 纠错

专题命中 指令微调 ：language model(title)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 DMFI通过双模态框架整合语义推理与行为感知微调，利用LoRA增强的语言模型提升日志分析精度，实验表明其在检测准确率上优于现有方法。

Comments This work has been accepted by 2025 IEEE International Conference on Data Mining (ICDM)

HPE-CogVLM: Advancing Vision Language Models with a Head Pose Grounding Task

HPE-CogVLM: 通过头部姿态接地任务提升视觉语言模型

Yu Tian, Tianqi Shao, Tsukasa Demizu, Xuyang Wu, Hsin-Tai Wu

机构 * Docomo Innovations, Inc.（Docomo创新公司） ； Department of Computer Science and Engineering, Santa Clara University（圣克拉拉大学计算机科学与工程系） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出HPE-CogVLM框架，利用VLM的物体检测能力提升头部姿态估计精度，通过改进的LoRA层合并方法，有效解决融合任务中的响应格式问题，实现优于现有方法的性能。

Comments Accepted by IEEE Transactions on Circuits and Systems for Video Technology (TCSVT), 2026. This version includes major updates in methodology and experiments. The final version is available at IEEE Xplore

Journal ref IEEE Transactions on Circuits and Systems for Video Technology, Early Access, 2026

TTP: Test-Time Padding for Adversarial Detection and Robust Adaptation on Vision-Language Models

TTP: 视觉-语言模型上的对抗检测与鲁棒适应的测试时填充

Zhiwei Li, Yitian Pang, Weining Wang, Zhenan Sun, Qi Li

机构 * NLPR & MAIS, Institute of Automation, Chinese Academy of Sciences（神经网络与模式识别实验室及自动化研究所，中国科学院） ； University of Chinese Academy of Sciences（中国科学院大学） ； Department of Automation, Tsinghua University（清华大学自动化系） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.AI

AI总结 本文提出TTP框架，通过测试时填充实现对抗检测与鲁棒适应，提升视觉-语言模型在对抗攻击下的鲁棒性而不影响清洁准确性。

Comments Accepted to the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) 2026

Complexity-aware fine-tuning

基于复杂度的微调

Andrey Goncharov, Daniil Vyazhev, Petr Sychev, Edvard Khalafyan, Alexey Zaytsev

机构 * Applied AI Institute（应用人工智能研究所） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出一种高效微调方法，通过熵识别复杂数据进行推理，使用小模型分割训练数据并提升大模型性能，数据使用减少81%，准确率优于传统SFT和蒸馏方法。

Journal ref 2026.findings-eacl.34

Aggregation Alignment for Federated Learning with Mixture-of-Experts under Data Heterogeneity

在数据异质性下基于混合专家的联邦学习聚合对齐

Zihan Fang, Qianru Wang, Haonan An, Zheng Lin, Yiqin Deng, Xianhao Chen, Yuguang Fang

机构 * Hong Kong JC STEM Lab of Smart City（香港JC STEM实验室） ； Department of Computer Science, City University of Hong Kong（香港城市大学计算机科学系） ； School of Computer Science and Technology, Xidian University（西安电子科技大学计算机科学与技术学院） ； Department of Electrical and Computer Engineering, The University of Hong Kong（香港大学电子与计算机工程系） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文针对联邦学习中混合专家模型因数据异质性导致的聚合挑战，提出FedAlign-MoE框架，通过路由一致性和专家语义对齐提升模型收敛速度和准确性。

Comments 14 pages, 14 figures

Efficient Fine-Tuning Methods for Portuguese Question Answering: A Comparative Study of PEFT on BERTimbau and Exploratory Evaluation of Generative LLMs

葡萄牙问答任务中高效的微调方法：对BERTimbau的PEFT系统评估及生成LLMs的探索性评估

Mariela M. Nina, Caio Veloso Costa, Lilian Berton, Didier A. Vega-Oliveros

机构 * Institute of Science and Technology（科学技术研究院） ； Federal University of São Paulo (UNIFESP)（圣保罗联邦大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文比较了PEFT在BERTimbau上的表现，并探索了生成式LLMs在葡萄牙问答任务中的效果，发现PEFT方法在计算成本上更高效，适合可持续发展。

Comments 10 pages, 2 figures, PROPOR 2026

Multi-Stage Fine-Tuning of Pathology Foundation Models with Head-Diverse Ensembling for White Blood Cell Classification

多阶段微调病理基础模型与头多样集成用于白血细胞分类

Antony Gitau, Martin Paulson, Bjørn-Jostein Singstad, Karl Thomas Hjelmervik, Ola Marius Lysaker, Veralia Gabriela Sanchez

机构 * University of South-Eastern Norway（东南挪威大学） ； Vestfold Hospital Trust（维斯特福尔医院信托） 纠错

专题命中 指令微调 ：foundation model(title)

AI总结 本文提出多阶段微调方法，结合头多样集成，提升白血细胞分类性能，针对不同成熟阶段的粒细胞优化不同分类头，提高分类精度。

Comments Accepted to ISBI 2026

Nuanced Emotion Recognition Based on a Segment-based MLLM Framework Leveraging Qwen3-Omni for AH Detection

基于段落式MLLM框架的细致情绪识别：利用Qwen3-Omni进行AH检测

Liang Tang, Hongda Li, Jiayu Zhang, Long Chen, Shuxian Li, Siqi Pei, Tiaonan Duan, Yuhao Cheng

机构 * Qwen3-Omni 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出基于段落式MLLM框架的细致情绪识别方法，利用Qwen3-Omni模型在AH检测中实现85.1%的准确率，验证了多模态大语言模型在捕捉复杂情绪冲突中的优势。

Comments 5 pages, 1 figures

Real-Time Long Horizon Air Quality Forecasting via Group-Relative Policy Optimization

通过群体相对策略优化实现实时长周期空气质量预报

Inha Kang, Eunki Kim, Wonjeong Ryu, Jaeyo Shin, Seungjun Yu, Yoon-Hee Kang, Seongeun Jeong, Eunhye Kim, Soontae Kim, Hyunjung Shim

机构 * KAIST（韩国科学技术院） ； Ajou University（全州大学） ； Kunsan University（全州大学） 纠错

专题命中 指令微调 ：foundation model(abstract)；SFT(abstract)；分类 cs.AI

AI总结 本文提出群体相对策略优化方法，解决传统模型在长周期空气质量预报中的误报问题，通过减少误报率提升预报可靠性。

Comments 31 pages

Journal ref CVPR 2026

CompassNav: Steering From Path Imitation To Decision Understanding In Navigation

CompassNav: 从路径模仿到决策理解的导航导航

LinFeng Li, Jian Zhao, Yuan Xie, Xin Tan, Xuelong Li

机构 * East China Normal University（东华师范大学） ； The Institute of Artificial Intelligence (TeleAI), China Telecom（人工智能研究所（TeleAI），中国电信） ； Northwestern Polytechnical University（西北工业大学） 纠错

专题命中 指令微调 ：language model(abstract)；SFT(abstract)

AI总结 本文提出CompassNav方法，通过引入Compass-Data-22k数据集和gap-aware奖励函数，使导航代理能理解而非单纯模仿路径，实现更高效的导航性能。

Journal ref Proceedings of the 14th International Conference on Learning Representations (ICLR), 2026