语言大模型 / LLM

Robo-ValueRL: Reliable Value Estimation for Offline-to-Online Reinforcement Learning

Robo-ValueRL：离线到在线强化学习的可靠价值估计

Wenke Xia, Pei Ren, Wenbo Yu, Yizhuo Zhang, Jifan Li, Yixue Zhang, Yinuo Zhao, Qingyang Gao, Jianlong Fu, Jian Tang, Ji-Rong Wen, Zhengping Che, Di Hu

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院） ； Beijing Innovation Center of Humanoid Robotics（北京人形机器人创新中心） ； Beijing Forestry University（北京林业大学） ； Peking University（北京大学） ； Microsoft Research（微软研究院） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.AI

AI总结 研究离线到在线强化学习中价值函数可靠性对策略优化的影响，提出Robo-ValueRL框架，通过特定指标评估价值估计可靠性并用于策略预训练和在线改进，实验显示其能有效提升下游策略性能，突出价值引导数据利用对策略改进的重要性。

Comments Please refer to our website: https://gewu-lab.github.io/Robo-ValueRL/

WSqD: A Horizon-Free Learning Rate Schedule for Large Model Training

WSqD：一种用于大模型训练的与训练轮次无关的学习率调度方法

Jianhao Ma, Yuxin Chen

机构 * University of Pennsylvania（宾夕法尼亚大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 研究提出WSqD学习率调度方法，受随机凸优化启发，用移位反平方根基础取代WSD恒定稳定阶段，保留最终线性冷却，其基础学习率调度与训练轮次无关且收敛速率最优，实验显示在语言模型预训练中表现良好。

Geometric Causal Models

几何因果模型

Eli N. Weinstein, David M. Blei

机构 * Department of Chemistry, Technical University of Denmark（丹麦技术大学化学系） ； Departments of Statistics and Computer Science, Columbia University（哥伦比亚大学统计学与计算机科学系） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.LG

AI总结 针对非独立同分布结构化数据的因果推断难题，提出利用数据生成过程内在对称性的几何因果模型框架，结合群论、遍历理论与几何深度学习实现因果识别与估计。

Self-supervised training for high-resolution close-range multispectral remote sensing imagery

高分辨率近程多光谱遥感影像的自监督训练

Leon-Friedrich Thomas, Mikael Änäkkälä, Antti Lajunen

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 研究探索自监督学习在高分辨率多光谱无人机影像用于精准农业的有效性，用MoCo-v3等对基于Transformer的编码器预训练，在作物-杂草语义分割任务中表现出色，展示跨传感器和区域泛化能力，还提供芬兰多光谱无人机数据集。

Boolean queries are all you need?

布尔查询就足够了吗？

Charles L. A. Clarke, Mark D. Smucker

专题命中 预训练与数据 ：LLM(abstract)

AI总结 研究在TREC 2024 RAG赛道任务中，为基于大语言模型的搜索代理配备布尔检索引擎，仅依据语料库子串与查询匹配密度排名，无需监督学习等，结果表明简单模式匹配或足以用于智能搜索。

Dance to Music Generation leveraging Pre-training with Unpaired data and Contrastive Alignment

利用未配对数据和对比对齐进行预训练的舞蹈音乐生成

Ryota Kimura, Sangheon Park, Natalia Polouliakh, Taketo Akama

机构 * Sony Computer Science Laboratories（索尼计算机科学实验室） ； Keio University（庆应义塾大学） ； Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 针对舞蹈音乐生成中高质量配对数据稀缺问题，提出利用未配对和配对数据的框架，结合预训练单峰编码器、对比预训练及控制网络模块，实验证明该方法提升了舞蹈音乐对齐和音频质量，优于现有技术。

Comments 7 pages, 1 figure

Attribution-Guided Continual Learning for Large Language Models

基于属性引导的大型语言模型持续学习

Yazheng Liu, Yuxuan Wan, Rui Xu, Xi Zhang, Sihong Xie, Hui Xiong

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港理工大学（广州）） ； The Beijing University of Posts and Telecommunications（北京邮电大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.LG

AI总结 本文提出基于属性引导的持续学习框架，通过估计每个Transformer层中参数的重要性，调节梯度以保留旧任务知识，实验表明在持续学习基准上优于基线方法。

UMoE:Unlocking Every Expert in Domain-Specific Training

UMoE：在特定领域训练中解锁每个专家

Xuefeng Li, Pengfei Liu

机构 * Qwen Team（通义千问团队） ； DeepSeek-AI（渊亭科技） ； Thinking Machines Lab（思维机器实验室） ； LLM-Core Xiaomi（小米大语言模型核心团队） 纠错

专题命中 指令微调 ：SFT(summary_cn,abstract)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 研究针对特定领域训练中专家池不合理问题，提出UMoE流程，先修剪低显著性专家，再扩展专家池，最后应用标准SFT，该方法在多架构、多领域及多基准测试中优于直接SFT，能转化冗余容量，提升训练效果。

CHARM: Charge Calibration and Acoustic Rescue for LLM-based Multimodal Sarcasm Detection

CHARM：基于大语言模型的多模态讽刺检测中的电荷校准与声学救援

Qiyang Sun, Yi Chang, Yupei Li, Xi Shao, Zixing Zhang, Björn W. Schuller

机构 * GLAM – the Group on Language, Audio, & Music, Imperial College London（伦敦帝国理工学院语言、音频和音乐小组） ； College of Telecommunications and Information Engineering, Nanjing University of Posts and Telecommunications（南京邮电大学通信与信息工程学院） ； College of Computer Science and Electronic Engineering, Hunan University（湖南大学计算机科学与电子工程学院） ； Shenzhen Research Institute, Hunan University（湖南大学深圳研究院） ； CHI – Chair of Health Informatics, TUM University Hospital（慕尼黑工业大学医院健康信息学主席） ； relAI – the Konrad Zuse School of Excellence in Reliable AI（康拉德·楚泽可靠人工智能卓越学院） ； MDSI – Munich Data Science Institute（慕尼黑数据科学研究所） ； MCML – Munich Center for Machine Learning（慕尼黑机器学习中心） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 研究针对大语言模型在讽刺检测中过度预测积极类别及韵律线索利用不足的问题，提出CHARM框架，含双向电荷校准和声学后期融合救援两个模块，无需微调主干，提升检测性能，揭示跨文化韵律解耦，产生可解释的跨语言多模态检测器。

Comments under review

Production and Perception in LLMs: A Token Probability Approach

大语言模型中的生成与感知：一种令牌概率方法

Anna Marklová, Jiří Milička, Martina Vokáčová, Rudolf Rosa

机构 * Faculty of Arts, Charles University, Prague（布拉格查理大学文学院） ； Faculty of Mathematics and Physics, Charles University, Prague（布拉格查理大学数学与物理系） 纠错

专题命中 指令微调 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 研究探讨大语言模型中语言生成与感知的区别，通过直接令牌概率测量，利用Llama - 3.1 - 8B等模型实验发现，提示框架能引发生成 - 感知区别，此区别特定于交际框架，在多模型中可复制，感知提示在序列起始影响最强。

Efficiently Adapting Spoken Language Models for the Singaporean Context

高效地使口语语言模型适应新加坡语境

Ng Jia Sheng Jason

机构 * xData Home Team Science & Technology Agency (HTX)（新加坡内政团队科技局） 纠错

专题命中 指令微调 ：language model(title,abstract)；SLM(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对原始训练数据不可用且需多语言口语交互的情况，将开源口语语言模型适应新加坡语境。核心方法是结合LoRA微调等技术，构建多语言数据集。贡献是HT - Moonstone（5B）在多数任务表现出色，口音和性别识别佳，且原始语音问答能力损失小。

Comments 10 pages, 2 figures

GFR-SAM: Training-Free Referring Camouflaged Object Segmentation via Cross-Image Prompting

GFR-SAM：通过跨图像提示实现免训练的指认伪装物体分割

Yilong Yang, Jianxin Tian, Shengchuan Zhang, Liujuan Cao

机构 * Key Laboratory of Multimedia Trusted Perception and Efficient Computing, Ministry of Education of China, Xiamen University（多媒体可信感知与高效计算重点实验室，教育部，厦门大学） 纠错

专题命中 指令微调 ：prompting(title,abstract)；foundation model(abstract)

AI总结 研究指认伪装物体分割问题，提出GFR-SAM三阶段免训练框架，通过生成候选掩码、过滤背景干扰、细化边界等步骤，在R2C7K基准测试中表现出色，弥合通用模型与特定感知任务差距，凸显SAM3跨图像提示潜力。

Compositional Context Fine-Tuning Vision-Language Model for Complex Assembly Action Understanding from Videos

用于从视频理解复杂装配动作的组合上下文微调视觉语言模型

Hao Zheng, Jinyi Huang, Tiantian Zheng, Xun Xu, Tuka Alhanai

机构 * New York University Abu Dhabi（纽约大学阿布扎比分校） ； The University of Auckland（奥克兰大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；LLM(comments)

AI总结 针对装配动作理解难题，提出组合上下文微调方法及层划分交替训练方法，将动作分解为语义元素并微调视觉语言模型，创建相关数据集，实验证明该方法优于基线且能提供可解释预测，助力人机协作装配。

Comments Accepted by ICRA 2026. Video Understanding; Vision Language Model; Multi-modal LLM; Action Recognition; Assembly

GigaAM Multilingual: Foundation Model for Underrepresented Languages

GigaAM多语言：针对低资源语言的基础模型

Andrei Kuzmenko, Alexandr Maximenko, Aleksandr Kutsakov, Georgii Gospodinov, Dmitrii Bolotov, Oleg Kutuzov, Pavel Bogomolov, Fyodor Minkin

机构 * SaluteDevices, Russia（SaluteDevices） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；分类 cs.CL

AI总结 针对多语言ASR中长尾语言数据稀缺问题，提出GigaAM Multilingual，用Conformer编码器在大量音频上预训练，预训练时引入聚类级数据平衡策略，微调时采用领域感知采样方法，在目标语言上优于其他编码器，发布相关模型提供多语言适应方法。

Comments Accepted to Interspeech 2026. Model weights: https://github.com/salute-developers/GigaAM

VoxENES 2026: Benchmarking Generalization of Speech Spoofing Detectors Against LLM-Era TTS and Voice Conversion

VoxENES 2026：针对大语言模型时代文本转语音和语音转换的语音欺骗检测泛化基准测试

Aastha Sharma, Guangjing Wang

机构 * University of South Florida（佛罗里达州立大学） 纠错

专题命中 指令微调 ：LLM(title,abstract)；分类 cs.AI

AI总结 研究针对大语言模型时代TTS和VC系统合成语音与传统基准测试不匹配问题，引入VoxENES 2026基准测试，对八个预训练检测器测试发现性能大幅下降，凸显当前检测器问题，确立该基准为开发音频欺骗对策的实用平台。

Comments Accepted in InterSpeech 2026

TextGaze: Prompting Gaze Target Estimation with Textual Scene Cues

TextGaze：利用文本场景线索提示注视目标估计

Junhui She, Fei Wang, Kun Li, Yiqi Nie, Yuxin Liu, Zhangling Duan, Xun Yang

机构 * University of Science and Technology of China（中国科学技术大学） ； Hefei University of Technology（合肥工业大学） ； Institute of Artificial Intelligence, Hefei Comprehensive National Science Center（合肥综合性国家科学中心人工智能研究院） ； Anhui University（安徽大学） ； United Arab Emirates University（阿联酋大学） 纠错

专题命中 指令微调 ：prompting(title)；language model(abstract)

AI总结 研究注视目标估计问题，提出TextGaze统一跨模态架构，利用大型视觉语言模型平衡多分支与简化设计范式，通过冻结编码器提取视觉特征、设计融合模块等进行联合预测，在多数据集上评估有竞争力，为传统设计提供简化替代。

Comments Accepted by IJCAI 2026. All contents are available at: https://github.com/idremo/TextGaze-IJCAI2026

Format Sensitivity Index: Token-Controlled Prompt Wrapper Robustness and Schema Compliance in LLM Benchmarking

格式敏感性指数：大语言模型基准测试中令牌控制的提示包装器稳健性与模式合规性

Deep Pankajbhai Mehta

机构 * Adobe Inc（Adobe公司） 纠错

专题命中 指令微调 ：LLM(title)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究提示包装器格式差异对模型分数的影响，引入格式敏感性指数（FSI）和可解析性敏感性指数（PSI），通过大量实验发现平均FSI在不同模型间变化超30倍，且可解析性是准确性有力预测指标，指出不考虑包装器差异和合规性报告准确性不可靠并给出建议。

Comments 10 pages, 6 figures

Self-Compacting Language Model Agents

自压缩语言模型智能体

Tianjian Li, Jingyu Zhang, William Jurayj, Xi Wang, Chuanyang Jin, Mehrdad Farajtabar, Eric Nalisnick, Daniel Khashabi

机构 * Johns Hopkins University（约翰霍普金斯大学） ； Apple（苹果公司） 纠错

专题命中 指令微调 ：language model(title)；分类 cs.CL

AI总结 提出SelfCompact框架，让语言模型自主决定何时及如何压缩上下文，通过调用压缩工具和轻量级规则实现自适应压缩，无需微调或外部监督，在多个基准上以更低成本匹配或超越固定间隔压缩。

Comments 25 pages, 3 figures

Filtering Harmful Actions Isn't Enough: Phantom Transfer in Agentic SDF

过滤有害行为是不够的：智能体自反决策函数中的幻影转移

Chinmayi Dixit

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究在含对抗交互的合成智能体轨迹训练的影响，通过微调Llama 3.3 70B Instruct并评估，发现有害行为过滤不足，生成过程引入失调倾向且分散编码，依赖生成模型，安全基准难区分影响，强调动作级过滤无法确保合成智能体训练数据安全。

Conditional Optimal Bridge for Riemannian Activation Steering

用于黎曼激活控制的条件最优桥

Seyed Arshan Dalili, Ajay Narayanan Sridhar, Vijaykrishnan Narayanan, Mehrdad Mahdavi

机构 * The Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对大语言模型推理时激活控制问题，提出\textsc{Cobras}方法，将其视为残差流超球面上的薛定谔桥，从优化问题推导控制目标，使控制方向查询自适应，实验显示该方法性能优于基线且避免分布外性能下降。

Evidence-Backed Video Question Answering

有证据支持的视频问答

Shijie Wang, Honglu Zhou, Ziyang Wang, Ran Xu, Caiming Xiong, Silvio Savarese, Chen Sun, Juan Carlos Niebles

机构 * Salesforce, Palo Alto, CA, USA（Salesforce公司） ； Brown University, Providence, RI, USA（布朗大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究视频问答中模型缺乏可视化依据的问题，提出E-VQA任务及ST-Evidence基准，开发数据集ST-Evidence-Instruct，通过微调提高模型表现，为可解释的视频理解建立基线。

Journal ref ECCV 2026

Safe responses matter: Output-aware safety guardrail mitigate over-refusal in MLLMs

安全响应很重要：输出感知安全护栏减轻多模态大语言模型中的过度拒绝

Jiayi Li, Kun Zhan

机构 * Lanzhou University（兰州大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究多模态大语言模型安全机制权衡问题，提出输出感知安全护栏范式，通过在模型隐藏状态空间预测及多实例对比学习训练分类器，减少过度拒绝，匹配安全性能，保留模型效用与安全能力。

Comments Accepted to ECCV 2026!

RL Forgets! Towards Continual Policy Optimization

强化学习会遗忘！迈向持续策略优化

Mao-Lin Luo, Zhe-Xu Wang, Zi-Hao Zhou, Bo Ye, Jian Zhao, Min-Ling Zhang, Tong Wei

机构 * School of Computer Science and Engineering, Southeast University（东南大学计算机科学与工程学院） ； Key Laboratory of Computer Network and Information Integration (Southeast University), Ministry of Education（教育部计算机网络和信息集成重点实验室（东南大学）） ； Zhongguancun Academy（中关村科学城公司） ； Zhongguancun Institute of Artificial Intelligence（中关村人工智能研究院） 纠错

专题命中 指令微调 ：language model(abstract)；post-training(abstract)；分类 cs.LG

AI总结 研究持续训练中强化学习易遗忘问题，引入MRCL基准测试，提出持续策略优化框架CPO，通过参数移动正则化减少遗忘，多模型规模实验验证了其有效性。

Actor as Its Own Critic: Unifying Region Understanding and Localization via CycleGRPO

作为自身评论家的智能体：通过循环组相对策略优化统一区域理解与定位

Xin Zhang, Haochen Wang, Yikang Zhou, Jason Li, Robby T. Tan

机构 * National University of Singapore（新加坡国立大学） ； University of Chinese Academy of Sciences（中国科学院大学） ； Nanyang Technological University（南洋理工大学） ； Wuhan University（武汉大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)

AI总结 研究针对多模态大语言模型的区域理解与定位问题，提出循环组相对策略优化框架CycleGRPO，利用任务对偶性构建自我评估范式，仅需区域输入，通过质量感知奖励评估字幕，在多基准测试中提升能力，为推进MLLMs像素级能力提供新途径。

Comments Accepted to ECCV 2026

REVA-PO: Stabilizing Reinforcement Learning for Chest X-ray Report Generation

REVA-PO：用于胸部X光报告生成的稳定强化学习

Li Guo, Anas M. Tahir, Z. Jane Wang

机构 * University of British Columbia（英属哥伦比亚大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)

AI总结 研究针对胸部X光报告生成中强化学习训练不稳定等问题，提出REVA-PO框架，通过响应加权正则化和验证锚定策略重置稳定训练，采用三阶段管道，实验证明该框架在语言质量和临床准确性上达新基准。

Satellite-Free Training for Drone-View Geo-Localization

无需卫星的无人机视角地理定位

Tao Liu, Yingzhi Zhang, Kan Ren, Xiaoqi Zhao

机构 * Nanjing University of Science and Technology（南京理工大学） ； University of Tsukuba（筑波大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)

AI总结 本文提出无需卫星数据的训练框架，通过三维场景重建、伪正射影像生成和特征聚合，提升无人机在无GPS环境下的地理定位性能。

Comments Withdrawn by the authors to allow for substantial revision in light of valuable reviewer feedback. A thoroughly revised version may be submitted in the future

StoryTeller: Training-Free Narrative Grounding for Long-Form Audio Description

StoryTeller：用于长格式音频描述的免训练叙事接地

Seung Hyun Hahm, Minh T. Dinh, SouYoung Jin

机构 * Dartmouth College（达特茅斯学院） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.AI

AI总结 研究针对长格式音频描述问题，提出免训练的StoryTeller框架。它通过维护叙事记忆跨场景传递信息，仅用原始视频和标题，经语义过滤等确保信息准确。引入StoryAD-QA基准测试，实验证明该框架显著提升了叙事相关能力。

Comments Accepted to the European Conference on Computer Vision (ECCV) 2026

Language Re-generation: An investigation into information locality effects on reconstruction

语言再生：信息局部性对重构影响的研究

Amirhossein Mohammadi, Laurence E. Frank, Albert Gatt, Robert A. Bagheri

机构 * Utrecht University（乌得勒支大学） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.CL

AI总结 研究信息局部性对语言模型恢复自然语言的影响，通过微调预训练的GPT-2模型从三种扰动类型重构自然英语，发现恢复结构有局部性偏好，揭示架构偏差，且恢复难度与可学习性难度相关，表明信息局部性是共同约束。

EmoStyle: Affective Conditioning of Style-Specialist Experts for Emotional Image Generation

EmoStyle：用于情感图像生成的风格专家情感调节

Dexiang Hong, Yijie Guo, Weidong Chen, Xinyan Liu, Zixuan Zou, Zhendong Mao, Yongdong Zhang

机构 * University of Science and Technology of China（中国科学技术大学） ； Harbin Institute of Technology（哈尔滨工业大学） 纠错

专题命中 指令微调 ：LLM(abstract)；分类 cs.AI

AI总结 针对情感感知艺术图像生成中训练与测试时属性不一致造成的控制差距问题，提出EmoStyle框架，利用语言模型推理器预测情感线索，编码情感字段指导生成，训练专用LoRA适配器结合风格表达情感，经视觉语言模型引导排序，在挑战赛中获佳绩。

Similarity-Guided Curriculum Fine-Tuning of LLMs for Neural Architecture Synthesis

用于神经架构合成的基于相似度引导的大语言模型课程微调

Anujaya Vijayakumar, Radu Timofte, Dmitry Ignatov

机构 * Computer Vision Lab, CAIDAS & IFI, University of Würzburg（计算机视觉实验室、CAIDAS与IFI，维尔茨堡大学） 纠错

专题命中 指令微调 ：LLM(abstract)

AI总结 研究为基于大语言模型的神经架构搜索构建基于MinHash的相似度调度框架，通过对源代码分片划分相似度带进行渐进式课程微调，在CIFAR-10等实验中评估，揭示了接口修复和课程调度针对不同失败模式，还观察了跨数据集转移情况。