语言大模型 / LLM

SA-VLA: State-aware tokenizer for improving Vision-Language-Action Models' performance

SA-VLA: 状态感知分词器提升视觉-语言-动作模型性能

Tengyue Jiang, Chunpu Xu, Jiayue Kang, Yao Mu

机构 * Shanghai Jiao Tong University（上海交通大学） ； East China University of Science and Technology（东华大学） ； Hong Kong Polytechnic University（香港理工大学） ； Xi’an University of Electronic Science and Technology（西安电子科技大学） 纠错

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 提出状态感知动作分词器SA-VLA，通过状态条件动作解码减少离散化压缩损失，在12个操作任务上将成功率从0.29提升至0.56。

Structure-Aware Corpus Construction and User-Perception-Aligned Metrics for Large-Language-Model Code Completion

面向结构的语料构建与用户感知对齐的代码补全评估指标

Dengfeng Liu, Jucai Zhai, Xiaoguang Jiang, Ziqun Li, Qianjin Yu, Feng Liu, Rui Ye, Huang Liu, Zhiguo Yang, Yongsheng Du, Fang Tan

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出LCP和ROUGE-LCP评估指标，从概率建模角度解决代码补全中用户感知与现有指标的差距问题，并通过SPSR-Graph方法提升模型性能。

Comments 14 pages,8 figures

Journal ref ICASSP2026

HyperSU: Corpus-Driven Semantic-Unit Hypergraph for Retrieval-Augmented Generation

HyperSU：面向检索增强生成的语料驱动语义单元超图

Jiate Liu, Liuyi Chen, Zhengyi Yang, Chuan He, Mingchen Ju, Bocheng Han, Ruyi Liu, Xu Zhou

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)

AI总结 提出HyperSU框架，通过语义单元超图和线索引导的双向检索，解决超图RAG中的幻觉、高索引成本和语义漂移问题，在GraphRAG-Bench上准确率提升14.7%。

Comments 24 pages, 6 figures, 23 tables

FinInvest-GTCN: Explainable Graph-Temporal-Causal Modeling for Risk-Aware Investment Decision Optimization

FinInvest-GTCN：用于风险感知投资决策优化的可解释图-时间-因果建模

Junyan Tan, Yifan Li, Minghao Wang, Zihan Chen, Haoyu Zhang

机构 * Department of Computer Science（计算机科学系） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.CL、cs.LG

AI总结 提出FinInvest-GTCN模型，结合图编码、多尺度时序融合和因果决策头，解决风投决策中的异构数据、非平稳时序和可解释性挑战，在私有数据集上RA-MSE降至2.51，模拟组合收益提升18.7%。

Comments 28 pages

Improving Large-Scale Weakly Supervised ASR by Filtering and Selection

通过过滤和选择改进大规模弱监督ASR

Kohei Matsuura, Masato Mimura

机构 * NTT Corporation（日本NTT公司） ； Kyoto University（京都大学） ； Graduate School of Informatics（信息学研究生院） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.CL

AI总结 针对弱监督ASR中的噪声标签和领域不匹配问题，提出基于字符错误率过滤和声学相似性选择的训练方法，在9万小时日语数据上实现6.4%和4.0%的CER降低。

Comments 5 pages, 4 figures, 2 tables

RadarTwin: Scene-Specific mmWave Radar Simulation and Learning for Mobile Indoor Perception

RadarTwin：面向移动室内感知的场景特定毫米波雷达仿真与学习

Emily Bejerano, Federico Tondolo, Devang Gupta, Aaron Mano Cherian, Taeyoo Kim, Ayaan Qayyum, Xiaofan Yu, Xiaofan Jiang

专题命中 预训练与数据 ：language model(abstract)；分类 cs.LG

AI总结 提出RadarTwin框架，利用3D重建和视觉语言模型推断材料属性，通过物理射线追踪合成FMCW雷达数据，解决雷达数据稀缺问题，仿真训练模型在真实场景中识别物体准确率达95.3%。

Translationese as a Rational Response to Translation Task Difficulty

翻译ese作为翻译任务难度的理性反应

Maria Kunilovskaya

专题命中 预训练与数据 ：LLM(abstract)；分类 cs.CL

AI总结 本文研究翻译ese与翻译任务难度的关系，通过量化任务难度指标预测翻译ese，发现跨语言转移难度对翻译ese的影响更大，信息理论指标在书面语中表现优异。

Comments 17 pages, submitted to ARR March 2026

Learning to Route and Schedule LLMs from User Retrials via Contextual Queueing Bandits

通过上下文队列老虎机学习LLM的路由与调度

Seoungbin Bae, Junyoung Son, Dabeen Lee

专题命中 预训练与数据 ：LLM(abstract)；分类 cs.LG

AI总结 本文提出基于隐式反馈的联合路由与调度算法，利用用户重试行为进行学习，通过上下文队列老虎机框架实现高效学习和队列稳定。

CytoCLIP: Learning Cytoarchitectural Characteristics in Developing Human Brain Using Contrastive Language Image Pre-Training

CytoCLIP：利用对比语言图像预训练学习发育人类大脑的细胞架构特征

Pralaypati Ta, Sriram Venkatesaperumal, Keerthi Ram, Mohanasankar Sivaprakasam

专题命中 预训练与数据 ：language model(abstract)；分类 cs.AI

AI总结 CytoCLIP通过对比语言图像预训练框架学习人类大脑细胞架构特征，通过低分辨率和高分辨率模型变体实现区域分类和跨模态检索，实验表明其在整体区域和高分辨率图像分类中表现优异。

Journal ref Neuroinformatics, Volume 24, article number 38 (2026)

Open-Vocabulary and Referring Segmentation for 3D Gaussians Using 2D Detectors

开放词汇与指代分割：利用2D检测器实现3D高斯

Jameel Hassan, Yasiru Ranasinghe, Vishal Patel

机构 * Johns Hopkins University（约翰霍普金斯大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 提出GaussDet方法，利用离散的2D开放词汇检测器与指代表达能力，通过视图聚合语义标签分布实现3D场景的开放词汇分割和指代分割，在零样本设置下显著提升指代分割性能。

Heterogeneous Tactile Transformer

异构触觉Transformer

Jianxin Bi, Qiang Wang, Jayaram Reddy, Kelvin Lin, Soibkhon Khajikhanov, Ruihan Gao, Harold Soh

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 提出异构触觉Transformer（HTT），通过传感器特定编码器和共享Transformer主干学习跨异构传感器的共享触觉表示，利用新HPT数据集预训练，在感知和操作任务中实现可迁移表示。

Comments 15 pages, 5 figures

Learning Transferable Dynamics Priors from Action to World Modeling

从动作到世界建模的可迁移动力学先验学习

Ze Huang, Jiahui Zhang, Hairuo Liu, Chenxi Zhang, Ran Cheng, Li Zhang

机构 * School of Data Science, Fudan University, Shanghai, China（复旦大学数据科学学院，上海，中国） ； Shanghai Innovation Institute, Shanghai, China（上海创新研究院，上海，中国） ； Shanghai Jiao Tong University, Shanghai, China（上海交通大学，上海，中国） ； McGill University, Montreal, QC, Canada（麦吉尔大学，蒙特利尔，魁北克，加拿大） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 提出A2World模型，通过大规模机器人操作数据预训练动作条件世界模型，学习可迁移的交互动力学先验，支持模拟器评估和策略学习。

Comments ECCV 2026 Accepted

From Phase to Phenomenon: Self-Supervised Learning of Subsurface Scattering with Minimal Phase-shift Inputs

从相位到现象：基于最小相移输入的自监督次表面散射学习

Arjun Majumdar, Raphael Braun, Andreas Engelhardt, Hendrik PA. Lensch

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 提出一种自监督预训练框架，利用仅八张高频相移轮廓测量图像预训练编码器，学习可泛化的次表面散射表示，有效迁移到重光照等下游任务，实现高保真重建。

Comments Accepted to ECCV 2026. 15 pages

Articulating then Matching: Zero-Shot Shape Matching for Uncurated Data

先表达后匹配：面向非整理数据的零样本形状匹配

Qilong Liu, Qinfeng Xiao, Chenyuan Yi, Liying Zhang, Kit-lun Yick

专题命中 预训练与数据 ：foundation model(abstract)

AI总结 提出ATM零样本框架，通过先表达后匹配范式，利用预训练视觉基础模型和参数化形状先验，从多视图渲染中估计参数化形状模型，并基于多视图几何一致性进行系统校准，实现无需对应训练、抗拓扑噪声、兼容多种3D模态的鲁棒密集对应。

A Self-Supervised Learning Framework for Video Encoding Complexity Clustering

一种用于视频编码复杂度聚类的自监督学习框架

Krishna Srikar Durbha, Hassene Tmar, Ping-Hao Wu, Ioannis Katsavounidis, Alan C. Bovik

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 提出压缩回波对比学习（CECL），一种自监督框架，利用视频对压缩的响应作为监督信号，聚类编码复杂度，提升下游聚类任务性能并节省码率。

Comments Under Review

Beyond Backscatter: AlphaEarth Land-Cover Priors for Rapid SAR Flood Segmentation Across Foundation Backbones

超越后向散射：用于跨基础骨干网络的快速SAR洪水分割的AlphaEarth土地覆盖先验

Sanjay Thasma, Yu-Hsuan Ho, Ali Mostafavi

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 本研究评估了在无配准预事件SAR图像时，稳定土地背景先验（AlphaEarth）能否提升灾后SAR洪水分割性能，实验表明AlphaEarth在困难事件上优于DEM，而DEM更稳定。

CTC-Seeded Token Edit Refinement for Non-Autoregressive Speech Recognition

基于CTC初始化的标记编辑精炼用于非自回归语音识别

Wanting Huang, Weiran Wang

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 提出一种非自回归语音识别方法，利用CTC假设作为初始序列，通过编辑流解码器并行预测插入、删除和替换操作，仅需两步编辑即可显著降低词错误率。

Comments Submitted to IEEE SLT 2026

A New Method to Capturing Compositional Knowledge in Linguistic Space

一种在语言空间中捕获组合知识的新方法

Jiahe Wan

机构 * School of Computer Science（计算机科学学院） ； South-Central Minzu University（西南民族大学） 纠错

专题命中 预训练与数据 ：language model(abstract)

AI总结 提出YUKINO方法，通过文本反转和“no”逻辑正则化，在无需硬负样本的情况下提升视觉语言模型的组合理解能力，在SugarCREPE基准上超越现有多模态SOTA模型8%以上。

Journal ref Neurocomputing, 2026: 133150

RePer-360: Releasing Perspective Priors for 360$^\circ$ Depth Estimation via Self-Modulation

RePer-360：通过自调节机制释放视角先验以实现360度深度估计

Cheng Guan, Chunyu Lin, Zhijie Shen, Junsong Zhang, Jiyuan Wang

专题命中 预训练与数据 ：foundation model(abstract)

AI总结 本文提出RePer-360框架，通过自调节机制在保留预训练视角先验的情况下实现单目全景深度估计，仅用1%的数据即可提升RMSE约20%。

Comments Accepted to ECCV 2026

Bash-Commenter: Leveraging Syntax-Aware Preference Optimization to Reinforce Large Language Model for Bash Code Comment Generation

Bash-Commenter：利用语法感知偏好优化增强大语言模型生成Bash代码注释

Lei Yu, Jingyuan Zhang, Xin Wang, Li Yang, Fengjun Zhang, Peng Wang, Jia Xu, Jiajia Ma

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；preference optimization(title,abstract)；LLM(abstract,abstract_cn)

AI总结 针对Bash脚本注释缺乏问题，提出基于LLaMA-3.1-8B的Bash-Commenter方法，通过构建高质量数据集、持续预训练和监督微调，并引入语法感知偏好优化（SAPO）利用抽象语法树构造偏好对，显著提升注释生成质量。

Comments Accepted to FSE 2026

OASIF: An Efficient Obfuscation-Aware Self-Improving Framework for LLM-Based Assembly Code Instruction Following and Comprehension

OASIF：一种高效的混淆感知自改进框架，用于基于LLM的汇编代码指令遵循与理解

Xinyi Wang, Rongze Chen, Ke Wang, Qiyuan Chen, Yanming Liu, Xiang Li, Chunfu Jia

专题命中 指令微调 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 提出OASIF框架，通过令牌高效汇编编码器、轻量投影器和三阶段训练（特征空间对齐、监督指令微调、在线自进化强化学习），提升LLM在商业级混淆汇编代码上的指令遵循与理解能力，在VMISA-Bench上取得显著成功率提升。

Beyond SFT-to-RL: Pre-alignment via Black-Box On-Policy Distillation for Multimodal RL

超越SFT到RL：通过黑盒在线策略蒸馏进行预对齐以多模态RL

Sudong Wang, Weiquan Huang, Xiaomin Yu, Zuhao Yang, Hehai Lin, Keming Wu, Chaojun Xiao, Chen Chen, Wenxuan Wang, Beier Zhu, Yunjian Zhang, Chengwei Qin

机构 * Hong Kong University of Science and Technology (Guangzhou)（香港理工大学（广州）） ； Tsinghua University（清华大学） ； Nanyang Technological University（南洋理工大学） ； Renmin University of China（中国人民大学） ； University of Science and Technology of China（中国科学技术大学） ； University of Chinese Academy of Sciences（中国科学院大学） 纠错

专题命中 指令微调 ：SFT(title,title_cn)；post-training(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出PRISM框架，通过在SFT和RLVR之间插入显式分布对齐阶段，解决多模态RL中的分布漂移问题，利用基于策略蒸馏的对抗游戏提升对齐效果，实验显示在多个RL算法和基准上性能提升。

Fine-Tuning General-Purpose Large Language Models for Agricultural Applications:A Reproducible Framework and Evaluation Protocol Based on Qwen3-8B

面向农业应用的通用大语言模型微调：基于Qwen3-8B的可复现框架与评估协议

Zhaoyang Li, Ruijie Zhang, Jiaqi Liu, Zhaoji Sun

机构 * Sanya University（三亚大学） ； Hebei International Studies University（河北国际 Studies 大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 提出AgriTune-R框架，通过数据治理、指令构建、LoRA/QLoRA微调、检索增强生成和专家评估，将通用大语言模型适配到农业任务，并设计了包含事实性、安全性、证据一致性和不确定性表达的评估协议。

Travel-Oriented Reasoning Large Language Model via Domain-Specific Knowledge Graphs

面向旅游的推理大语言模型：基于领域特定知识图谱

Vignesh Ram Nithin Kappagantula, Shayan Hassantabar, Samuel Simpson, Golnaz Moallem

机构 * Expedia Group（Expedia集团） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 提出一种模块化流水线，利用专家构建的知识图谱生成多跳问答对，微调大语言模型以提升旅游领域推理的准确性和校准能力，在基准上达到82.4%精确匹配。

Comments Accepted to the Uncertainty Reasoning and Quantification in Decision Making (UDM) Workshop, KDD 2026 (To be presented in August 2026)

Fine-Tuning Large Language Models for Cooperative Tactical Deconfliction of Small Unmanned Aerial Systems

为小型无人机系统合作战术解冲突进行大型语言模型微调

Iman Sharifi, Alex Zongo, Peng Wei

机构 * George Washington University（乔治华盛顿大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文研究了利用微调策略使大型语言模型在合作多智能体战术解冲突中做出决策，通过模拟生成数据提升决策准确性与一致性。

Comments 15 pages, 6 figures, to be published in CVPR 2026 Workshop Proceedings

Journal ref Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) Workshops, 2026, pp. 1067-1076

Reinforcement Fine-Tuning Naturally Mitigates Forgetting in Continual Post-Training

强化微调自然缓解持续训练中的遗忘

Song Lai, Haohan Zhao, Rong Feng, Changyi Ma, Wenzhuo Liu, Hongbo Zhao, Xi Lin, Dong Yi, Qingfu Zhang, Hongbin Liu, Gaofeng Meng, Fei Zhu

专题命中 指令微调 ：post-training(title,abstract)；large language model(abstract)；language model(abstract)；foundation model(abstract)

AI总结 本文比较了监督微调与强化微调在持续训练中的影响，发现强化微调能有效保留先验知识，优于监督微调和多任务训练，且在标准基准上提升模型通用知识。

Online Data Selection for Instruction Tuning via Gaussian Processes

基于高斯过程的指令调优在线数据选择

Jun Wang, Quoc Phong Nguyen, Julien Monteil, Vu Nguyen

机构 * Amazon（亚马逊） 纠错

专题命中 指令微调 ：instruction tuning(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出GAIA框架，利用高斯过程回归建模语义空间中的连续效用流形，通过自适应策略融合动态选择高质量样本，在三个数据集上优于现有方法。

BrepLLM: Enabling Large Language Models to Understand Boundary Representations

BrepLLM: 使大语言模型能够理解边界表示

Liyuan Deng, Hao Guo, Yongkang Dai, Yunpeng Bai, Yifan Zhu, Yuanyuan Gao, Huaxi Huang, Yilei Shi

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 BrepLLM通过双阶段训练管道，将B-rep数据转化为图表示并进行语义对齐，实现3D语言生成，展示了在3D物体分类和描述任务中的最佳性能。

Comments ECCV 2026

DNA Language Models: An Assessment of Pre-Training for Fine-Tuning Tasks

DNA语言模型：面向微调任务的预训练评估

Romain Karpinsky, Julien Mozziconacci, Mickaël Delcey

机构 * CNRS（法国国家科学研究中心） ； LORIA（洛林大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；LLM(abstract_cn)；large language model(abstract)；foundation model(abstract)

AI总结 本研究系统比较了基于Transformer和卷积的DNA语言模型在微调任务上的表现，评估了预训练的实际贡献以及BPE分词对基因组学任务的影响。

Comments 12 pages, 2 figures, 14 tables

Do We Still Need Fine Tuning? Turkish Sentiment Analysis in the Era of Large Language Model

我们还需要微调吗？大语言模型时代的土耳其语情感分析

Sercan Karakaş, Yusuf Şimşek

机构 * University of Chicago（芝加哥大学） ； Fırat University（费拉特大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究大语言模型时代土耳其语情感分析是否需要监督微调，通过对比经典机器学习、微调预训练语言模型和提示大语言模型，发现微调BERTurk在三分类任务中表现最佳，而大语言模型在中性类别上表现不佳。

Comments Accepted to the 34th IEEE Signal Processing and Communications Applications Conference