语言大模型 / LLM

The Spectral Dynamics and Noise Geometry of Muon

Muon的谱动力学与噪声几何

Pierfrancesco Beneventano, Mahmoud Abdelmoneum, Tomaso Poggio

机构 * Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 研究Muon优化器通过极分解替换矩阵梯度，证明其偏置为平坦谱，在欠定回归中导出奇异值动力学，实验表明其效果依赖于谱方向活跃度。

Comments 24 pages, 11 figures

Differentially Private Synthetic Data via APIs 4: Tabular Data

通过API实现差分隐私合成数据 4: 表格数据

Toan Tran, Arturs Backurs, Zinan Lin, Victor Reis, Li Xiong, Sergey Yekhanin

机构 * Microsoft（微软） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；分类 cs.LG

AI总结 提出Tab-PE算法，将Private Evolution框架扩展至表格数据，通过启发式算子迭代优化候选数据集，在保持差分隐私的同时高效处理高阶相关性，相比基线AIM分类准确率提升最高10%，速度提升28倍。

Comments ICML'26

Unlocking Latent Value: Taxonomy-Guided Recovery of High-Performing Data from Low-Tier Web Corpora

解锁潜在价值：基于分类法从低层级网络语料库中恢复高性能数据

Neeraj Varshney, Sanket Lokegaonkar, Nasser Zalmout, Qingyu Yin, Priyanka Nigam, Bing Yin

机构 * Amazon（亚马逊） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.CL

AI总结 提出一种分类驱动框架，通过引入时效性和文化特异性两个新维度，结合两阶段过滤方法，从低质量网络数据中恢复高性能子集，在推理和编码任务上显著超越未过滤的高质量数据。

What Makes Video World Model Latents Action-Relevant: Prediction over Reconstruction

什么使视频世界模型潜在空间与动作相关：预测优于重建

Jewon Yeom, Hanseul Kim, Jeongjae Park, Sungmok Jung, Jaejin Lee, Taesup Kim

机构 * Graduate School of Data Science, Seoul National University（首尔大学数据科学研究生院） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.AI

AI总结 通过统一探针评估，发现动作相关结构主要由时间视频预训练驱动，而非像素重建保真度，其中视频预训练自监督编码器在视觉保真度和动作预测间取得最佳帕累托权衡。

Closed-Form Spectral Regularization for Multi-Task Model Merging

多任务模型融合的闭式谱正则化

Yongxian Wei, Runxi Cheng, Xingxuan Zhang, Li Shen, Chun Yuan, Peng Cui, Dacheng Tao

机构 * Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院） ； Department of Computer Science and Technology, Tsinghua University（清华大学计算机科学与技术系） ； Sun Yat-sen University（中山大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；分类 cs.LG

AI总结 针对多任务模型融合中的干扰最小化问题，发现迭代求解器实际充当隐式谱正则化器，据此提出基于谱滤波的闭式方法SWUDI及其自适应变体SWUDI-A，显著提升效率并匹配或超越现有方法。

VoxCPM2 Technical Report

VoxCPM2 技术报告

Yixuan Zhou, Guoyang Zeng, Xin Liu, Xiang Li, Renjie Yu, Jiancheng Gui, Jiaheng Wu, Ziyang Wang, Xudong Shen, Runchuan Ye, Zhisheng Zhang, Jiuyang Zhou, Bingsong Bai, Weiyue Sun, Mengyuan Deng, Qundong Shi, Zhiyong Wu, Zhiyuan Liu

机构 * VoxCPM Team（VoxCPM 团队） 纠错

专题命中 预训练与数据 ：foundation model(abstract,comments)

AI总结 提出VoxCPM2，一种全开源多语言可控语音生成基础模型，通过层次化扩散自回归建模、非对称AudioVAE和2B参数/200万小时数据扩展，在零样本和指令跟随TTS基准上达到SOTA，平均WER为1.68%。

Comments The technical report of VoxCPM2, a TTS foundation model (GitHub: https://github.com/OpenBMB/VoxCPM)

Structural Guidance for Unified Joint Demosaicing and Denoising

用于统一联合去马赛克与去噪的结构引导

Qixin Zheng, Ping Chen, Qiangqiang Shen, Haijin Zeng

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 该研究提出含SwinIR恢复分支、结构推理分支与轻量适配器的结构引导统一恢复框架，在多CFA模式和噪声水平实验中较现有方法实现一致性能提升，增强了相机图像恢复的鲁棒性。

Comments 19 pages, including supplementary material

A Framework for Joint Affine and Diffeomorphic Image Registration

联合仿射与微分同胚图像配准的框架

Anton François, Rayane Mouhli, Thomas Pierron

专题命中 预训练与数据 ：foundation model(abstract)

AI总结 该研究提出联合仿射-微分同胚图像配准框架，含FA和DA模型，优化策略结合渐进仿射丰富与变分加权，在Dice重叠度上优于CARL等基线模型。

Diffuse the object, keep its label: curating detector training data from a few unlabeled photographs via VLM-built 3D vegetation scenes

扩散目标，保留其标签：通过VLM构建的3D植被场景从少量未标记照片中整理检测器训练数据

Mario Malizia, Marnix Enting, Rob Haelterman, Ken Hasselmann

机构 * Royal Military Academy（皇家军事学院） ； KU Leuven（鲁汶大学） ； Flanders Make（佛兰德制造研究院） 纠错

专题命中 预训练与数据 ：language model(abstract)

AI总结 本研究针对植被中小物体标记图像稀缺导致检测器跨站点泛化差的问题，通过VLM构建3D植被场景合成标记训练图像，实现无监督站点适应，在排雷基准上性能优于传统跨站点标签复用。

Comments Accepted at the Curated Data for Efficient Learning (CDEL) Workshop @ ECCV 2026

TriView-YOLO: Early Multi-View Fusion for Ground Penetrating Radar Cavity Detection in Soft, High-Water-Content Soils

TriView-YOLO：软质高含水量土壤中探地雷达空洞检测的早期多视图融合方法

Suphawut Thawinutchokaudom, Sompote Youwai, Warat Kongkitkul, Mitsumasa Yamashina, Jose M. D. S. Rodrigues Neto, Jun Shinohara

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 本文提出TriView-YOLO多视图YOLOv12检测器，通过融合三种配准的GPR视图实现软质高含水量土壤的道路空洞检测，在专属野外测试集上取得0.558±0.028的mAP50，性能优于单视图方案，公开及合成训练图像等优化手段无增益。

JEPA-WAM: Learning Vision-Language-Action Policies with Joint-Embedding World Modeling

JEPA-WAM：基于联合嵌入世界建模的视觉-语言-动作策略学习

Yihan Lin, Jiawei He, Shifeng Bao, Chen Zhao, Yang Li, Xiaobo Wang, Yan Wang, Cheng Chi, Jing Zhang

机构 * XYZ Embodied AI（XYZ具身智能） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 该研究提出JEPA-WAM，一种构建于预训练V-JEPA空间的隐式WAM，通过共享预测器耦合隐式转移预测与动作生成，在LIBERO-Plus等数据集上取得优异的机器人操作策略性能，且泛化能力强。

Comments 22 pages, 7 figures. Project page: https://spritewithoutice.github.io/JEPA_WAM/

A Dynamic-Semantics Framework for Grounding Human Referring Expressions in Visual Perceptual Data

用于在视觉感知数据中建立人类指代表达式基础的动态语义框架

Joseph Bingham

专题命中 预训练与数据 ：language model(abstract)

AI总结 本文提出动态语义框架，通过显式约定状态绑定集合与感知对齐流程，解决视觉-语言模型在词汇同步任务中的不足，在斯坦福重复参考游戏语料库上达到83.56%的top-5准确率，核心是透明符号层与可检查感知通道的结合。

Comments 23 pages, 5 figures

RenderMatte: Exact-Alpha Rendering and Group-Relative Alignment for Image Matting

RenderMatte：用于图像抠图的精确Alpha渲染与组相对对齐

Zecheng Ren, Yafei Hu, Jianing Zhao, Ruichen Cong, Qun Jin, Yiren Song

专题命中 预训练与数据 ：post-training(abstract)

AI总结 本文提出RenderMatte框架，通过微调FLUX.1 Kontext实现精确Alpha渲染，引入组相对Alpha对齐优化，并构建专属数据集，在抠图基准测试中取得最优性能，解决开放世界场景的抠图难题。

SegDem: Segmentation helps Demosaicing

SegDem：分割任务助力去马赛克

Ping Chen, Xiangming Wang, Yongyong Chen, Jiezhang Cao, Kai Zhang, Jingyong Su, Jie Liu, Haijin Zeng

机构 * Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） ； Shanghai Jiao Tong University（上海交通大学） ； Nanjing University (Suzhou)（南京大学（苏州）） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 该研究提出SegDem框架，通过实例分割与跨任务解码器表示迁移，结合DINOv2共享表示空间，在单/四拜耳去马赛克任务上，于多类数据集实现不同架构下的性能稳定提升。

Comments 20 pagess

LHSDet: High-Resolution AI-Generated Image Detection via Visual Question Answering

LHSDet：基于视觉问答的高分辨率AI生成图像检测方法

Qian Yao, Jun-Jie Huang, Yongjun Wang, Luming Yang

机构 * College of Computer Science and Technology, National University of Defense Technology（国防科技大学计算机学院） ； Academy of Military Science（军事科学院） 纠错

专题命中 预训练与数据 ：language model(abstract)

AI总结 针对现有AI生成图像检测方法忽略高分辨率细节、难以应对未知生成模型的问题，提出LHSDet，将检测任务转为视觉问答，采用三分支架构，在各类生成模型上实现高检测准确率与稳健性能。

Patient Pose Assessment Using a CT-Based Framework for Synthetic Data Generation

基于CT合成数据生成框架的患者姿态评估

Manuel Laufer, Dominik Mairhöfer, Malte Sieren, Hauke Gerdes, Fabio Leal dos Reis, Arpad Bischof, Thomas Käster, Erhardt Barth, Jörg Barkhausen, Thomas Martinetz

机构 * Institute for Neuro- and Bioinformatics, University of Lübeck（吕贝克大学神经与生物信息学研究所） ； University Medical Center Schleswig-Holstein（石勒苏益格-荷尔斯泰因大学医学中心） ； IMAGE Information Systems Europe GmbH（IMAGE信息系统欧洲有限公司） ； Pattern Recognition Company GmbH（模式识别有限公司） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 该研究提出基于CT的合成数据生成框架，用于解决放射图像患者姿态评估中真实训练数据获取难的问题，经3077对踝关节图像预训练后，真实踝关节姿态评估性能提升最多11个百分点。

Comments Accepted for publication at the Journal of Machine Learning for Biomedical Imaging (MELBA) https://melba-journal.org/2026:027

Journal ref Machine.Learning.for.Biomedical.Imaging. 2026 (2026)

Mapping Armenian Paris: Extracting and Geocoding Commercial Advertisements from the 20th-Century Diaspora Press

绘制亚美尼亚巴黎：从20世纪侨民报刊中提取并地理编码商业广告

Chahan Vidal-Gorène, Seda Kirakosyan, Edita Matevosyan

专题命中 预训练与数据 ：language model(abstract)

AI总结 本研究提出基于IIIF的VLM驱动端到端流程，从西亚美尼亚语报刊中提取并地理编码商业广告，构建巴黎亚美尼亚商业社区交互式地图，相关成果可迁移至其他资源匮乏历史语料库。

JoyAI-RA 0.5: Scaling Robot Manipulation Learning via Dual Action Alignment

JoyAI-RA 0.5：通过双动作对齐扩展机器人操纵学习

RA Team

机构 * Joy Future Academy, JD（京东探索研究院） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 针对机器人操纵学习中异构数据的负迁移问题，提出 JoyAI-RA 0.5 框架，通过双动作对齐结合 VLWA 与强化学习，在 AgiBot 基准上实现性能提升，证明人类弱标注数据可作为扩展操纵能力的核心资源。

Comments Project Page: https://joyai-ra-05.github.io/

Lesion Detection in CT with Frozen Self-Distilled Features: SALT, a Spatially Adaptive Label-Guided Temperature

基于冻结自蒸馏特征的CT病灶检测：SALT——空间自适应标签引导温度

Mahmut S. Gokmen, Evan W. Damron, Mitchell A. Klusty, Caroline N. Leach, Emily B. Collier, V. K. Cody Bumgardner

机构 * University of Kentucky（肯塔基大学） ； University of Louisville（路易斯维尔大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 该研究提出SALT方法，通过空间自适应标签引导温度优化自监督预训练，冻结编码器后训练轻量级CenterNet头部，在四个CT队列中实现病灶检测，效果优于无目标条件化的对照模型。

RegisterBridgeMM: A Register-Centric Framework for RGB-Infrared Object Detection

RegisterBridgeMM：一种以寄存器为核心的RGB-红外目标检测框架

Zian Wang, Hangchuan Liang, Yuehua Chen, Changchun Li, Chaoyi Guo, Mingzhe Liu, Fangming Gu

机构 * Jilin University（吉林大学） ； Taiyuan University of Technology（太原理工大学） ； Shenzhen University（深圳大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 针对RGB-红外目标检测的跨模态融合难题，提出以寄存器为核心的RegisterBridgeMM框架，通过三阶段寄存器生命周期实现高效融合，在四个基准数据集上取得最高mAP50-95性能。

Ego2Robot: Scalable Robot Data Synthesis from Egocentric Human Data

Ego2Robot：从第一视角人类数据生成可扩展机器人数据

Ye Wang, Pei Lin, Xiong-Hui Chen, Haoqi Yuan, Zhixuan Liang, Yiyang Huang, Anzhe Chen, Zixing Lei, Jie Zhang, Tao Zhang, Haoyang Li, Tong Zhang, Chenxi Xiao, Ziyuan Jiao, Qin Jin

机构 * AIM3 Lab, Renmin University of China（中国人民大学AIM3实验室） ； Qwen Team, Alibaba Inc.（阿里巴巴通义千问团队） ； ShanghaiTech University（上海科技大学） ； Beijing Institute for General Artificial Intelligence (BIGAI)（北京通用人工智能研究院） ； Beijing University of Aeronautics and Astronautics（北京航空航天大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 Ego2Robot提出将第一视角人类操控视频转换为机器人训练数据的可扩展流水线，生成18561小时机器人数据，扩展RoboTwin2.0验证其联合预训练可提升机器人分布外泛化能力并经真实部署验证

G-Skin: Learning to Bind 3D Gaussians with Generative Visual Priors

G-Skin：学习结合生成式视觉先验的3D高斯绑定方法

Yuxin Yao, Kendong Liu, Shiqi Zhou, Jiazhi Xia, Junhui Hou

机构 * City University of Hong Kong（香港城市大学） ； Central Media Technology Institute, Huawei（华为中央媒体技术研究院） ； Central South University（中南大学） 纠错

专题命中 预训练与数据 ：foundation model(abstract)

AI总结 本文针对3D高斯资产绑定的难题，提出生成式蒙皮框架G-Skin，利用2D视觉基础模型提炼运动先验构建优化流程，可灵活泛化并优于现有方法。

SG-WAM: Self-Guided World Modeling in Geometry-Aware Policy Space

SG-WAM：几何感知策略空间中的自引导世界建模

Ruiteng Zhao, Zhengshen Zhang, Yue Su, Wenshuo Wang, Jiahui Li, Zhiyuan Yang, Francis E. H. Tay, Marcelo H. Ang, Haiyue Zhu

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 SG-WAM是自引导的几何感知世界动作模型框架，通过策略衍生空间联合优化动态预测等，在LIBERO等数据集上实现高成功率，性能优于基线。

Can Synthetic Data Overcome the Generalization Limits of AI-Based Flower and Pod Detection Across Cowpea Breeding Genotypes and Environments?

合成数据能否克服基于AI的豇豆花与荚果检测在不同育种基因型及环境下的泛化极限？

Hamid Kamangir, Jonathan Berlingeri, Earl Ranario, Isaac Kazuo Uyehara, Lars Lundqvist, Heesup Yun, Christine H. Diepenbrock, Brian N. Bailey, J. Mason Earles

机构 * University of California Davis（加州大学戴维斯分校） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 本研究针对AI豇豆花荚检测在不同基因型环境下泛化差的问题，发现优化的HDR合成数据仅需少量真实图像即可达到真实数据基线性能，证实合成数据可克服该检测的泛化极限。

Chimera: Designing and Chinchilla-Scaling Hybrid Visual Diffusion Transformers

Chimera：设计与遵循Chinchilla缩放规律的混合视觉扩散Transformer

Chongjian Ge, Hanwen Jiang, Tianyu Wang, Jiuxiang Gu, Yiran Xu, Ziwen Chen, Shaoteng Liu, Jing Shi, Yicong Hong, Zefan Cai, Hailin Jin, Hao Tan

机构 * Adobe Research（奥多比研究院） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 Chimera是一款混合视觉扩散骨干网络，结合KDA、MLA等模块与HeteroP缩放方案，训练出11B参数（2B激活）的模型，在计算效率、视频泛化等方面优于基线，为长上下文扩散架构设计提供基础。

Comments 40 pages

ROAD: Reciprocal-Objective Alignment of Discriminative Semantics for 3D Shape Generation

ROAD：用于3D形状生成的判别式语义的互目标对齐

Xiao Luo, Mingyang Du, Xin Zhou, Tianrui Feng, Xiwu Chen, Xiaofan Li, Jiangning Zhang, Dingkang Liang

机构 * Huazhong University of Science and Technology（华中科技大学） ； Megvii（旷视科技） ； Zhejiang University（浙江大学） 纠错

专题命中 预训练与数据 ：foundation model(abstract)

AI总结 ROAD框架通过迁移判别式3D基础模型的先验，采用互目标对齐策略，仅用1.5%训练数据就实现了高保真3D生成，大幅降低了计算开销。

Self-Evolving Learning for Embodied AI with Criticality Model

基于临界模型的具身智能自进化学习

Linxuan He, Yuying Tian, Lingxiang Fan, Jiaqi Pi, Yinqiao Lu, Shang Su, Mengkai Shi, Shuo Feng

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 本文提出基于临界模型的具身智能自进化学习方法，通过状态级临界模型引导采样易失败场景，在多类具身任务中显著降低失败率，性能优于基线及同类先进模型。

Quantum machine learning interatomic potential: Application of variational quantum algorithm

量子机器学习原子间势：变分量子算法的应用

Kohei Numata, Wataru Mizukami, Kosuke Mitarai, Keisuke Fujii, Yutaka Imamura

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 本研究将量子电路学习应用于MLIP，采用量子迁移学习架构再训练ANI模型，发现结合量子电路的MLIP在预训练模型精度有提升空间时，精度略高于全经典神经网络，可推进量子机器学习在MLIP中的应用。

Comments 15 pages, 7 figures

Level, Sharpness, and Corpus: Why Zero-Shot OOD Detector Rankings Do Not Transfer

水平、锐度与语料：为何零样本分布外检测器的排名无法迁移

Ignacio M. De la Jara, Cristian Rodriguez-Opazo, Stephen Gould, Damith Ranasinghe

专题命中 预训练与数据 ：language model(abstract)

AI总结 本文通过审计证明零样本OOD检测器排名无法跨域迁移，提出CEG封装器，可降低检测器敏感性并提升GL-MCM与MCM的族平衡FPR95。

Embedding Items at Scale: Comparing GNN-Based and ID-Based Item Embeddings in the Yandex Ecosystem

大规模物品嵌入：Yandex生态系统中基于GNN和基于ID的物品嵌入比较

Sergei Makeev, Artem Matveev, Vladimir Baikalov, Kirill Khrylchenko

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 本文通过案例研究，在Yandex的三个产品场景中对比了基于GNN的预训练物品嵌入与端到端可训练物品嵌入，发现训练数据有限时预训练有帮助，大规模数据集上则无显著益处。