图像生成

Towards Consistent and Efficient Dataset Distillation via Diffusion-Driven Selection

通过扩散驱动选择实现一致且高效的数据集蒸馏

Xinhao Zhong, Shuoyang Sun, Zhaoyang Xu, Xulin Gu, Bin Chen, Min Zhang, Yaowei Wang

机构 * Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） ； Shanghai Jiao Tong University（上海交通大学） ； Pengcheng Laboratory（鹏城实验室） 纠错

专题命中 效率与蒸馏 ：diffusion(title,abstract)；分类 cs.CV

AI总结 提出利用扩散先验进行补丁选择而非生成的新框架，通过噪声预测和损失差异识别图像中独特区域，结合类内聚类和排序实现单步蒸馏，在多种指标和设置下优于现有方法。

Comments Accepted by ECCV 2026

Don't Settle at the Mode! Mitigating Diversity Collapse in Pretrained Flow Models via Feature Self-Guidance

不要停留在众数！通过特征自引导缓解预训练流模型中的多样性坍塌

Pradhaan S Bhat, Rishubh Parihar, Abhijnya Bhat, R. Venkatesh Babu

机构 * Indian Institute of Science（印度科学研究所） ； Stanford University（斯坦福大学） 纠错

专题命中 效率与蒸馏 ：image generation(abstract)；text-to-image(abstract)；分类 cs.CV

AI总结 提出一种无需训练的自引导机制，通过分散批次生成中的内部特征并施加流形正则化，在几乎不增加推理成本的前提下缓解预训练流模型的多样性坍塌问题。

Comments Accepted by ECCV 2026. Project page: https://dont-settle-at-the-mode.github.io/

Visual-OPSD: Cross-Modal On-Policy Self-Distillation for Efficient Unified Multimodal Reasoning

Visual-OPSD：用于高效统一多模态推理的跨模态在策略自蒸馏

Pengyu Li, Zhitao Gao, Lingling Zhang, Muye Huang, Yuanming Li, Fangzhi Xu, Jun Liu

机构 * Xi’an Jiaotong University（西安交通大学） ； MOE KLINNS Lab（MOE KLINNS实验室） ； Shaanxi Province Key Laboratory of Big Data Knowledge Engineering（陕西省大数据知识工程重点实验室） ； Sun Yat-sen University（中山大学） 纠错

专题命中 效率与蒸馏 ：diffusion(abstract)；分类 cs.CV

AI总结 提出Visual-OPSD方法，通过跨模态在策略自蒸馏，将多步扩散生成的可视化思维推理能力转移到纯文本学生模型，实现14.3倍加速且性能提升3.40个百分点。

Scalable Peptide Design via Memory-Efficient Equivariant Transformer

通过内存高效等变变压器实现可扩展的肽设计

Rui Jiao, Xiangzhe Kong, Yinjun Jia, Yijia Zhang, Ziyi Yang, Yang Liu, Jianzhu Ma

机构 * Department of Computer Science and Technology, Tsinghua University（清华大学计算机科学与技术系） ； Institute for AI Industry Research, Tsinghua University（清华大学人工智能产业研究院） ； Department of Electronic Engineering, Tsinghua University（清华大学电子工程系） ； Department of Chemistry, Tsinghua University（清华大学化学系） 纠错

专题命中 效率与蒸馏 ：diffusion(abstract)

AI总结 提出内存高效等变变压器（MEET），通过线性内存缩放和几何特征改进，实现全原子肽的序列与结构协同设计，在生成质量、结合亲和力和多样性上超越现有方法。

Learning from the Self-future: On-policy Self-distillation for dLLMs

从自我未来学习：面向扩散LLM的在线自蒸馏

Yifu Luo, Zeyu Chen, Haoyu Wang, Xinhao Hu, Yuxuan Zhang, Zhizhou Sha, Shiwei Liu

机构 * Tsinghua University（清华大学） ； Technical University of Munich（慕尼黑工业大学） ； Nanyang Technological University（南洋理工大学） ； University of British Columbia（不列颠哥伦比亚大学） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） ； ELLIS Institute Tubingen（ELLIS蒂宾根研究所） ； Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所） ； Tubingen AI Center（蒂宾根人工智能中心） 纠错

专题命中 效率与蒸馏 ：diffusion(abstract)

AI总结 提出首个面向扩散大语言模型的在线自蒸馏框架d-OPSD，通过自我生成答案作为后缀条件实现从自我未来经验学习，并将监督从词元级转向步骤级，在推理基准上以约10%的优化步骤超越RLVR和SFT基线。

Comments Preprint

Sticky CIR process with potential: invariant measure and exact sampling

具有势函数的粘性CIR过程：不变测度与精确采样

Tony Shardlow

专题命中 效率与蒸馏 ：diffusion(abstract)

AI总结 本文研究了一维粘性CIR过程，该过程在[0,∞)上扩散，并在原点处具有粘性边界条件，出现在基于Hadamard-Langevin动力学的稀疏贝叶斯推断框架中。对于参数范围δ∈(1,2)，其中原点可到达但不可吸收，证明了过程的良定性和不变测度的唯一性，该测度是零点质量与内部加权伽马型密度的混合。通过构造一个显式格林函数，用以构造零势情况下的精确采样器。对于非平凡势函数G，通过Girsanov测度变换建立倾斜不变测度的存在性和唯一性，并开发了两种采样算法：一种是修正的Metropolis-Hastings采样器，可精确采样目标不变测度；另一种是未调整的Langevin算法（ULA），每步成本较低但引入O(h)的偏差。数值实验验证了预测行为：Metropolis-Hastings采样器在所有步长下都能达到目标不变测度，而ULA表现出预期的O(h)偏差。