图像生成 - arXivDaily 专题

2605.19726 2026-05-20 cs.CV 79%

Efficient Long-Context Modeling in Diffusion Language Models via Block Approximate Sparse Attention

通过块近似稀疏注意力实现扩散语言模型的高效长上下文建模

Wenhu Zhang, Yiming Wu, Huanyu Wang, Yaoyang Liu, Huanzhang Dou, Senqiao Yang, Sitong Wu, Hanbin Zhao, Jiaya Jia

机构 * The Hong Kong University of Science and Technology（香港科学与技术大学）； The University of Hong Kong（香港大学）； Zhejiang University（浙江大学）； The Chinese University of Hong Kong（香港中文大学）

专题命中效率与蒸馏：diffusion(title,abstract)；分类 cs.CV

AI总结本文提出了一种块近似稀疏注意力框架（BA-Att），通过块级预下采样操作识别信息区域，避免依赖脆弱的位置先验，从而在保持高性能的同时提升计算效率，实验表明其在注意力计算上比FlashAttention快6.95倍，并在50%稀疏度下保持接近全注意力性能。

Comments CVPR 2026 Findings paper

2605.20179 2026-05-20 cs.CL 78%

TIDE: Efficient and Lossless MoE Diffusion LLM Inference with I/O-aware Expert Offload

TIDE: 一种高效且无损的MoE扩散大语言模型推理方法

Zhiben Chen, Youpeng Zhao, Yang Sui, Jun Wang, Yuzhang Shang

机构 * University of Central Florida（中央佛罗里达大学）； Rice University（Rice大学）

专题命中效率与蒸馏：diffusion(title,abstract)

AI总结本文提出TIDE，一种基于扩散过程块内专家激活时间稳定性的新推理系统，通过引入基于区间的专家刷新策略，优化I/O和CPU计算，实现无损加速，提升推理效率。

2602.03139 2026-05-20 cs.CV 57%

Diversity-Preserved Distribution Matching Distillation for Fast Visual Synthesis

保留多样性的分布匹配蒸馏用于快速视觉合成

Tianhe Wu, Ruibin Li, Lei Zhang, Kede Ma

专题命中效率与蒸馏：image generation(abstract)；分类 cs.CV

AI总结本文提出了一种保留多样性的分布匹配蒸馏（DP-DMD）方法，通过分离角色的蒸馏策略，在少量步骤中保持样本多样性并维持竞争性的视觉质量，为其他DMD变体提供了一种简单且稳定的替代方案。

2505.17726 2026-05-20 cs.CV cs.AI 57%

Slot-MLLM: Object-Centric Visual Tokenization for Multimodal LLM

Slot-MLLM: 多模态大语言模型中的面向对象视觉标记化

Donghwan Chi, Hyomin Kim, Yoonjin Oh, Yongjin Kim, Donghoon Lee, Daejin Jo, Jongmin Kim, Junyeob Baek, Sungjin Ahn, Sungwoong Kim

机构 * Department of Artificial Intelligence, Korea University（韩国大学人工智能系）； Kakao Corp（Kakao公司）； School of Computing, KAIST（韩国科学技术院计算机学院）

专题命中效率与蒸馏：diffusion(abstract)；分类 cs.CV

AI总结本文提出了一种面向对象的视觉标记化方法Slot-MLLM，通过基于Slot Attention的标记器，有效编码局部视觉细节并保持高层语义，从而提升多模态大语言模型在视觉内容理解和生成中的性能。

2510.25348 2026-05-20 cs.LG cs.SI 50%

Beyond Leakage and Complexity: Towards Realistic and Efficient Information Cascade Prediction

超越泄露和复杂性：迈向现实和高效的流行信息级联预测

Jie Peng, Rui Wang, Qiang Wang, Zhewei Wei, Bin Tong, Guan Wang, Bo Zheng

机构 * Renmin University of China（中国人民大学）； Alibaba（阿里巴巴）

专题命中效率与蒸馏：diffusion(abstract)

AI总结本文针对信息级联流行度预测中的三个关键问题：时间泄露、数据集特征贫乏和计算效率低下，提出了一种时间有序分割策略、大规模电商级联数据集Taoke以及轻量级框架CasTemp，实现了在四个数据集上的最先进的性能和数量级的速度提升。

2605.19747 2026-05-20 cond-mat.mtrl-sci 50%

Direct Simulation of LiNi0.8Mn0.1Co0.1O2 Transport Properties Using an Efficient and Accurate Machine Learning Potential

利用高效且准确的机器学习势直接模拟LiNi0.8Mn0.1Co0.1O2的输运性质

Jian He, Constantijn H. J. A. van de Wetering, Rolande W. Nolsen, Nongnuch Artrith

专题命中效率与蒸馏：diffusion(abstract)

AI总结本文通过高效且准确的机器学习势直接模拟LiNi0.8Mn0.1Co0.1O2的锂离子输运性质，结合细调的MACE基础模型和主动学习策略，实现了在有限DFT参考计算下构建可靠势能函数，从而预测锂扩散系数。

2605.19366 2026-05-20 cs.LG 50%

Accurate, Efficient, and Explainable Deep Learning Approaches for Environmental Science Problems

准确、高效且可解释的深度学习方法用于环境科学问题

Jimeng Shi

机构 * College of Engineering and Computing（工程与计算学院）

专题命中效率与蒸馏：diffusion(abstract)

AI总结本文提出三种针对复杂环境科学问题的深度学习方法：用于海岸河流洪水预测的WaLeF模型、用于全球天气预测的CoDiCast模型以及用于环境科学科学问答的Hypercube-RAG方法，旨在提高环境智能的准确性、效率和可解释性。

Comments 161 pages

2601.21484 2026-05-20 cs.LG 50%

ETS: Energy-Guided Test-Time Scaling for Training-Free RL Alignment

ETS: 为无训练强化学习对齐的能耗引导测试时缩放

Xiuyu Li, Jinkai Zhang, Mingyang Yi, Yu Li, Longqiang Wang, Yue Wang, Ju Fan

机构 * Renmin University of China, Beijing, China（中国人民大学，北京，中国）； Zhongguancun Academy, Beijing, China（中关村学院，北京，中国）

专题命中效率与蒸馏：diffusion(abstract)

AI总结本文提出了一种无需训练的推理方法，直接从最优强化学习策略中采样，通过结合参考策略模型和能耗项来改进掩码语言模型的过渡概率，并通过在线蒙特卡洛方法估计关键能耗项，从而提高生成质量。

Comments Accepted by ICML 2026

2502.04575 2026-05-20 stat.ML cs.LG cs.NA math.NA physics.comp-ph stat.CO 50%

Complexity Analysis of Normalizing Constant Estimation: from Jarzynski Equality to Annealed Importance Sampling and beyond

归一化常数估计的复杂性分析：从Jarzynski等式到退火重要性采样及其进一步发展

Wei Guo, Molei Tao, Yongxin Chen

机构 * Georgia Institute of Technology（佐治亚理工学院）

专题命中效率与蒸馏：diffusion(abstract)

AI总结本文研究了归一化常数估计问题，提出了一种非渐近分析方法，推导了退火重要性采样估计归一化常数的复杂度，并提出了一种新的算法以处理多模态问题。

Comments Accepted at ICLR 2026 (https://openreview.net/forum?id=96fJALwotm)

2605.18829 2026-05-20 cs.LG cs.CR 50%

Lossless Anti-Distillation Sampling

无损反蒸馏采样

Zibo Diao, Jingchu Gai, Xinyue Ai, Zhang Zhang, Zhenyu He, Di He

机构 * Peking University（北京大学）； Tsinghua University（清华大学）； Carnegie Mellon University（卡内基梅隆大学）

专题命中效率与蒸馏：image generation(abstract)

AI总结本文提出了一种无损反蒸馏采样方法，通过在保持良性用户体验的同时，有效对抗多账号蒸馏攻击，降低蒸馏模型的泛化能力。

1. 效率与蒸馏 10 篇

Efficient Long-Context Modeling in Diffusion Language Models via Block Approximate Sparse Attention

TIDE: Efficient and Lossless MoE Diffusion LLM Inference with I/O-aware Expert Offload

Diversity-Preserved Distribution Matching Distillation for Fast Visual Synthesis

Slot-MLLM: Object-Centric Visual Tokenization for Multimodal LLM

Beyond Leakage and Complexity: Towards Realistic and Efficient Information Cascade Prediction

Direct Simulation of LiNi0.8Mn0.1Co0.1O2 Transport Properties Using an Efficient and Accurate Machine Learning Potential

Accurate, Efficient, and Explainable Deep Learning Approaches for Environmental Science Problems

ETS: Energy-Guided Test-Time Scaling for Training-Free RL Alignment

Complexity Analysis of Normalizing Constant Estimation: from Jarzynski Equality to Annealed Importance Sampling and beyond

Lossless Anti-Distillation Sampling