图像生成

Reinforcing Few-step Generators via Reward-Tilted Distribution Matching

通过奖励倾斜分布匹配增强少步生成器

Yushi Huang, Xiangxin Zhou, Ruoyu Wang, Chi Zhang, Jun Zhang, Tianyu Pang

机构 * Tencent Hunyuan（腾讯文英） ； Hong Kong University of Science and Technology（香港科技大学） ； Westlake University（西湖大学） 纠错

专题命中 效率与蒸馏 ：image generation(abstract)；text-to-image(abstract)；diffusion(abstract)；分类 cs.CV

AI总结 提出奖励倾斜分布匹配蒸馏（RTDMD）两阶段框架，结合分布匹配蒸馏与奖励引导强化学习，在仅4步推理下实现文本到图像生成的最新性能。

Comments Code and models are available at https://github.com/Harahan/RTDMD

HACK++: Towards More Effective Head-Aware Key-Value Compression for Efficient Visual Autoregressive Modeling

HACK++：面向高效视觉自回归建模的更有效的头部感知键值压缩

Ziran Qin, Yuchen Jiang, Mingbao Lin, Youru Lv, Hang Guo, Wen Fei, Weiyao Lin

机构 * Shanghai Jiao Tong University（上海交通大学） ； Rakuten（乐天） ； Tsinghua University（清华大学） 纠错

专题命中 效率与蒸馏 ：text-to-image(abstract)；分类 cs.CV

AI总结 针对VAR模型跨尺度KV缓存导致的高计算和内存开销，提出无训练头部感知压缩框架HACK++，通过离线分类头部类型和自适应预算分配，在极低缓存预算下保持近无损生成。

The Mirrored Influence Hypothesis: Efficient Data Influence Estimation by Harnessing Forward Passes

镜像影响假说：利用前向传播的高效数据影响估计

Myeongseob Ko, Feiyang Kang, Weiyan Shi, Ming Jin, Zhou Yu, Ruoxi Jia

机构 * Virginia Tech（弗吉尼亚理工大学） ； Columbia University（哥伦比亚大学） 纠错

专题命中 效率与蒸馏 ：diffusion(abstract)

AI总结 提出镜像影响假说，将训练数据对测试预测的影响转化为逆问题，通过测试样本梯度加训练样本前向传播高效估计数据影响，显著提升效率。

Comments The IEEE/CVF Conference on Computer Vision and Pattern Recognition 2024

Journal ref The IEEE/CVF Conference on Computer Vision and Pattern Recognition 2024