Research KB 登录

PPR-2602.04770 Paper

Generative Modeling via Drifting

id
updated
type paper
title Generative Modeling via Drifting
authors Mingyang Deng, He Li, Tianhong Li, Yilun Du, Kaiming He
venue arXiv preprint (2026)
arxiv 2602.04770
tier 0
lifecycle EXTRACTED
epistemic n/a
ingested 2026-09-10
version arXiv:2602.04770v2
source-hash sha256:dc2282dc44f1de268e17f6d561b7292d822866328a26e970a71b79ad07361357
admitted-under A2-direct-edge
admission-note PPR-2607.02375(RDM)点名为 RDM 范式的先前实例之一(drifting field),直接引用;本卡为该命名提供库内锚点。

定位

Deng、Li、Li、Du、He(arXiv 2026)提出的 Drifting。生成建模被表述为学习一个映射 \(f\),使其 pushforward 分布匹配数据分布;pushforward 行为可在推理时迭代执行(如扩散/flow 模型)。Drifting 的立点是:把 pushforward 分布的演化放到训练期做,因而天然允许一步推理。方法引入一个 drifting field 支配样本移动,当生成分布与数据分布匹配时该场达到平衡,由此给出一个让神经网络优化器演化分布的训练目标。实验报告一步生成器在 ImageNet \(256\times256\) 上达到当时最优,latent 空间 FID 1.54、像素空间 FID 1.61。

方法(机制要点)

  • 训练期演化 pushforward:不同于扩散/flow 在推理时迭代地把噪声运到数据,Drifting 在训练期就让分布演化。
  • drifting field:支配样本移动的场,在分布匹配时归零,充当损失。
  • 一步推理:演化发生在训练期,推理只需一次网络求值。

与本库的关系

PPR-2607.02375(RDM)把本工作点名为 RDM 范式的先前实例之一(“the drifting field... measures pairwise kernel forces within each batch and reads its real reference off that same batch”),并指出其代价:每个 batch 重建参考,成本把它限制在小 batch,而小 batch 恰是分布估计噪声最大的地方。本卡为该命名提供库内锚点。

承重关系

  • 谱系定位:RDM(PPR-2607.02375)先前实例之一;与 FD-loss(PPR-2604.28190)、W-Flow(PPR-2605.11755)同属该范式。
  • provenance:v2 tarball sha256 dc2282dc…07361357,缓存 cache/sources/2602.04770/

关联(4)

  • PPR-2604.28190 Representation Fréchet Loss for Visual Generation
  • PPR-2605.11755 One-Step Generative Modeling via Wasserstein Gradient Flows
  • PPR-2607.02375 Representation Distribution Matching for One-Step Visual Generation
  • CPT-031 representation distribution matching