PPR-2602.04770
Paper
Generative Modeling via Drifting
| id | |
|---|---|
| updated | |
| type | paper |
| title | Generative Modeling via Drifting |
| authors | Mingyang Deng, He Li, Tianhong Li, Yilun Du, Kaiming He |
| venue | arXiv preprint (2026) |
| arxiv | 2602.04770 |
| tier | 0 |
| lifecycle | EXTRACTED |
| epistemic | n/a |
| ingested | 2026-09-10 |
| version | arXiv:2602.04770v2 |
| source-hash | sha256:dc2282dc44f1de268e17f6d561b7292d822866328a26e970a71b79ad07361357 |
| admitted-under | A2-direct-edge |
| admission-note | PPR-2607.02375(RDM)点名为 RDM 范式的先前实例之一(drifting field),直接引用;本卡为该命名提供库内锚点。 |
定位
Deng、Li、Li、Du、He(arXiv 2026)提出的 Drifting。生成建模被表述为学习一个映射 \(f\),使其 pushforward 分布匹配数据分布;pushforward 行为可在推理时迭代执行(如扩散/flow 模型)。Drifting 的立点是:把 pushforward 分布的演化放到训练期做,因而天然允许一步推理。方法引入一个 drifting field 支配样本移动,当生成分布与数据分布匹配时该场达到平衡,由此给出一个让神经网络优化器演化分布的训练目标。实验报告一步生成器在 ImageNet \(256\times256\) 上达到当时最优,latent 空间 FID 1.54、像素空间 FID 1.61。
方法(机制要点)
- 训练期演化 pushforward:不同于扩散/flow 在推理时迭代地把噪声运到数据,Drifting 在训练期就让分布演化。
- drifting field:支配样本移动的场,在分布匹配时归零,充当损失。
- 一步推理:演化发生在训练期,推理只需一次网络求值。
与本库的关系
PPR-2607.02375(RDM)把本工作点名为 RDM 范式的先前实例之一(“the drifting field... measures pairwise kernel forces within each batch and reads its real reference off that same batch”),并指出其代价:每个 batch 重建参考,成本把它限制在小 batch,而小 batch 恰是分布估计噪声最大的地方。本卡为该命名提供库内锚点。
承重关系
- 谱系定位:RDM(PPR-2607.02375)先前实例之一;与 FD-loss(PPR-2604.28190)、W-Flow(PPR-2605.11755)同属该范式。
- provenance:v2 tarball sha256
dc2282dc…07361357,缓存cache/sources/2602.04770/。
关联(4)
- PPR-2604.28190 Representation Fréchet Loss for Visual Generation
- PPR-2605.11755 One-Step Generative Modeling via Wasserstein Gradient Flows
- PPR-2607.02375 Representation Distribution Matching for One-Step Visual Generation
- CPT-031 representation distribution matching