PPR-2604.28190
Paper
Representation Fréchet Loss for Visual Generation
| id | |
|---|---|
| updated | |
| type | paper |
| title | Representation Fréchet Loss for Visual Generation |
| authors | Jiawei Yang, Zhengyang Geng, Xuan Ju, Yonglong Tian, Yue Wang |
| venue | arXiv preprint (2026) |
| arxiv | 2604.28190 |
| tier | 0 |
| lifecycle | EXTRACTED |
| epistemic | n/a |
| ingested | 2026-09-10 |
| version | arXiv:2604.28190v1 |
| source-hash | sha256:3e45c101c08ae284d57da71c3d8c83a1f9be84f7d9106fb82aba8cb753edc856 |
| admitted-under | A2-direct-edge |
| admission-note | PPR-2607.02375(RDM)点名为 RDM 范式的先前实例之一(Fréchet-distance loss / FD-loss),直接引用;本卡为该命名提供库内锚点。 |
定位
Yang、Geng、Ju、Tian、Wang(arXiv 2026)提出 Representation Fréchet Loss(FD-loss)。论文要回答的是:长期被认为不适合当训练目标的 Fréchet 距离(FD),在表征空间里其实可以被有效优化。关键想法很简单:把 FD 估计所用的样本量(如 50k)与计算梯度所用的样本量(如 1024)解耦。作者称该做法为 FD-loss,并报告三点发现:一是用 FD-loss 在不同表征空间后训练基础生成器能一致提升视觉质量(在 Inception 特征空间下,一步生成器在 ImageNet \(256\times256\) 上达到相应 FID);二是同一 FD-loss 能把多步生成器改造成强的一步生成器,且不需要教师蒸馏、对抗训练或逐样本目标;三是 FID 会错排视觉质量——更现代的表征可以给出更好的样本却有更差的 Inception FID,这促使作者提出一个多表征度量。
方法(机制要点)
- 估计/梯度样本量解耦:FD 估计用大样本、梯度计算用小样本,使 FD 作为训练目标可行。
- 表征空间泛化:FD-loss 可用于不同表征空间,后训练基础生成器。
- 一步化:把多步生成器转成一步,无需教师/对抗/逐样本目标。
- 评估启示:FID 的单表征度量可错排质量,需多表征度量。
与本库的关系
PPR-2607.02375(RDM)把本工作点名为 RDM 范式的先前实例之一(“the Fréchet-distance loss keeps only the first two moments, precomputed over the full dataset”),并把它与 drifting field 对比:FD-loss 冻结全局数据侧参考(正确做法),但压到两个矩,可能在校正饱和时图像仍有缺陷。本卡为该命名提供库内锚点。
承重关系
- 谱系定位:RDM(PPR-2607.02375)先前实例之一;与 Drifting(PPR-2602.04770)、W-Flow(PPR-2605.11755)同属该范式。
- provenance:v1 tarball sha256
3e45c101…53edc856,缓存cache/sources/2604.28190/。
关联(4)
- PPR-2602.04770 Generative Modeling via Drifting
- PPR-2605.11755 One-Step Generative Modeling via Wasserstein Gradient Flows
- PPR-2607.02375 Representation Distribution Matching for One-Step Visual Generation
- CPT-031 representation distribution matching