Research KB 登录

PPR-2604.28190 Paper

Representation Fréchet Loss for Visual Generation

id
updated
type paper
title Representation Fréchet Loss for Visual Generation
authors Jiawei Yang, Zhengyang Geng, Xuan Ju, Yonglong Tian, Yue Wang
venue arXiv preprint (2026)
arxiv 2604.28190
tier 0
lifecycle EXTRACTED
epistemic n/a
ingested 2026-09-10
version arXiv:2604.28190v1
source-hash sha256:3e45c101c08ae284d57da71c3d8c83a1f9be84f7d9106fb82aba8cb753edc856
admitted-under A2-direct-edge
admission-note PPR-2607.02375(RDM)点名为 RDM 范式的先前实例之一(Fréchet-distance loss / FD-loss),直接引用;本卡为该命名提供库内锚点。

定位

Yang、Geng、Ju、Tian、Wang(arXiv 2026)提出 Representation Fréchet Loss(FD-loss)。论文要回答的是:长期被认为不适合当训练目标的 Fréchet 距离(FD),在表征空间里其实可以被有效优化。关键想法很简单:把 FD 估计所用的样本量(如 50k)与计算梯度所用的样本量(如 1024)解耦。作者称该做法为 FD-loss,并报告三点发现:一是用 FD-loss 在不同表征空间后训练基础生成器能一致提升视觉质量(在 Inception 特征空间下,一步生成器在 ImageNet \(256\times256\) 上达到相应 FID);二是同一 FD-loss 能把多步生成器改造成强的一步生成器,且不需要教师蒸馏、对抗训练或逐样本目标;三是 FID 会错排视觉质量——更现代的表征可以给出更好的样本却有更差的 Inception FID,这促使作者提出一个多表征度量

方法(机制要点)

  • 估计/梯度样本量解耦:FD 估计用大样本、梯度计算用小样本,使 FD 作为训练目标可行。
  • 表征空间泛化:FD-loss 可用于不同表征空间,后训练基础生成器。
  • 一步化:把多步生成器转成一步,无需教师/对抗/逐样本目标。
  • 评估启示:FID 的单表征度量可错排质量,需多表征度量。

与本库的关系

PPR-2607.02375(RDM)把本工作点名为 RDM 范式的先前实例之一(“the Fréchet-distance loss keeps only the first two moments, precomputed over the full dataset”),并把它与 drifting field 对比:FD-loss 冻结全局数据侧参考(正确做法),但压到两个矩,可能在校正饱和时图像仍有缺陷。本卡为该命名提供库内锚点。

承重关系

  • 谱系定位:RDM(PPR-2607.02375)先前实例之一;与 Drifting(PPR-2602.04770)、W-Flow(PPR-2605.11755)同属该范式。
  • provenance:v1 tarball sha256 3e45c101…53edc856,缓存 cache/sources/2604.28190/

关联(4)

  • PPR-2602.04770 Generative Modeling via Drifting
  • PPR-2605.11755 One-Step Generative Modeling via Wasserstein Gradient Flows
  • PPR-2607.02375 Representation Distribution Matching for One-Step Visual Generation
  • CPT-031 representation distribution matching