Research KB

CLM-003 Claim

模型前向 Gflops(而非参数量)主导 DiT 质量:Gflops 相近则 FID 相近,且与 FID-50K 强负相关。

id CLM-003
type claim
source SRC-2212.09748
scope 12 DiT variants (S/B/L/XL x patch size 8/4/2), ImageNet 256x256, 400K training steps, FID-50K without guidance, ft-MSE VAE decoder
epistemic supported
lifecycle RECONCILED
created 2026-09-02
updated 2026-09-03

Proposition

模型前向 Gflops(而非参数量)是 DiT 生成质量的主要决定因素: Gflops 相近的不同配置取得相近的 FID(如 DiT-S/2 ≈ DiT-B/4), 且 Gflops 与 FID-50K 呈强负相关。

Evidence refs

Notes

支撑逻辑:固定模型规模缩小 patch size 时参数量近似不变(实际略降) 而 Gflops 至少四倍增长,FID 显著下降——排除了"参数量决定论"。 Scope 限于 400K steps 的 12 变体网格与 FID 指标;论文附录显示 Inception Score 呈同趋势。此为经验规律(观察),不是普适定律。

引用(2)

  • EVI-003 Figure 8/6 + Table 4:12 变体 Gflops-FID 强负相关;异构同 Gflops 的 S/2 68.40 vs B/4 68.38 相近、缩小 p 单调改善(支撑 CLM-003)。
  • SRC-2212.09748 DiT 原始论文(Peebles & Xie, ICCV 2023):ViT 替换 LDM U-Net backbone,Gflops 视角的 scaling 研究。

被引用(5)

  • CLM-011 patchify 标度:p 减半 → token 与 transformer Gflops 至少 ×4(注意力超线性),参数量近似不变。
  • EVI-003 Figure 8/6 + Table 4:12 变体 Gflops-FID 强负相关;异构同 Gflops 的 S/2 68.40 vs B/4 68.38 相近、缩小 p 单调改善(支撑 CLM-003)。
  • FRM-2212.09748 DiT 五层重建:以 ViT 替换 latent diffusion 的 U-Net backbone、Gflops 为透镜的 scaling 研究;边界为 class-cond ImageNet 256/512。
  • VER-003 核验 CLM-003 Gflops-FID 标度:Fig.8/6 引用与 Table 4 十二变体数字(S/2 6.06G、B/4 5.56G 等)逐项核对一致,以'经验规律'限定未泛化。supported。
  • VER-011 核验 CLM-011 patchify 标度:推导链(patchify→T×4→Gflops≥×4、参数不变)与 §3.2 一致,Table 4 实测 3.9–4.3× 逐行核对。supported。