CLM-003
Claim
模型前向 Gflops(而非参数量)主导 DiT 质量:Gflops 相近则 FID 相近,且与 FID-50K 强负相关。
| id | CLM-003 |
|---|---|
| type | claim |
| source | SRC-2212.09748 |
| scope | 12 DiT variants (S/B/L/XL x patch size 8/4/2), ImageNet 256x256, 400K training steps, FID-50K without guidance, ft-MSE VAE decoder |
| epistemic | supported |
| lifecycle | RECONCILED |
| created | 2026-09-02 |
| updated | 2026-09-03 |
Proposition
模型前向 Gflops(而非参数量)是 DiT 生成质量的主要决定因素: Gflops 相近的不同配置取得相近的 FID(如 DiT-S/2 ≈ DiT-B/4), 且 Gflops 与 FID-50K 呈强负相关。
Evidence refs
Notes
支撑逻辑:固定模型规模缩小 patch size 时参数量近似不变(实际略降) 而 Gflops 至少四倍增长,FID 显著下降——排除了"参数量决定论"。 Scope 限于 400K steps 的 12 变体网格与 FID 指标;论文附录显示 Inception Score 呈同趋势。此为经验规律(观察),不是普适定律。
引用(2)
- EVI-003 Figure 8/6 + Table 4:12 变体 Gflops-FID 强负相关;异构同 Gflops 的 S/2 68.40 vs B/4 68.38 相近、缩小 p 单调改善(支撑 CLM-003)。
- SRC-2212.09748 DiT 原始论文(Peebles & Xie, ICCV 2023):ViT 替换 LDM U-Net backbone,Gflops 视角的 scaling 研究。
被引用(5)
- CLM-011 patchify 标度:p 减半 → token 与 transformer Gflops 至少 ×4(注意力超线性),参数量近似不变。
- EVI-003 Figure 8/6 + Table 4:12 变体 Gflops-FID 强负相关;异构同 Gflops 的 S/2 68.40 vs B/4 68.38 相近、缩小 p 单调改善(支撑 CLM-003)。
- FRM-2212.09748 DiT 五层重建:以 ViT 替换 latent diffusion 的 U-Net backbone、Gflops 为透镜的 scaling 研究;边界为 class-cond ImageNet 256/512。
- VER-003 核验 CLM-003 Gflops-FID 标度:Fig.8/6 引用与 Table 4 十二变体数字(S/2 6.06G、B/4 5.56G 等)逐项核对一致,以'经验规律'限定未泛化。supported。
- VER-011 核验 CLM-011 patchify 标度:推导链(patchify→T×4→Gflops≥×4、参数不变)与 §3.2 一致,Table 4 实测 3.9–4.3× 逐行核对。supported。