Research KB

EVI-016 Evidence

§4.1 + Fig. cin_traincourse/speedplot:f 消融的训练/采样曲线(支撑 CLM-016)。

id EVI-016
type evidence
claims CLM-016
source SRC-2112.10752
observation §4.1 On Perceptual Compression Tradeoffs + Fig. cin_traincourse(2M steps 样张随训练进度)+ Fig. speedplot(采样速度 vs FID, DDIM)+ Tab. cin_hyperparams(z-shape/通道/模型规模 391–396M/batch)
method class-conditional ImageNet 256²;f∈{1,2,4,8,16,32};参数量对齐 ~391–396M;2M steps;单 A100;linear 噪声调度 1000 步;DDIM 采样(25–100 步)测吞吐与 FID 关系。
scope f=1,2,4,8,16,32;~391–396M;2M steps;单 A100;ImageNet

Result

训练进度(Fig. cin_traincourse,2M steps):

  • LDM-{1,2}(低压缩):进度慢——因把大部分感知压缩任务交给了扩散模型本身,像素级的高维空间使其收敛迟滞。
  • LDM-{4,8}:兼具较快的早期收敛与较高的渐近质量,为甜区。
  • LDM-{16,32}(高压缩):first-stage 压缩过强→信息损失,样张保真度在较少步数后即停滞(上限被 first-stage 锁死)。

量化差距:LDM-1(像素基线)与 LDM-8 之间的 FID gap 在 2M steps 后达 38

采样速度(Fig. speedplot,DDIM,CelebA-HQ & ImageNet):LDM-{4,8} 相对不合适的压缩比(过低/过高)的模型,在更低 FID 的同时实现更高的 samples/sec——二者兼顾。

Caveats

f 的选择是数据集相关的:ImageNet(复杂自然场景)需要较低压缩(f=4/8)以避免质量损失;CelebA-HQ(人脸,结构较规整)可以用较高 f 换取速度而质量损失较小。参数量"对齐"是名义上的(391–396M 区间内),实际各 f 的通道配置不同(channels 192/256, multiplier 随 f 变化),因此"参数量对齐"不完全等同于"算力对齐"——低 f 的模型虽然参数相同,但其 latent 空间维度更高,单次前向的 Gflops 实际上更高。这解释了为何 LDM-1/2 不仅"进度慢",而且其"慢"是结构性的(latent 维度高→每步贵),不只是收敛动力学问题。

引用(2)

  • CLM-016 f 消融中 f=4/8 平衡训练进度与渐近质量;f=1/2 太慢、f=16/32 过早停滞(LDM-1 与 LDM-8 差距 38 FID)。
  • SRC-2112.10752 Latent Diffusion Model 原始论文(Rombach et al.);Stable Diffusion 学术源头,DiT 所引『latent diffusion』。

被引用(3)

  • CLM-016 f 消融中 f=4/8 平衡训练进度与渐近质量;f=1/2 太慢、f=16/32 过早停滞(LDM-1 与 LDM-8 差距 38 FID)。
  • FRM-2112.10752 LDM 五层重建:感知压缩 AE + 潜空间扩散的两段分解,换取训练/采样成本大降;多任务多分辨率(256²/512²→~1024²)。
  • VER-016 f 甜区核验:f=4/8 最优与 §4.1 消融、FID gap 38(LDM-1 vs LDM-8 @2M)正文引语一致,scope 限 ImageNet/2M/单 A100。supported。