PPR-2105.05233
Paper
Diffusion Models Beat GANs on Image Synthesis
| id | |
|---|---|
| updated | |
| type | paper |
| title | Diffusion Models Beat GANs on Image Synthesis |
| authors | Prafulla Dhariwal, Alex Nichol |
| venue | NeurIPS 2021 (arXiv:2105.05233) |
| arxiv | 2105.05233 |
| tier | 0 |
| lifecycle | EXTRACTED |
| epistemic | n/a |
| ingested | 2026-09-03 |
| version | arXiv:2105.05233v1 |
| source-hash | 865225c1455e49e09009517a62b892e824844f6897b44d8e60033b7e146d8c44 |
| admitted-under | A2-direct-edge |
| admission-note | G2DP 引用本工作作为扩散模型改进与高效采样脉络（Dhariwal & Nichol, NeurIPS 2021）；其 **classifier guidance** 是 G2DP 能量重加权引导（AX-1）与库内引导谱系（SYN-003 支 1）的机制源头。 |
| citation-count-s2 | 12850 |
定位
提出“扩散模型超越 GAN”系统性改进的原始论文（NeurIPS 2021, OpenAI）。两条主线：一是通过架构消融（改进 U-Net、加 attention、模型/采样规模）显著提升无条件图像质量；二是提出 classifier guidance——用分类器 \(p_\phi(y|x_t)\) 的梯度在采样时条件化扩散模型（式 condsamp），从而以很少的前向步数达到类条件合成的高质量，并在采样时用梯度尺度 s 在多样性与保真间做权衡。FID 2.97（ImageNet 128）、4.59（256）、7.72（512），25 步前向即可匹配 BigGAN-deep，同时保持更好的分布覆盖。
方法（机制要点）
- classifier guidance（§Classifier Guidance）：在无条件/条件扩散模型上，用分类器梯度对去噪采样做重加权——把条件信息经分类器梯度注入采样过程，实现“先验 × 任务偏好”的采样修正。这是能量重加权引导的机制源头：G2DP 的 AX-1（目标分布 \(\propto p_t(\mathbf{x}_t)\,e^{-\lambda_t E(\mathbf{x}_t)}\)）与 Diffusion Planner 的 DPS 引导（PPR-2501.15564 CLM-035）都是它“分类器/能量梯度注入采样”框架的变体。
- 架构消融与采样器改进（U-Net 结构 + attention pooling、改进 noise schedule 等）构成其“低步数高效采样”链，与 DPM-Solver（CPT-029）共同支撑现代扩散采样效率。
与 G2DP 的关系
G2DP（PPR-2606.26017）在机制层完全继承本工作的 classifier guidance 框架：G2DP 的 AX-1 能量重加权是 classifier guidance 在驾驶规划域的直接应用，只是把“分类器 logits”换成“稠密可微时空 cost volume”的梯度。库内 SYN-003 支 1 将其定位为引导机制谱系的源头（classifier guidance → CFG CPT-003 → DPS → G2DP）。同时本工作也是 G2DP 相关工作中“扩散模型改进与高效采样”脉络的引用。
承重关系
关联（9）
- PPR-2209.14687 Diffusion Posterior Sampling for General Noisy Inverse Problems
- PPR-2501.15564 Diffusion-Based Planning for Autonomous Driving with Flexible Guidance
- PPR-2606.26017 G2DP: Diffusion Planning with Spatio-Temporal Grid Guidance
- CLM-035 训练后行为对齐可经 DPS 免训练实现：能量重加权目标 p0 ∝ q0·e^{−E} 下，用 μ_θ 近似后验期望直接过可微能量函数取梯度修正分数，免 classifier 训练；多种能量函数（目标速度/舒适/碰撞/可行驶区）推理期自由组合（案例级证据，无量化消融）。
- CPT-003 classifier-free guidance
- CPT-029 DPM-Solver
- VER-013 两段分解核验：感知压缩 AE + 潜空间 DM 与 §1/§2.3/§2.4（Eq.4-5）一致，DiT FRM-2212.09748 AX-2 同向互证，scope 未超。supported。
- VER-014 算力主张核验：271 vs 916 V100-day、0.4 vs 0.12 samples/s、FID 3.60/3.95 vs 10.94 与 compute_vs_fid 表逐项吻合，两 cfg 口径已分离。supported。
- SYN-003 G2DP 引导谱系四支合成：机制（classifier guidance→CFG→DPS）、扩散规划（Diffuser→MotionDiffuser→Diffusion Planner→FlowPlanner/pSTL/CTG）、安全硬约束（CBF 系）、稠密网格（HYPE/TPP/NaviDiffusor）；G2DP 立四支交点——把『稠密分布性网格』放到『可微+时空+入去噪循环』。