DIS-002
Disambiguation
术语 adaLN 的两种读法路由:vanilla adaLN(CPT-007)与其零初始化特化 adaLN-Zero(CPT-002)。
| id | DIS-002 |
|---|---|
| type | disambiguation |
| term | adaLN |
| refs | CPT-007, CPT-002 |
Routing
- CPT-007 — vanilla 读法:adaLN 作为独立机制——从条件嵌入之和回归 γ/β 的自适应 LayerNorm,无残差门控、无零初始化(SRC-2212.09748)。
- CPT-002 — 特化读法:adaLN-Zero——adaLN 附加残差门控 α 与调制输出 零初始化;文献中 "adaLN" 亦常统称该机制族(含 Zero 变体),此时两卡 皆为 referent。
完整术语 "adaLN-Zero" 唯一指向 CPT-002,不歧义。两机制的差异细节与 量化对比见 CPT-007 的 Disambiguation 节(n=2 内联消歧为规定做法); 族内四种 conditioning 设计的系统对比若实体化属 SYN 职责。
关联(6)
- SRC-2212.09748 Scalable Diffusion Models with Transformers
- FRM-2212.09748 DiT 五层重建:以 ViT 替换 latent diffusion 的 U-Net backbone、Gflops 为透镜的 scaling 研究;边界为 class-cond ImageNet 256/512。
- CPT-002 adaLN-Zero
- CPT-007 adaptive layer norm (adaLN)
- CPT-011 DiT in-context conditioning
- SYN-001 DiT 四种 conditioning 设计系统对比:adaLN-Zero 以可忽略算力增量取得 FID 19.47 全维最优;推导出'交互强度-质量'非单调与'算力效率优先'两条结构观察(单来源外推,显式标注)。