Research KB 登录

DIS-002 Disambiguation

术语 adaLN 的两种读法路由:vanilla adaLN(CPT-007)与其零初始化特化 adaLN-Zero(CPT-002)。

id DIS-002
type disambiguation
term adaLN
refs CPT-007, CPT-002

Routing

  • CPT-007 — vanilla 读法:adaLN 作为独立机制——从条件嵌入之和回归 γ/β 的自适应 LayerNorm,无残差门控、无零初始化(SRC-2212.09748)。
  • CPT-002 — 特化读法:adaLN-Zero——adaLN 附加残差门控 α 与调制输出 零初始化;文献中 "adaLN" 亦常统称该机制族(含 Zero 变体),此时两卡 皆为 referent。

完整术语 "adaLN-Zero" 唯一指向 CPT-002,不歧义。两机制的差异细节与 量化对比见 CPT-007 的 Disambiguation 节(n=2 内联消歧为规定做法); 族内四种 conditioning 设计的系统对比若实体化属 SYN 职责。

关联(6)

  • SRC-2212.09748 Scalable Diffusion Models with Transformers
  • FRM-2212.09748 DiT 五层重建:以 ViT 替换 latent diffusion 的 U-Net backbone、Gflops 为透镜的 scaling 研究;边界为 class-cond ImageNet 256/512。
  • CPT-002 adaLN-Zero
  • CPT-007 adaptive layer norm (adaLN)
  • CPT-011 DiT in-context conditioning
  • SYN-001 DiT 四种 conditioning 设计系统对比:adaLN-Zero 以可忽略算力增量取得 FID 19.47 全维最优;推导出'交互强度-质量'非单调与'算力效率优先'两条结构观察(单来源外推,显式标注)。