CPT-012 Concept

Definition

FiLM（Feature-wise Linear Modulation；SRC-1709.07871 提出） 是一种通用条件注入方法：FiLM layer 对网络的中间特征做逐特征仿射变换， 仿射参数由条件信息回归产生。原文公式（§Method）：

其中下标 i 为第 i 个输入、c 为第 c 个 feature（或 feature map）； \(\gamma_{i,c} = f_c(x_i)\)、\(\beta_{i,c} = h_c(x_i)\) 由条件输入 \(x_i\) 回归——实践中 f、h 合并为单一 FiLM generator（输出 (γ, β) 向量），被调制的网络称 FiLM-ed network。γ/β 逐 feature map 生成、经 Hadamard 积在空间位置间 广播，故每调制特征仅需两个参数、计算开销不随图像分辨率增长。

Mechanism（CLEVR 实例化，原文 §Method/§Analysis）

• FiLM generator：GRU（4096 hidden units，输入 200 维词嵌入）读入 问题，取最终隐状态为问题嵌入，经仿射投影为每个 residual block 预测 (γ, β)；
• FiLM-ed pipeline：CNN（ResNet blocks），逐 block 调制中间特征；
• 学到的调制行为（§Analysis）：γ 取值范围宽（-15 至 19）且在 0 附近 尖峰、约 36% 为负——网络学会按条件关闭/抑制整张 feature map 并 选择性上调其余；恰当的 feature 调制间接产生空间调制（获得类似空间 attention 的收益）。

Design Rationale

• FiLM 自我定位为 Conditional Normalization（CN）一族的推广：CN 把 归一化层仿射参数换成条件的函数（CIN/AIN 风格化、Dynamic Layer Norm 语音、Conditional Batch Norm VQA）；FiLM 把该模式抽象为独立于归一化 的调制机制。
• 与拼接条件（conditional bias）等价于 γ=1 的 FiLM；与 self-gating（LSTM、Squeeze-and-Excitation）的区别：后者由输入自身 门控、缩放限于 [0,1] 且无 shift，FiLM 由独立条件输入驱动、 scale/shift 均无界。

Empirical Role

• CLEVR 视觉推理：FiLM 把 SOTA error 减半（abstract），显著优于非推理 专用的最强基线 Stacked Attention（相对差距 21%）；对消融与架构修改 稳健，少样本/零样本泛化良好。
• 成本论点（每特征 2 参数、分辨率无关开销）与 DiT 采纳 adaLN 的成本 论证（"adds the least Gflops"，CPT-007）同构。

Disambiguation

• 与 adaLN（CPT-007）：同一 γ/β 回归模式在不同宿主上的实例化——FiLM 调制卷积网络的 feature maps（逐 channel、空间位置广播），条件来自 问题编码（GRU）；adaLN 调制 transformer 双子块的 LayerNorm 输出 （逐维、token 间广播），条件来自 (t,c) 嵌入之和。DiT §3.2 明言 adaLN 承继自 FiLM 一系 adaptive normalization。两个广播轴同构 （空间位置 ↔ token）。
• 与 adaLN-Zero（CPT-002）：adaLN-Zero 在 adaLN 上追加残差门控 α 与 调制输出零初始化；FiLM 本身无门控、无恒等初始化主张。
• 与 cross-attention（CPT-009/CPT-010）：FiLM 是逐特征仿射（条件→参数， 全局调制），cross-attention 是 token 级注意力交互（条件→K/V）； 前者算力最省，后者条件-特征逐位置交互。
• 与 AdaIN/CN 一族：FiLM 是 CN 的推广形式（CN 的 γ/β 仍绑定归一化层的 仿射参数，FiLM 解绑为独立调制层）；ADM 的 class-conditional AdaIN 即此族在扩散 U-Net 中的使用（CPT-009 Disambiguation）。

Notes

• 定义与公式为 SRC-1709.07871 缓存 TeX（§Method）的忠实转述； (γ, β) 数值统计出自 §Analysis。
• established 2026-09-05，作为 adaLN 族谱系延伸（SYN-001 gap ③）的 首个跨来源概念锚点：FiLM（CPT-012）→ adaLN（CPT-007）→ adaLN-Zero（CPT-002）；CPT-002/007 的 FiLM 提及已回溯链接至本卡。
• defined-by source 为 Tier-0（无 claims 实体化）；如需 FiLM 论文自身 主张入 Claim 层（如"CLEVR error 减半"的受控命题），走 T-EXTRACT 升级管线。