PPR-2605.12964 Paper

定位

AsymFlow 是 Chen、Ackermann、Kim、Wetzstein 与 Guibas（Stanford，NeurIPS 2026）提出的流匹配目标参数化方法，用于在高维像素空间训练生成模型。它要解的问题是流匹配两个标准参数化各有代价：\(\mathbf{u}\)-prediction 把网络目标设成速度 \(\mathbf{u}=\boldsymbol{\epsilon}-\mathbf{x}_0\)（\(\boldsymbol{\epsilon}\) 是高斯噪声、\(\mathbf{x}_0\) 是数据），要求网络内部特征同时承载高维噪声与结构化数据——在高维像素表示且骨干是不带 U-Net 式跳连的 Transformer 时，承载全维噪声成为瓶颈（RAE，PPR-2510.11690 / Zheng 等 2025 的论断是本文问题构造的依据）；\(\mathbf{x}_0\)-prediction 改让网络预测干净数据，但由它还原速度时引入 \(1/\sigma_t\) 因子，在低噪声端数值病态，限制最终样本质量（该路线的代表是 JiT，Li 等 2025，也是本文的主要实验基线）。

AsymFlow 的做法是秩非对称：数据项保持全维，只把噪声项限制到一个 rank-\(r\) 的低秩子空间，网络仅预测这个非对称速度，全秩速度再由解析式恢复，因此标准 flow matching 的训练与采样流程不变。rank \(r\) 是连续可调的设计量，其两个端点分别退化为全 \(\mathbf{x}_0\)-prediction（\(r=0\)）与全 \(\mathbf{u}\)-prediction（\(r=D\)），中间秩可兼取两者之长。第二个贡献是把预训练的潜空间流模型精确“提升”（lift）为低秩像素流模型（潜空间与像素量之间有精确的输入/输出换算，故解码潜空间生成与提升像素生成在语义与结构上对齐），从而把 latent→pixel 微调转化为修正一个低层投影差的问题；论文称这是把大规模潜空间流模型本身转为像素生成器的首个实用路径（论文自述，见 §1/§7）。

论文报告的关键结果：ImageNet \(256\times256\) 像素模型（JiT-H/16 骨干，953M 参数、363 GFLOPs）在 rank \(r=8\) 加 REPA 损失后得 FID 1.57，为所列像素扩散模型中最低（论文排除算力高得多的 SiD2 UViT/1）；把 FLUX.2 klein Base 9B 潜空间流模型微调为像素模型 AsymFLUX.2 klein 后，在 HPSv3、DPG-Bench、GenEval 三个文本到图像基准上均优于其潜空间基座与先前的像素模型 PixelDiT-T2I。

方法（机制要点）

• 非对称速度目标：设 \(\mathbf{A}\in\mathbb{R}^{D\times r}\) 为一个秩 \(r\) 子空间的标准正交基（\(\mathbf{A}^\top\mathbf{A}=\mathbf{I}_r\)，\(D\) 为 patch 维度），\(\mathbf{P}:=\mathbf{A}\mathbf{A}^\top\) 为对应的正交投影算子。标准 \(\mathbf{u}\)-prediction 要求网络输出同时复现全维噪声 \(\boldsymbol{\epsilon}\) 与数据项 \(-\mathbf{x}_0\)；AsymFlow 改让网络预测
  \[\mathbf{u}_A := \mathbf{P}\boldsymbol{\epsilon} - \mathbf{x}_0,\]
  即噪声项只保留其在低秩子空间 \((\mathbf{P})\) 内的分量（论文称之为投影噪声），数据项仍全维。
• 低秩子空间按 patch 定义：沿用 DiT 的 patch-token 表示（CPT-001），在每个 image patch 内部独立做低秩投影，同一个投影算子 \(\mathbf{P}\) 在所有 patch token 间共享——减少每个 patch 内的噪声预测维度，同时保留全部 image token。\(\mathbf{A}\) 的来源：从零训练时对图像 patch 做 PCA；从潜空间模型适配时对潜变量与其对应像素 patch 做 Procrustes 对齐。
• 正交分解与全秩恢复（机制核心）：把非对称目标按两个正交子空间拆开，就能看清它为什么有效。记 \(\mathbf{P}=\mathbf{A}\mathbf{A}^\top\) 为低秩投影、\(\mathbf{I}-\mathbf{P}\) 为其正交补投影——因为 \(\mathbf{A}^\top\mathbf{A}=\mathbf{I}_r\)，\(\mathbf{P}\) 幂等（\(\mathbf{P}^2=\mathbf{P}\)）且对称（\(\mathbf{P}^\top=\mathbf{P}\)），于是 \(\mathbf{P}(\mathbf{I}-\mathbf{P})=0\)、两者值域互相垂直；这一正交性正是下文能“分而治之”的前提。记标准速度 \(\mathbf{u}:=(\mathbf{x}_t-\mathbf{x}_0)/\sigma_t\)（等价于 \(\boldsymbol{\epsilon}-\mathbf{x}_0\)）。
  • 低秩子空间内（速度式）：\(\mathbf{P}\mathbf{u}_A=\mathbf{P}(\mathbf{P}\boldsymbol{\epsilon}-\mathbf{x}_0)=\mathbf{P}\boldsymbol{\epsilon}-\mathbf{P}\mathbf{x}_0=\mathbf{P}\mathbf{u}\)（用 \(\mathbf{P}\mathbf{P}=\mathbf{P}\)）——在该子空间内它就等于真实速度的投影，故表现得像 \(\mathbf{u}\)-prediction。
  • 正交补内（数据式）：\((\mathbf{I}-\mathbf{P})\mathbf{u}_A=(\mathbf{I}-\mathbf{P})\mathbf{P}\boldsymbol{\epsilon}-(\mathbf{I}-\mathbf{P})\mathbf{x}_0=-(\mathbf{I}-\mathbf{P})\mathbf{x}_0\)（用 \((\mathbf{I}-\mathbf{P})\mathbf{P}=0\)）——在该补空间内它就等于数据项 \(-\mathbf{x}_0\) 的投影，故表现得像 \(\mathbf{x}_0\)-prediction（差一个负号）。于是参数化在低秩子空间用速度式目标、在正交补用干净数据式目标。
  • 恢复全秩速度：低秩分量直接沿用（\(\mathbf{P}\mathbf{u}=\mathbf{P}\mathbf{u}_A\)）；正交补分量因为在补内 \(\mathbf{u}_A\) 承载的是 \(-\mathbf{x}_0\)，所以在补内 \(\mathbf{x}_t-\mathbf{x}_0=\mathbf{x}_t+\mathbf{u}_A\)，套用 \(\mathbf{x}_0\to\mathbf{u}\) 换算（除以 \(\sigma_t\)）即得补内速度，两者相加：
    \[\mathbf{u} = \mathbf{P}\mathbf{u}_A + (\mathbf{I}-\mathbf{P})\frac{\mathbf{x}_t+\mathbf{u}_A}{\sigma_t},\]
    其中前向过程为 \(\mathbf{x}_t=\alpha_t\mathbf{x}_0+\sigma_t\boldsymbol{\epsilon}\)（线性调度 \(\alpha_t=1-t\)、\(\sigma_t=t\)）。实际使用时以网络预测 \(\hat{\mathbf{u}}_A\) 代入，恢复出的速度同时用于 flow matching 损失与去噪采样。
  • 两个端点与最优秩：\(r=0\) 时 \(\mathbf{P}=0\)，\(\mathbf{u}_A=-\mathbf{x}_0\)，退化为纯 \(\mathbf{x}_0\)-prediction（差负号）；\(r=D\) 时 \(\mathbf{P}=\mathbf{I}\)，\(\mathbf{u}_A=\boldsymbol{\epsilon}-\mathbf{x}_0=\mathbf{u}\)，退化为纯 \(\mathbf{u}\)-prediction。中间的 \(r\) 是二者的连续插值；小的非零秩（\(r=8\)）恰到好处——既在低维子空间保留 \(\mathbf{u}\)-prediction 对流的控制力，又避免预测全秩噪声的负担。
  • 数值稳定性的直接后果：\(1/\sigma_t\) 换算只作用在正交补上，低秩子空间直接用速度分量，故对 \(\sigma_{\min}\) 截断的敏感性明显低于纯 \(\mathbf{x}_0\)-prediction——这与实验一致（关掉截断使 JiT 劣化 1.37 FID、AsymFlow 仅 0.52）。
• 潜空间→像素的提升：用 Procrustes 对齐构造 patch 级线性提升矩阵 \(\mathbf{A}\in\mathbb{R}^{D\times d}\)，使提升后的低秩像素 \(\mathbf{x}_0^{\mathrm{L}}:=s\mathbf{A}\mathbf{z}_0\) 逼近真实像素 \(\mathbf{x}_0\)（\(s\) 为尺度因子，因正交约束只匹配方向、不匹配尺度）。潜空间与提升像素之间有精确换算：\(\mathbf{z}_t=\mathbf{A}^\top\mathbf{x}_t^{\mathrm{L}}\)，\(\mathbf{u}^{\mathrm{L}}=\mathbf{P}\mathbf{A}\mathbf{u}_{\mathbf{z}}+(\mathbf{I}-\mathbf{P})\frac{\mathbf{x}_t^{\mathrm{L}}+\mathbf{A}\mathbf{u}_{\mathbf{z}}}{\sigma_t}\)。由此得轨迹耦合定理（论文附录）：\(d\) 维潜空间 \(\mathbf{u}\)-prediction 模型可被精确重解释为 rank-\(d\) 的像素流模型，网络为 \(\mathbf{A}G_{\boldsymbol{\phi}}(\mathbf{A}^\top\mathbf{x}_t^{\mathrm{L}},t)\)；实现上把 \(\mathbf{A}^\top\) 与 \(\mathbf{A}\) 融合进 \(G\) 的可学习输入/ 输出线性层，得到初始化像素模型。
• 方差缩减微调：初始化把微调简化为修正成对低层差 \(\mathbf{x}_0-\mathbf{x}_0^{\mathrm{L}}\)。论文用控制变量（control variates）向损失注入 \(-\lambda(\mathbf{x}_0^{\mathrm{L}}-\mathbb{E}[\mathbf{x}_0^{\mathrm{L}}|\mathbf{x}_t])\)，其条件均值由冻结的初始化低秩模型预测（用与 \(\mathbf{x}_t\) 相同的噪声扩散），\(\lambda\) 取逐 patch 的自适应权重以最小化损失梯度范数、降低有效目标方差。该近似在 \(t<1\) 时于低秩子空间内引入有界误差（表现为噪声过多），故再加一项以同一 \(\lambda\) 门控的 LPIPS 感知损失（Zhang 等 2018）补偿，并随扩散时间从方差缩减项淡入感知项。

实验结果（摘要）

• 从零训练的 ImageNet \(256\times256\) 像素模型：骨干与训练配方同 JiT-H/16，只改预测参数化（\(D=768\) 的 patch 级 PCA 子空间）。rank 扫描显示 \(r=8\) 最优，继续增大秩有轻微退化；把 PCA 子空间换成随机子空间后退回接近 JiT，说明增益来自使用“有意义的低秩子空间”而非单纯降秩。\(r=8\) 加标准 REPA 损失（Yu 等 2024）得 FID 1.57（无 REPA 为 1.76，对照此前 plain-transformer 为 1.81）；同架构同配方的收敛速度约快 40%。\(\sigma_{\min}\) 截断敏感性：关掉截断使 JiT 劣化 1.37 FID、AsymFlow 仅 0.52，因 AsymFlow 只在正交补内做该换算。
• 潜空间→像素的文本到图像微调：把 FLUX.2 klein Base 9B 潜空间流模型（patch 维度 \(d=128\)）微调为像素 AsymFlow，得 AsymFLUX.2 klein。在 3M 张 LAION-Aesthetics 一兆像素图上微调（Qwen2.5-VL 打标），冻结基座、只训练输入/输出投影层与 rank-256 LoRA；采样用 UniPC 配 APG 正交投影引导。三个系统级基准 HPSv3、DPG-Bench、GenEval 上均优于其潜空间基座（HPSv3 增益最大），并优于此前的像素模型 PixelDiT-T2I。消融显示方差缩减除 pFID 外提升所有指标，LPIPS 感知修正显著改善 pFID 与 HPS，补偿了方差缩减引入的噪声。

与本库的关系

• 准入身份：用户指令性（U0）Tier-1 重建。形式化骨架见 FRM-2605.12964（七节齐备，G1 待人工签发，P3 投影未发起）。
• 与 DiT/LDM 谱系的衔接：消费 DiT 式 patch-token 骨干与 patch 内共享投影的做法（CPT-001 / PPR-2212.09748），改动落在流参数化层而非架构层；其 latent→pixel 提升路径是对 LDM 潜空间压缩范式（CPT-006 / PPR-2112.10752）的直接回应——用预训练潜空间模型初始化像素模型，而非在像素空间从零训练。
• 论文引用链：REPA（Yu 等 2024）为辅助损失；RAE（PPR-2510.11690 / Zheng 等 2025）的“高维噪声污染内部表示”论断是问题构造依据；JiT（Li 等 2025）的 \(\mathbf{x}_0\)-prediction 是 \(r=0\) 端点与主要实验基线；LPIPS（Zhang 等 2018）为感知损失；FLUX.2 klein（Black Forest Labs）是被微调的潜空间基座。

承重关系

• provenance：v2 tarball sha256 52c715e9…bdc5089，缓存 cache/sources/2605.12964/。