SDE 框架与 Probability Flow ODE
把扩散写成连续时间的随机微分方程。
11. SDE 框架与 Probability Flow ODE
主源:Vizuara《Principles of Diffusion Models》Lecture 8(讲师 Dr. Rajat Dandekar,物理直觉版 SDE);副源:CMU 10-799 Lecture 10 / 11(Luma AI 嘉宾 Linqi (Alex) Zhou 讲 Flow Map);核心论文:Song et al. 2021 ICLR《Score-Based Generative Modeling Through Stochastic Differential Equations》。
📌 TL;DR
SDE 框架 = 把 DDPM 与 NCSN 同时塞进一个连续时间方程的「物理外衣」。讲师 Dr. Rajat 用一滴红色染料扩散在水里的画面切入:宏观看不可逆,但微观看每个粒子在做 Brownian motion(布朗运动),微观运动是时间可逆的——这就是整个 diffusion 文献的「魔术心脏」。形式化为:
$$dx = f(x, t)\, dt + g(t)\, dW$$其中 $f$ 是漂移、$g\,dW$ 是 Brownian noise。Anderson (1982) 给出反向时间 SDE:
$$dx = \big[f(x,t) - g(t)^2 \nabla_x \log p_t(x)\big] dt + g(t)\, d\bar W$$只要学好每一个时间 $t$ 上的 score $s_\theta(x,t) \approx \nabla_x \log p_t(x)$,就能解这个反向 SDE 把噪声"还原"成数据。
更妙的:Song et al. 证明存在一个等价的 Probability Flow ODE(PF-ODE)
$$\frac{dx}{dt} = f(x,t) - \tfrac{1}{2}\, g(t)^2\, \nabla_x \log p_t(x)$$它和反向 SDE 在每个时刻有完全相同的边际分布 $p_t(x)$,但给定 $x_T$ 后轨迹是确定的。这一切打开了:精确似然估计、确定性采样(DDIM 的雏形)、高阶 ODE 求解器(DPM-Solver)、图像精确反演。
本章基本论点:DDPM 是 VP-SDE 的 Euler-Maruyama 离散;NCSN 是 VE-SDE 的离散;DDIM 是对应 PF-ODE 的确定性 Euler。三条看似不同的路线,其实是同一根方程的不同切片。
一、为什么本章要把"连续时间"摆到 C 位
到目前为止你已经学过两条看上去并行的路线:
- DDPM(第 5–9 章):离散 T 步加噪、去噪,写成 $q(x_t | x_{t-1}) = \mathcal{N}(\sqrt{1-\beta_t}\, x_{t-1}, \beta_t I)$。
- Score-based / NCSN(第 10 章):在多个噪声尺度上学 $\nabla_x \log p(x)$,再用 Langevin dynamics 反过来采样。
讲师 Dr. Rajat 在 L8 开场就把今天要做的事情讲得很直白(chunk #386):
这个统一不是事后包装——它由 Song 等人在 2021 年 ICLR 论文里完成。这个统一发生在两篇原始论文之后(DDPM 在 NeurIPS 2020、NCSN 在 NeurIPS 2019),讲师特意提了这一点(chunk #387):
所以本章在课程里扮演的是「盖瓦顶」的角色——把两根承重柱拢成一座屋顶。下面 8 节按照讲师的物理直觉路线走,最后 4 节才进入数学正餐与 PF-ODE。
二、Anti-bias 开篇:你脑子里关于 diffusion 的几个常见误解
- 误解 A:扩散过程是不可逆的。宏观上是,但微观上每个粒子运动恰好是时间可逆的——这正是反向 SDE 存在的物理根据。
- 误解 B:DDPM 和 score-based 是两套独立的方法。它们其实是同一个 SDE 的两种不同离散选择。
- 误解 C:要去噪就一定要走随机轨迹。给定终点噪声 $x_T$,存在一条确定的、不带随机性的轨迹(PF-ODE)能把它送回数据,并且每个时刻的分布与随机版本完全一致。
- 误解 D:连续时间只是为了优雅。它带来真实的工程红利:高阶 ODE 求解器把 1000 步压到 10 步;精确 likelihood 评估;图像反演。
- 误解 E:SDE 是物理学家的玩具、和深度学习无关。事实是 Stable Diffusion、Sora、Veo、Stable Video Diffusion 的采样核心全部依赖 PF-ODE,每一次抽出一张图都是在解一个高维 ODE。
- 误解 F:score 模型学的是"噪声"。它学的是 $\nabla_x \log p_t(x)$,即对数密度的梯度方向;"噪声"只是它在 VP-SDE 下的一种 parameterize 变体。
讲师对误解 A 给出了一个非常生动的物理画面,我们下面就先沿着他的路线走。先用物理直觉把"反向 SDE 为什么可能存在"这件事吃透,再去看公式才不会觉得突兀。讲师把这一段定义为整门课"最有趣"的一讲(chunk #386),因为它把物理学三百年的积累一次性变成了机器学习的"反向魔法"。
三、物理直觉:一滴红色染料的故事
Dr. Rajat 不直接写 SDE,他先讲一杯水(chunks #389–#391)。这种"先把物理图像吃透、再去翻译成数学"的讲法在物理系是标准操作,但在 ML 教程里非常少见——这也正是这一讲值得反复看的原因。
这是 diffusion 的第一性观察:结构 → 均匀。注意讲师强调"spread"这个动词来代替"diffuse"——为了避免用要解释的术语来解释它。这种讲法上的细节体现了他想让你真的看到染料在水里散开的那张画面,而不是听一个抽象名词。等画面建立好了,他立刻抛出本讲(也是整本书)反复出现的提问:
"Can we reverse this process?"
常识告诉我们不行。讲师演了一段反例:
关键转折在 chunk #391:"But let us take a lens and zoom in on the dye."——讲师把显微镜对准红色染料,进入微观尺度。这是整门课叙事张力最强的一刻:宏观看,过程像热力学第二定律一样不可逆;放大视野,居然又冒出了一条逃生通道。下面这一节就把这条逃生通道讲清楚。
四、关键洞察:微观运动是时间可逆的
放大到原子尺度,染料分子在做无规则的、抖动式的运动(chunks #391–#392):
讲师顺势抛了一个非常关键的问题(chunk #392):
"Just by looking at this motion, can you tell whether it's the forward motion or the backward motion?"
答案是分不出。这就是整个 diffusion 文献的物理基石——讲师在 chunk #394 把它讲到几乎是「论点级别」的高度:
五、从「染料」切换到「数据」:用数据点替换分子
这一节做的事是讲师 Dr. Rajat 全讲叙事斜坡的最陡处。物理画面建立好了,接下来要把它翻译成机器学习的语言——不然染料的故事只是科普,没法落到代码上。
讲师从 chunk #395 起做本讲最关键的概念替换。物理直觉听完了,可是我们要生成的是图像、不是染料分子。怎么连接?
这一句替换是本章最重要的一句话。把它具象化(chunk #396):
- 给你一堆猫的图片(讲师举的例子是 8 张,但也可以 80、800、8 万张);
- 每张图被看成高维空间里的一个点(一张 64×64×3 的彩图就是一个 12 288 维空间里的点);
- 所有训练图组成的数据分布就是这个空间里的"染料初始形状"。它有结构(猫的图像聚成一团或几团);
- 对每个数据点加噪 = 让每个点像染料分子一样做 Brownian motion;
- 时间足够长之后,这团"染料"散得到处都是——也就是 isotropic Gaussian。整张高维空间变成了纯噪声。
反向过程要做的就是:给我高维空间里的一个随机噪声点,把它沿着"反向 Brownian"轨迹拉回到训练数据所在的区域。
六、写下 SDE:把 Brownian motion 形式化
上面的物理画面到此终于可以变成方程。注意我们到目前为止只用了三个事实就建立了反向 SDE 的物理动机:(1) 染料宏观扩散看上去不可逆;(2) 微观放大后每个分子在做无规则抖动;(3) 这个抖动在足够大的样本上是时间可逆的。下面用 Itô 微分写下来。一个一般的 Itô SDE 长这样:
$$\boxed{\;dx = f(x, t)\, dt \;+\; g(t)\, dW_t\;}$$- $f(x, t)$(drift / 漂移项):确定性的"风"。它代表 $x$ 在不计算随机扰动情况下,下一刻往哪儿移。
- $g(t)$(diffusion coefficient / 扩散系数):随机扰动的强度。
- $dW_t$(Wiener process / Brownian motion increment):标准 Brownian motion 的微元。直观上 $dW_t \sim \mathcal{N}(0, dt \cdot I)$——在长度 $dt$ 的时间里加一团方差为 $dt$ 的高斯噪声。
把 $dt$ 和 $dW_t$ 都看成"无限小的真实小数",可以记忆为:
$$x(t + dt) \approx x(t) + f(x, t)\, dt + g(t)\, \sqrt{dt}\, \epsilon, \quad \epsilon \sim \mathcal{N}(0, I)$$七、SDE 的两种主流形式:VP 与 VE
Song 等人在论文里给了两种具体的 SDE,它们分别对应已经学过的两条路线。
7.1 VP-SDE(Variance Preserving,对应 DDPM)
$$dx = -\tfrac{1}{2}\, \beta(t)\, x\, dt + \sqrt{\beta(t)}\, dW_t$$对照 $f$ 和 $g$:
- $f(x, t) = -\tfrac{1}{2} \beta(t) x$——一个把 $x$ 拉向原点的力(drift 指向原点)。这一项让数据点不会无限"漂走",最终落在原点附近。物理上类似一个胡克定律弹簧把粒子拉回零点。
- $g(t) = \sqrt{\beta(t)}$——按 $\beta(t)$ 大小注入噪声。$\beta(t)$ 一般取线性或 cosine schedule,控制每个时刻噪声注入的速度。
这套设计的好处:方差守恒。如果起点 $x_0$ 的方差是 1,那么任意 $t$ 时刻 $x_t$ 的方差仍然约等于 1(中间数学留作练习——靠 $-\frac{1}{2}\beta(t) x\, dt$ 把扩张回拉、$\sqrt{\beta(t)}\, dW$ 把方差注进来,两边精确平衡)。从工程角度,这件事极其重要:网络在所有时间尺度上看到的输入都大致同量级,不会出现 $t$ 大时输入幅值爆炸的问题,BatchNorm / LayerNorm 等模块都可以正常工作。
7.2 VE-SDE(Variance Exploding,对应 NCSN)
$$dx = \sqrt{\frac{d \sigma^2(t)}{dt}}\, dW_t$$这里 $f = 0$,$g(t) = \sqrt{d\sigma^2/dt}$。完全没有漂移——纯粹堆噪声。
- 这正好就是 NCSN 用的"在不同噪声尺度上扰动"的连续时间版本;
- 方差并不守恒——它持续爆炸式增长到 $\sigma_{\max}^2$;
- $\sigma_{\max}$ 必须取得足够大(比如 50–80),让最终分布在所有数据点上都看起来像噪声,否则反向 SDE 起点偏离 $\mathcal{N}(0, \sigma_{\max}^2 I)$,会产生明显偏置;
- 因为方差不守恒,VE-SDE 的网络输入需要按 $\sigma_t$ 做归一化预处理(EDM 论文中的 $c_\text{in}, c_\text{out}, c_\text{skip}$ 三件套就是干这事的)。
• "VP" = Variance Preserving,方差守恒。Ho 2020 的 DDPM 就是它的离散化。
• "VE" = Variance Exploding,方差爆炸。Song 2019 的 NCSN 就是它的离散化。
• Song 2021 论文还提了第三种 sub-VP SDE(似然估计性能更好),但工程上 VP 与 VE 已覆盖几乎所有主流模型。
7.3 DDPM 就是 VP-SDE 的 Euler-Maruyama 离散
把 VP-SDE 用最朴素的数值方法(Euler-Maruyama)离散到 $\Delta t = 1/T$:
八、Anderson 1982:反向时间 SDE
正向我们写好了。但怎么往回走?讲师在物理直觉部分已经预告过结论——微观运动可逆。Anderson (1982) 把这条物理直觉变成了一个具体的方程。这条结果在 1982 年发表时是一篇纯随机过程论文,没有人想到它会在 39 年后变成生成式 AI 的核心引擎。
对任意正向 SDE $dx = f(x, t) dt + g(t) dW$,其反向时间 SDE 为:
$$\boxed{\;dx = \big[f(x, t) - g(t)^2\, \nabla_x \log p_t(x)\big] dt + g(t)\, d\bar W\;}$$这里:
- $d\bar W$ 是反向时间的 Brownian motion(时间从 $T$ 流回 $0$);
- $\nabla_x \log p_t(x)$ 是每个时刻 $t$ 上、由 forward SDE 诱导的边际分布 $p_t$ 的 score;
- 所有其他符号和 forward SDE 一样。
8.1 这条方程为什么是 "diffusion = score" 的真正心脏
仔细看反向 SDE 的 drift 部分:
$$\underbrace{f(x, t)}_{\text{原 forward 漂移}} \;-\; \underbrace{g(t)^2 \nabla_x \log p_t(x)}_{\text{score 修正项}}$$意思是:只要在 forward 的漂移上再加一个"沿 score 方向"的修正,反向 SDE 就能把 isotropic noise 拉回到真实数据。而 score $\nabla_x \log p_t(x)$ 恰好就是 第 10 章 NCSN 训练的目标!
8.2 训练目标:跨所有时间尺度做 score matching
反向 SDE 在工程上唯一未知的就是 $\nabla_x \log p_t(x)$。我们用神经网络 $s_\theta(x, t)$ 拟合它,目标函数(denoising score matching 的连续时间版本):
$$\mathcal{L}(\theta) = \mathbb{E}_t\, \mathbb{E}_{x_0}\, \mathbb{E}_{x_t | x_0} \Big[\, \lambda(t)\, \big\| s_\theta(x_t, t) - \nabla_{x_t} \log p_{0t}(x_t | x_0) \big\|^2 \,\Big]$$其中 $\lambda(t)$ 是各时间尺度上的权重(论文里取 $\lambda(t) = g(t)^2$ 时和原 ELBO 最严格地对齐);条件分布 $p_{0t}(x_t | x_0)$ 在 VP / VE 下都有 closed-form Gaussian,所以梯度可解。
九、Probability Flow ODE(PF-ODE):把随机轨迹换成确定轨迹
到这里你能用反向 SDE 采样了。但 Song et al. 2021 论文真正震撼的部分还在后面——他们证明:
把它叫做 Probability Flow ODE(PF-ODE)。注意公式里没有 $dW$——没有任何随机性。系数比反向 SDE 的 drift 多了个 $\tfrac{1}{2}$。
9.1 PF-ODE 和反向 SDE 的关键差别
| 维度 | 反向 SDE | PF-ODE |
|---|---|---|
| 轨迹 | 随机(每次 sample 不同) | 确定(给定 $x_T$ 后唯一) |
| 边际分布 $p_t$ | 与 forward 一致 | 同样与 forward 一致 |
| 系数 | $f - g^2 \nabla \log p$ | $f - \tfrac{1}{2} g^2 \nabla \log p$ |
| 噪声项 | $g(t)\, d\bar W$ | 无 |
| 求解 | Euler-Maruyama 等 SDE 数值方法 | Euler / Heun / RK4 / DPM-Solver |
9.2 PF-ODE 的"魔法系数 $\tfrac{1}{2}$"是从哪来的
这是看 PF-ODE 公式时第一眼会冒出来的问题:为什么是 $\tfrac{1}{2}$ 而不是别的数?这个系数其实是整个推导的灵魂。它来自一个关于概率密度演化的恒等式重写。下面给一个不严格但能看懂的推导。
不严格但直觉的推导:连续性方程(Fokker-Planck)告诉我们 $p_t(x)$ 怎么随时间演化。SDE $dx = f\, dt + g\, dW$ 诱导的 Fokker-Planck 是:
$$\frac{\partial p_t}{\partial t} = -\nabla \cdot (f\, p_t) + \tfrac{1}{2} g^2 \Delta p_t$$恒等式 $\Delta p_t = \nabla \cdot (\nabla p_t) = \nabla \cdot (p_t \nabla \log p_t)$ 把右边改写:
$$\frac{\partial p_t}{\partial t} = -\nabla \cdot \!\left( \Big( f - \tfrac{1}{2} g^2 \nabla \log p_t \Big) p_t \right)$$这是一个纯输运方程(continuity equation),对应的就是用速度场 $f - \tfrac{1}{2} g^2 \nabla \log p_t$ 流动的确定性 ODE——这就是 PF-ODE,那 $\tfrac{1}{2}$ 也来自这一步。
十、PF-ODE 解锁的四项工程能力
10.1 ① 精确 likelihood 评估(不再依赖 ELBO)
对任何 ODE $dx/dt = h(x, t)$,由 instantaneous change of variables formula(Chen et al. 2018,Neural ODE 那篇):
$$\log p_0(x_0) = \log p_T(x_T) + \int_0^T \nabla \cdot h(x_t, t)\, dt$$其中 $\nabla \cdot h$ 是速度场的散度(Jacobian 的 trace)。直接算高维 trace 太贵——但有 Hutchinson trace estimator:
$$\nabla \cdot h(x, t) = \mathbb{E}_{v \sim p_v}\!\big[\, v^\top \nabla h(x, t)\, v \,\big]$$其中 $v$ 是 Rademacher 或高斯随机向量。用自动微分一次 vector-Jacobian product 就能拿到 $v^\top \nabla h\, v$,再 Monte Carlo 平均即可。VAE 给不了 likelihood(只能给 ELBO 下界),PF-ODE 第一次让 diffusion 模型可以汇报真正的 $\log p(x)$。Song 2021 论文报告 CIFAR-10 上 2.99 bits/dim,当时 SOTA。这件事在科研上的意义远比看起来大:似然评估让 diffusion 第一次能和 normalizing flow、autoregressive model 在同一把尺子上比较,从此 diffusion 进入"严肃 likelihood-based 模型"行列,而不仅仅是"采样质量好的黑箱"。
10.2 ② 确定性采样(DDIM 的雏形)
把 PF-ODE 做最简单的 Euler 离散:
$$x_{t - \Delta t} = x_t - \Delta t \cdot \Big[ f(x_t, t) - \tfrac{1}{2} g(t)^2\, s_\theta(x_t, t) \Big]$$这给出一个没有随机扰动的反向采样器。第 16 章 DDIM 会展开讲:DDIM 实际上就是 VP-PF-ODE 的另一种特殊离散(不是 Euler,而是一种"指数积分"形式),并且它在离散时间下天然继承了 PF-ODE 的"同一噪声 → 同一图像"性质。这条性质在工业上非常珍贵:它意味着噪声种子可以作为生成结果的稳定锚点。当你在 Stable Diffusion 里固定 seed、变 prompt,会看到生成图像保持类似的整体构图——正是这个 deterministic 映射在背后工作。
- DDPM = VP-SDE Euler-Maruyama;
- NCSN = VE-SDE Euler-Maruyama;
- DDIM = VP-PF-ODE 的特殊离散;
- DPM-Solver / EDM Heun / RK45 = PF-ODE 的高阶 ODE 求解器。
10.3 ③ 高阶 ODE 求解器:把 1000 步压到 10 步
这是 Linqi (Alex) Zhou 在 CMU 客座课里抛出的 motivation(chunk #1472):
用普通 Euler,1000 步左右才稳定收敛。但 PF-ODE 是普通 ODE——可以套任何成熟数值方法:
- Heun(2 阶 Runge-Kutta,EDM 默认):~35 步达到 Euler 1000 步质量;
- DPM-Solver(Lu et al. 2022):用 PF-ODE 的半线性结构设计的指数积分器,10–20 步达到极强质量;
- RK4 / RK45:可作 ground-truth 求解器,确认其它方法的精度。
10.4 ④ 精确反演:把一张图像变成它的"噪声编码"
因为 PF-ODE 是 确定的,给定 $x_0$ 也可以正向积分到 $T$ 得到对应的 $x_T$——然后这个 $x_T$ 反向积分回来一定会还原 $x_0$。这就是图像编辑、prompt-to-prompt、null-text inversion 等技术的数学基础。具体场景:你想把"一只穿西装的猫"改成"一只穿西装的狗",可以先把原图反演到 $x_T$,再用"狗"的 prompt 反向积分回 $x_0'$,得到一张构图、姿态、光照几乎不变、只把猫换成狗的新图。这种"以噪声为画布"的玩法是 Stable Diffusion 时代 AI 绘图 ecosystem 的支柱。
十一、Worked Example:2D 高斯混合的正反向轨迹
把所有公式落地到一个二维玩具问题上,便于把脑子里的"染料分子"画出来。理论讲完之后动手跑一遍是吃透 SDE 框架最快的方式——所有公式在 2D 上都能直接 5 分钟训练完一个 score 网络、画散点图验证。
设数据分布 $p_0(x) = \tfrac{1}{2} \mathcal{N}(\mu_1, 0.1 I) + \tfrac{1}{2} \mathcal{N}(\mu_2, 0.1 I)$,其中 $\mu_1 = (-2, 0), \mu_2 = (2, 0)$。这是一个最简单的双峰分布——单峰高斯太平凡(score 是线性函数),三峰以上又不便可视化,双峰恰好能把"反向 SDE 把噪声拉向哪个团"这件事画清楚。用 VP-SDE:
- Forward:每个数据点都按 $dx = -\tfrac{1}{2} \beta x\, dt + \sqrt{\beta}\, dW$ 演化。$T$ 取得够大时,所有点都汇聚到 $\mathcal{N}(0, I)$,两个高斯团完全融化。物理上这就是两滴红色染料分别滴在水里相距 4 个单位长度的两个位置,最后整杯水均匀变红。
- Reverse SDE:用 Anderson 公式从 $x_T \sim \mathcal{N}(0, I)$ 出发,score 项把粒子朝两个数据团的方向拉。每条轨迹随机,最终落在某一个团里。落到哪个团由轨迹中段的几次随机扰动决定——粒子在"分水岭"附近做随机 walk,最终偶然偏到一边。
- PF-ODE:同一 $x_T$ 起点,确定地沿一条曲线被送到某一团。$x_T$ 的左右二分线大致就把空间切成"归到团 1"和"归到团 2"两个域——这种 deterministic mapping 是 DDIM 中"语义连续 prior"的来源。后面 DDIM 会展开:在 Stable Diffusion 里,固定噪声种子能保证不同 prompt 之间生成的图像构图结构稳定,正是这个 deterministic 性质在工业级别上的实践。
下面这段 PyTorch 代码就是上面这个 worked example 的最小实现,方便你回去跑一遍画图。它故意不依赖任何 diffusion library,从 forward 噪声闭式、到 score matching loss、再到两种 sampler,全都裸 PyTorch 写出来,正好能映射到本章每一个公式。
import torch
import torch.nn as nn
# ===== 1. VP-SDE 的 β(t) 和闭式 forward =====
def beta(t, beta_min=0.1, beta_max=20.0):
return beta_min + (beta_max - beta_min) * t
def alpha_bar(t, beta_min=0.1, beta_max=20.0):
# ∫₀ᵗ β(s) ds 的解析解
return torch.exp(-0.5 * (beta_min * t + 0.5 * (beta_max - beta_min) * t**2))
def forward_sample(x0, t):
# 从 q(x_t | x_0) = N(√ᾱ x_0, (1-ᾱ) I) 采样
a = alpha_bar(t).sqrt()
sigma = (1 - alpha_bar(t)).sqrt()
return a * x0 + sigma * torch.randn_like(x0)
# ===== 2. 一个简单的 score 网络 s_θ(x, t) ≈ ∇ log p_t(x) =====
class ScoreNet(nn.Module):
def __init__(self, dim=2, h=128):
super().__init__()
self.net = nn.Sequential(
nn.Linear(dim + 1, h), nn.SiLU(),
nn.Linear(h, h), nn.SiLU(),
nn.Linear(h, dim),
)
def forward(self, x, t):
return self.net(torch.cat([x, t[:, None]], dim=-1))
# ===== 3. Denoising score matching loss(连续时间版)=====
def dsm_loss(model, x0):
t = torch.rand(x0.size(0))
xt = forward_sample(x0, t)
sigma = (1 - alpha_bar(t)).sqrt()[:, None]
# ground-truth score of q(x_t | x_0):(x0*√ᾱ - xt) / σ²
target_score = -((xt - alpha_bar(t).sqrt()[:, None] * x0) / sigma**2)
pred = model(xt, t)
# 论文里 λ(t)=σ² 时和 ELBO 对齐
return ((sigma * (pred - target_score)) ** 2).sum(-1).mean()
# ===== 4. 反向 SDE 采样(Anderson)=====
@torch.no_grad()
def sample_reverse_sde(model, n_steps=1000, n=1024, dim=2):
x = torch.randn(n, dim)
dt = 1.0 / n_steps
for i in reversed(range(n_steps)):
t = torch.full((n,), (i + 1) * dt)
b = beta(t)[:, None]
score = model(x, t)
# dx = [f − g² ∇log p] dt + g d̄W
drift = -0.5 * b * x - b * score
noise = b.sqrt() * torch.randn_like(x) * dt**0.5
x = x - drift * dt + noise # 注意反向时间符号
return x
# ===== 5. PF-ODE 采样(Euler)=====
@torch.no_grad()
def sample_pf_ode(model, n_steps=50, n=1024, dim=2):
x = torch.randn(n, dim)
dt = 1.0 / n_steps
for i in reversed(range(n_steps)):
t = torch.full((n,), (i + 1) * dt)
b = beta(t)[:, None]
score = model(x, t)
# dx/dt = f − ½ g² ∇log p(确定性!)
drift = -0.5 * b * x - 0.5 * b * score
x = x - drift * dt
return x
十二、跨课程视角:CMU 10-799 的 Flow Map 后续
CMU 课程在第 10–11 讲把 PF-ODE 继续推到了"Flow Map"——下面这段不是 SDE 章本身的内容,而是它的延伸预告。讲师 Linqi (Alex) Zhou(Luma AI 嘉宾,他本人主导了 Consistency Models 的部分工作)给出了非常清爽的提法(chunk #1443):
flow map $\Phi_{t \to s}(x_t)$ 就是 PF-ODE 的积分算子:
$$\Phi_{t \to s}(x_t) = x_t + \int_t^s \!\Big[ f(x_\tau, \tau) - \tfrac{1}{2} g(\tau)^2\, \nabla \log p_\tau(x_\tau) \Big] d\tau$$Consistency Models(Song et al. 2023)、Flow Matching、Rectified Flow 这一整支"快速采样"研究都是直接学 flow map $\Phi$,不再每步调用 score model。这条路线的最高目标是 1 步生成——直接学一个网络把 $x_T$ 一步映到 $x_0$。第 17 章 与 第 19 章 会展开。本章只需要记住:flow map 是 PF-ODE 的"零步求解器"——把"积分轨迹"的所有信息预编译进一个网络。Linqi 在课上还指出(chunk #1472),即使你的 score 模型在每一点都完美,传统 sampler 仍然必须多步积分才能精确,这是 ODE 求解器的本质开销;flow map 是为了绕过这个开销而存在的。
十三、连续 vs 离散视角对照表
| 连续时间 | DDPM(VP)离散 | NCSN(VE)离散 |
|---|---|---|
| Forward SDE | $x_t = \sqrt{1-\beta_t} x_{t-1} + \sqrt{\beta_t} \epsilon$ | $x_t = x_0 + \sigma_t \epsilon$ |
| Reverse SDE | DDPM ancestral sampling | Annealed Langevin dynamics |
| PF-ODE | DDIM($\eta = 0$) | EDM 的 deterministic sampler |
| 参数化目标 | $\epsilon_\theta(x_t, t)$ | $s_\theta(x_t, \sigma_t)$ |
| 两者关系 | $s_\theta = -\epsilon_\theta / \sigma_t$,二者是同一条反向 SDE 的不同 parameterize | |
十四、数值求解器与 step 数:质量-速度权衡
本节给出后面工程章节用得到的"常识表"。所有方法都在 PF-ODE 上操作。注意度量"速度"的标准单位是 NFE (Number of Function Evaluations)——即调用 score 网络的次数。这是 diffusion 推理的真正瓶颈,因为每次调用都是一个完整的 U-Net 前向、占用 GPU 时间。所以"几阶方法"和"几步"不能简单换算——Heun 2 阶虽然写出来是"50 步",但 NFE 实际是 100。
- Euler(1 阶):最简单,需要 200–1000 步达到 SOTA 质量。代码 10 行。教学用首选。
- Heun(2 阶 RK):每步算 2 次 score,35–50 步即可(NFE ≈ 70–100)。EDM (Karras 2022) 默认选项。教科书级别 baseline。
- RK4(4 阶):每步 4 次 score。理论精度极高,但不一定划算——score model evaluations 太贵,常常比 Heun 50 步还慢且没明显增益。
- Exponential integrators / DPM-Solver-2/3:利用 PF-ODE 的半线性结构(drift 是 $x$ 的线性函数 + score 的非线性函数),把线性部分做闭式积分,只留非线性部分用数值方法。10–20 NFE 即达 Heun 50 步质量。Stable Diffusion 的
DPMSolverMultistep调度器就是它的多步变种。 - Predictor-Corrector(Song 2021):先用 reverse-SDE Euler 走一步(predictor),再用 Langevin MCMC 在当前噪声尺度上 refine(corrector)。质量好但步数贵,工业界少用,但在精度敏感的科研评测上仍是 gold standard。
- UniPC / Restart Sampling(2023+):进一步把"高阶"和"重启动"结合,把 NFE 推到 8–10。这是 Stable Diffusion 3 / Sora 等工业级 sampler 的当前选择。
sigma_min / sigma_max 参数的来源。
- 本章之前的 DDPM (ch5)、NCSN / score matching (ch10) 在 SDE 视角下是 VP / VE 两种特殊情况;
- 本章之后的 DDIM (ch16) 是 PF-ODE 的特殊离散;DPM-Solver 是 PF-ODE 的高阶求解器;Flow Matching / Rectified Flow 重新设计了 $f, g$ 让 PF-ODE 的"直线"更直,从而进一步加速;
- Consistency Models(Song et al. 2023)直接学 flow map,跳过 ODE 积分;EDM (Karras 2022) 用经验研究确定了 noise schedule、参数化、求解器的"最佳三件套";
- SDE 框架 = 整个 diffusion 文献的骨架公式,每一篇新论文都可以被翻译回它在 $(f, g)$ 选择 + 离散方案 + 训练目标三轴上的位置。
本章要记住的(按讲师给出的锚点排序)
- 物理心脏:染料宏观不可逆、微观(Brownian motion)可逆——这是整个 diffusion 文献"反向"魔术的唯一物理依据(讲师原话:"this is the only theme which is used in the entire diffusion literature")。
- 统一方程:$dx = f(x, t) dt + g(t) dW$。VP-SDE $(f = -\tfrac{1}{2}\beta x, g = \sqrt{\beta})$ 对应 DDPM;VE-SDE $(f = 0, g = \sqrt{d\sigma^2/dt})$ 对应 NCSN。
- Anderson 1982 反向 SDE:$dx = [f - g^2 \nabla \log p_t]\, dt + g\, d\bar W$。所谓 score model 学的就是 $\nabla \log p_t$。DDPM 的 $\epsilon_\theta$ 和 NCSN 的 $s_\theta$ 是同一个东西的 parameterize 变形。
- Probability Flow ODE:$dx/dt = f - \tfrac{1}{2} g^2 \nabla \log p_t$,没有随机项。每个时刻边际分布与反向 SDE 完全一致——同一 $x_T$ 走一条确定的轨迹。
- 四项工程红利:精确 likelihood(Hutchinson + change-of-variables)、确定性采样(DDIM 雏形)、高阶 ODE 求解器(DPM-Solver 10 步达到 Euler 1000 步质量)、精确反演(image editing 基础)。
- 统一关系卡片:DDPM = VP-SDE Euler-Maruyama;NCSN = VE-SDE Euler-Maruyama;DDIM = VP-PF-ODE 特殊离散;EDM / DPM-Solver = PF-ODE 高阶求解器;Flow Matching / Consistency Models 进一步学 flow map $\Phi$。
- 历史时序:DDPM (2020) + NCSN (2019) 先出现 → Song et al. ICLR 2021 把它们统一进 SDE → Anderson 1982 的反向 SDE 在 39 年后被 ML 社区"翻译"成 score-based diffusion 的核心引擎。把 50 年前的工具重新读一遍,永远是 ML 研究的高回报操作。