Skip to content

ScoreSdeVeScheduler

ScoreSdeVeScheduler 是一种方差爆炸随机微分方程(SDE)调度器。它由 Yang Song、Jascha Sohl-Dickstein、Diederik P. Kingma、Abhishek Kumar、Stefano Ermon 和 Ben Poole 在论文 Score-Based Generative Modeling through Stochastic Differential Equations 中提出。

论文的摘要如下:

从数据中生成噪声很容易;从噪声中生成数据是生成建模。我们提出了一种随机微分方程(SDE),通过缓慢注入噪声,将复杂的数据分布平滑地转换为已知的先验分布,以及相应的逆时 SDE,通过缓慢去除噪声将先验分布转换回数据分布。至关重要的是,逆时 SDE 仅依赖于扰动数据分布的时间相关梯度场(即分数)。通过利用基于分数的生成建模的进展,我们可以使用神经网络准确估计这些分数,并使用数值 SDE 求解器生成样本。我们证明,这个框架包含了以前基于分数的生成建模和扩散概率建模的方法,允许新的采样程序和新的建模能力。特别是,我们引入了一个预测-校正框架来纠正离散逆时 SDE 演化中的误差。我们还推导了一个等效的神经 ODE,它从与 SDE 相同的分布中采样,但还支持精确的似然计算和改进的采样效率。此外,我们提供了一种新的方法,使用基于分数的模型解决逆问题,如在类别条件生成、图像修复和着色实验中所展示的那样。结合多种架构改进,我们在 CIFAR-10 上实现了无条件图像生成的创纪录性能,Inception 分数为 9.89,FID 为 2.20,竞争性似然为 2.99 比特/维度,并首次展示了从基于分数的生成模型生成 1024 x 1024 图像的高保真生成。

ScoreSdeVeScheduler

[[autodoc]] ScoreSdeVeScheduler

SdeVeOutput

[[autodoc]] schedulers.scheduling_sde_ve.SdeVeOutput