ScoreSdeVpScheduler
ScoreSdeVpScheduler
是一种方差保持随机微分方程(SDE)调度器。它由 Yang Song、Jascha Sohl-Dickstein、Diederik P. Kingma、Abhishek Kumar、Stefano Ermon 和 Ben Poole 在论文 Score-Based Generative Modeling through Stochastic Differential Equations 中提出。
论文的摘要如下:
从数据中生成噪声很容易;从噪声中生成数据是生成建模。我们提出了一种随机微分方程(SDE),通过缓慢注入噪声,将复杂的数据分布平滑地转换为已知的先验分布,以及相应的逆时SDE,通过缓慢去除噪声将先验分布转换回数据分布。至关重要的是,逆时SDE仅依赖于扰动数据分布的时间相关梯度场(即分数)。通过利用基于分数的生成建模的进展,我们可以使用神经网络准确估计这些分数,并使用数值SDE求解器生成样本。我们证明,这个框架包含了以前基于分数的生成建模和扩散概率建模的方法,允许新的采样程序和新的建模能力。特别是,我们引入了一个预测-校正框架来纠正离散逆时SDE演化中的误差。我们还推导了一个等效的神经ODE,它从与SDE相同的分布中采样,但还启用了精确的似然计算和改进的采样效率。此外,我们提供了一种新的方法,使用基于分数的模型解决逆问题,如类条件生成、图像修复和着色实验所示。结合多种架构改进,我们在CIFAR-10上实现了无条件图像生成的创纪录性能,Inception得分为9.89,FID为2.20,竞争性似然为2.99比特/维,并首次展示了从基于分数的生成模型生成1024 x 1024高保真图像。
ScoreSdeVpScheduler
[[autodoc]] schedulers.deprecated.scheduling_sde_vp.ScoreSdeVpScheduler