算力平台:
TCDScheduler
轨迹一致性蒸馏 由 Jianbin Zheng、Minghui Hu、Zhongyi Fan、Chaoyue Wang、Changxing Ding、Dacheng Tao 和 Tat-Jen Cham 提出,引入了一种战略性随机采样(算法 4),能够在少量步骤中生成良好的样本。将其视为多步调度器(算法 1)在 一致性模型 中的高级迭代,战略性随机采样特别针对轨迹一致性函数进行了定制。
论文的摘要如下:
潜在一致性模型(LCM)将一致性模型扩展到潜在空间,并利用引导一致性蒸馏技术在加速文本到图像合成方面取得了令人印象深刻的性能。然而,我们观察到 LCM 在生成既清晰又细节丰富的图像方面存在困难。为了解决这一局限性,我们首先深入探讨并阐明其根本原因。我们的调查发现,主要问题源于三个不同领域的错误。因此,我们引入了轨迹一致性蒸馏(TCD),其中包括轨迹一致性函数和战略性随机采样。轨迹一致性函数通过扩大自一致性边界条件的范围并赋予 TCD 准确追踪概率流 ODE 整个轨迹的能力,从而减少蒸馏错误。此外,战略性随机采样专门设计用于规避多步一致性采样中固有的累积错误,这是为补充 TCD 模型而精心定制的。实验表明,TCD 不仅在低 NFE 下显著提高了图像质量,而且在高 NFE 下相比教师模型产生了更详细的结果。
原始代码库可以在 jabir-zheng/TCD 找到。
TCDScheduler
[[autodoc]] TCDScheduler
TCDSchedulerOutput
[[autodoc]] schedulers.scheduling_tcd.TCDSchedulerOutput