散文網(wǎng) » 科技 »學(xué)習(xí) » AIGC: Denoising Diffusion GANs 筆記

AIGC: Denoising Diffusion GANs 筆記

2023-06-30 11:12 作者:剎那-Ksana- 0人讀過 | 我要投稿

去噪擴散模型雖然可以生成很好的圖像，但問題是生成圖片的時間太長。而原因就在于加噪和去噪都需要符合高斯分布。如果去噪要符合高斯分布，意味著

從圖中可以看出，步長越大，例如從 x5 到 x0，那么去噪分布將越不滿足高斯分布，反而呈現(xiàn)一個多峰值的概率分布。

但是，反之，如果我們可以去學(xué)習(xí)這么一個多峰值的分布的話，我們就可以省去很多中間步驟，大大加速去噪擴散模型的生成時間。

所以論文依舊遵循去噪擴散模型的設(shè)定，但是大幅地增大了? $%5Cbeta_t$ , 減少了總步數(shù) ( $T%5Cleq8$ ), 然后用一個 Generator 去模擬這個真實的去噪分布? $q(x_%7Bt-1%7D%7Cx_t)$ 。

但是為什么不直接一步到位呢（one-shot, 即等同于 GAN 的訓(xùn)練），論文認為一步到位將會增加訓(xùn)練難度以及增加 mode collapse 的風(fēng)險；而分步降噪的去噪分布更容易學(xué)習(xí)，也降低了 Discriminator 過擬合的可能性。

Parametrization

看上面的流程示意圖會發(fā)現(xiàn)，Generator G 沒有直接預(yù)測? $x_%7Bt-1%7D$ , 而是預(yù)測了? $x_0'$ . 這是因為論文中使用了?Parametrization:?

$p_%7B%5Ctheta%7D(x_%7Bt-1%7D%20%7C%20x_t)%20%3A%3Dq(x_%7Bt-1%7D%7Cx_0%2C%20x_t)%5C%5C%0Ax_0%3Df_%7B%5Ctheta%7D(x_t%2Ct)$

然后再利用? $x_0$ ?和 $x_t$ ?以及一個后驗概率分布 $q(x_%7Bt-1%7D%7Cx_t%2Cx_0)$ ?來生成 $x'_%7Bt-1%7D$ , 而這個后驗概率分布無論步長和數(shù)據(jù)分布，都滿足高斯分布（太神奇了?。?/span>:

$q(x_%7Bt-1%7D%7Cx_t%2Cx_0)%3D%5Cmathcal%7BN%7D(x_%7Bt-1%7D%3B%5Ctilde%7B%5Cmu%7D(x_t%2Cx_0)%2C%5Ctilde%7B%5Cbeta%7D_t%20%5Cbf%7BI%7D)$

以上的好處在于

更多細節(jié)和效果圖見原文，數(shù)學(xué)公式太長太復(fù)雜了沒有一個看得懂的?ㄟ( ▔, ▔ )ㄏ

Tackling the Generative Learning Trilemma with Denoising Diffusion GANs

Zhisheng Xiao, Karsten Kreis, Arash Vahdat

arXiv:2112.07804v2