最美情侣中文字幕电影,在线麻豆精品传媒,在线网站高清黄,久久黄色视频

歡迎光臨散文網(wǎng) 會(huì)員登陸 & 注冊(cè)

AIGC: FastDPM 筆記

2023-07-24 12:25 作者:剎那-Ksana-  | 我要投稿

注意,F(xiàn)astDPM ≠ DPM Fast。前者(即這篇筆記的對(duì)象)是 2106.00132,后者是?2206.00927

連續(xù)化

對(duì)于離散的擴(kuò)散過(guò)程,我們首先希望將其連續(xù)化。

首先,論文定義了兩個(gè)變量,擴(kuò)散步數(shù)?t?和噪音等級(jí)?r?(這兩個(gè)變量都是連續(xù)的),擴(kuò)散步數(shù)就是當(dāng)前擴(kuò)散所處的位置,噪音等級(jí)用來(lái)形容當(dāng)前圖片上高斯噪聲的強(qiáng)度。然后,我們?cè)O(shè)定兩個(gè)函數(shù) %5Cmathcal%7BR%7D?和?%5Cmathcal%7BT%7D?,這兩個(gè)函數(shù)可以對(duì)擴(kuò)散步數(shù) t?和"噪音等級(jí)" r?進(jìn)行互換:?r%3D%5Cmathcal%7BR%7D(t)%2Ct%3D%5Cmathcal%7BT%7D(r).?

那這兩個(gè)函數(shù)具體是什么呢?

對(duì)于函數(shù) R 來(lái)說(shuō),論文里首先將其定義為?%5Cmathcal%7BR%7D(t)%3D%5Csqrt%7B%5Cbar%7B%5Calpha_t%7D%7D. 順便一說(shuō),%5Cbar%7B%5Calpha_t%7D%3D%5Cprod_%7Bi%3D1%7D%5Et%5Calpha_i%2C%20%5Calpha_t%3D1-%5Cbeta_t. 并且,根據(jù)定義,我們知道?r%5Cin(0%2C1).

在這里,我們通過(guò)定義一個(gè)常數(shù)?%5Chat%7B%5Cbeta%7D%3D%5Cfrac%7B1-%5Cbeta_1%7D%7B%5CDelta%20%5Cbeta%7D%5Cbeta_1%2C%5CDelta%20%5Cbeta 都是常數(shù)),然后將公式?%5Cbar%7B%5Calpha_t%7D%3D%5Cprod_%7Bi%3D1%7D%5Et%5Calpha_i?進(jìn)行改寫(xiě):

%20%5Cbar%7B%5Calpha%7D_t%20%3D%20%5Cprod_%7Bi%3D1%7D%5Et%20(1-%5Cbeta_i)%20%0A%20%20%20%20%3D%20%5Cprod_%7Bi%3D1%7D%5Et%20%5Cleft(1-%5Cbeta_1-(i-1)%5CDelta%5Cbeta%20%5Cright)%0A%20%20%20%20%3D%20(%5CDelta%5Cbeta)%5Et%5Cprod_%7Bi%3D0%7D%5E%7Bt-1%7D%5Cleft(%5Chat%7B%5Cbeta%7D-i%5Cright)%20%5C%5C%0A%3D(%5CDelta%5Cbeta)%5Et%20%5Cfrac%7B%5Chat%7B%5Cbeta%7D!%7D%7B(%5Chat%7B%5Cbeta%7D-t)!%7D%3D%20(%5CDelta%5Cbeta)%5Et%20%5CGamma%5Cleft(%5Chat%7B%5Cbeta%7D%2B1%5Cright)%20%5CGamma%5Cleft(%5Chat%7B%5Cbeta%7D-t%2B1%5Cright)%5E%7B-1%7D

這里的 Gamma 函數(shù)相當(dāng)于是在離散和連續(xù)之間架起了一個(gè)橋梁。

然后,根據(jù)??%5Cmathcal%7BR%7D(t)%3D%5Csqrt%7B%5Cbar%7B%5Calpha_t%7D%7D?的定義,我們得到了函數(shù) R 的具體形式:

%5Cmathcal%7BR%7D(t)%20%3D%20(%5CDelta%5Cbeta)%5E%7B%5Cfrac%20t2%7D%5CGamma%5Cleft(%5Chat%7B%5Cbeta%7D%2B1%5Cright)%5E%7B%5Cfrac%7B1%7D%7B2%7D%7D%20%5CGamma%5Cleft(%5Chat%7B%5Cbeta%7D-t%2B1%5Cright)%5E%7B-%5Cfrac%7B1%7D%7B2%7D%7D

至于?%5Cmathcal%7BT%7D%3D%5Cmathcal%7BR%7D%5E%7B-1%7D, 論文中是利用了一個(gè)二分法搜索來(lái)尋找符合下面條件的數(shù)值解。

2%5Clog%20%5Cmathcal%7BR%7D(t)%20%20%3D%20t%5CDelta%5Cbeta%20%2B%20%5Cleft(%5Chat%7B%5Cbeta%7D%2B%5Cfrac12%5Cright)%5Clog%5Chat%7B%5Cbeta%7D%20%20-%20%5Cleft(%5Chat%7B%5Cbeta%7D-t%2B%5Cfrac12%5Cright)%5Clog(%5Chat%7B%5Cbeta%7D-t)-t%20%5Cnonumber%20%5C%5C%0A%2B%20%5Cfrac%7B1%7D%7B12%7D%5Cleft(%5Cfrac%7B1%7D%7B%5Chat%7B%5Cbeta%7D%7D-%5Cfrac%7B1%7D%7B%5Chat%7B%5Cbeta%7D-t%7D%5Cright)%20%2B%5Cmathcal%7BO%7D(T%5E%7B-2%7D)

如果沒(méi)看懂上面公式,沒(méi)關(guān)系,我也沒(méi)看懂,以上的公式在算法里面其實(shí)并不是那么的重要。

前向(加噪)與逆向(去噪)過(guò)程

首先是加噪過(guò)程,如果原 DDPM 一共包含了 T?步的話,那么我們選一個(gè)比 T?小的值 S?然后獲得一個(gè)新的序列,%5Chat%7Bx%7D_0%2C%5Chat%7Bx%7D_1%2C...%2C%5Chat%7Bx%7D_S. 且?%5Chat%7Bx%7D_s%5Csim%20%5Cmathcal%7BN%7D(%5Chat%7Bx%7D_s%3B%20r_s%5Chat%7Bx%7D_0%2C(1-r_s%5E2)I).

選取這個(gè)新的序列的方式有兩種,一種是我們預(yù)先指定一個(gè)方差的序列,然后針對(duì)序列里的每一個(gè)方差,我們根據(jù)公式推算出?r_s?的值,進(jìn)而求得 %5Chat%7Bx%7D_s?的值,這種方式論文里面稱作 VAR。另一種是我們指定一系列的擴(kuò)散時(shí)間點(diǎn) (即,從原來(lái)的擴(kuò)散步數(shù) %5C%7B1%2C2%2C...%2CT%5C%7D 里面選出一個(gè)子集),根據(jù)時(shí)間點(diǎn)推算出?r_s?的值,進(jìn)而求得?%5Chat%7Bx%7D_s?的值,這種方式論文里面稱作?STEP。

那么預(yù)先指定的這個(gè)序列如何獲得呢,論文里面給出了兩種比較靠譜的策略,一種是 Linear 策略,一種是 Quadratic?策略. 對(duì)于 VAR 來(lái)說(shuō),

%5Ctext%7BLinear%3A%20%7D%20%5Ceta_s%3D(1%2Bcs)%5Ceta_0%20%5C%5C%0A%5Ctext%7BQuadratic%3A%20%7D%20%5Ceta_s%3D(1%2Bcs)%5E2%5Ceta_0

對(duì)于 STEP 來(lái)說(shuō),

%5Ctext%7BLinear%3A%20%7D%20%5Ctau_s%3D%5Clfloor%7Bcs%7D%20%5Crfloor%2Cc%3DT%2FS%20%5C%5C%0A%5Ctext%7BQuadratic%3A%20%7D%20%5Ctau_s%3D%5Clfloor%7Bcs%5E2%7D%20%5Crfloor%2Cc%3D%5Cfrac%7B4%7D%7B5%7D%5Ccdot%20%5Cfrac%7BT%7D%7BS%5E2%7D

上面這些符號(hào)的意思,不用太去深究。個(gè)人的第六感認(rèn)為,其實(shí)論文里面重要的是這兩種策略,把離散的過(guò)程變成連續(xù)的過(guò)程并不是什么特別稀奇的事情。但是如何選取序列,讓生成的圖像不過(guò)于劣化,是比較重要的地方。

然后是去噪過(guò)程,論文里面也給出了兩種方法,一種基于 DDPM,一種基于 DDIM. 但是這里因?yàn)橹挥泄?,沒(méi)有什么特別的地方,就略過(guò)了。

完。


AIGC: FastDPM 筆記的評(píng)論 (共 條)

分享到微博請(qǐng)遵守國(guó)家法律
丹凤县| 松滋市| 宁阳县| 山东省| 夏邑县| 莲花县| 晋中市| 舟曲县| 重庆市| 济源市| 睢宁县| 曲靖市| 崇义县| 安图县| 北川| 咸丰县| 农安县| 察隅县| 左贡县| 威海市| 宜兰县| 日照市| 永城市| 循化| 顺平县| 佛坪县| 饶河县| 铜梁县| 道孚县| 扎赉特旗| 县级市| 佛冈县| 东光县| 德安县| 龙里县| 罗城| 丹东市| 龙海市| 万源市| 富蕴县| 乳源|