什么是HMM隱馬爾可夫模型

大家好,今天我們要討論的主題是,隱馬爾可夫模型。
案例,擲骰子

假設(shè),有三種不同的骰子。第一個是立方體,有1到6、六個面,記作D6。第二個是正4面體,1到4四個面,記作D4。第三個是正8面體,1到8,8個面,記作D8。它們每個面出現(xiàn)的概率分別是1/6、1/4和1/8。
我們蒙著眼睛,從這三個骰子中,隨機的選擇一個,進(jìn)行拋擲。投擲后,可以得到1到8中的某個數(shù)字。

在拋擲的過程中,被我們隨機選出來的骰子的編號,也可以組成一串序列,序列中包括了D4、D6和D8。因為我們是蒙著眼睛選骰子,所以并不知道具體選的是哪個骰子。

我們不必糾結(jié),為什么拋擲時,就一定不知道選的是哪個骰子,我們就假設(shè),3個骰子摸起來的感覺是一樣的就好了。

在實驗過程中,產(chǎn)生了兩個數(shù)據(jù)鏈,可見狀態(tài)鏈與隱含狀態(tài)鏈,將它們組合在一起,就是隱馬爾可夫模型。
隱馬爾可夫模型的概念
隱馬爾可夫模型,Hidden Markov Model,簡稱HMM。它是關(guān)于時序的概率模型,該模型包含了隨機生成的不可觀測序列,該序列被稱為狀態(tài)序列,使用S表示。例如,剛剛的骰子序列,就是狀態(tài)序列。

每個不可觀測狀態(tài),都會產(chǎn)生一個可觀測的結(jié)果,這樣會得到一個觀測序列,使用O表示。也就是擲骰子時,產(chǎn)生的數(shù)字序列。
每個狀態(tài)和觀測都會與一個時刻進(jìn)行對應(yīng),如果有t個時刻,就產(chǎn)生了s1到st,o1到ot。就像我們擲骰子,需要一次一次的擲,那么t就可以代表是第幾次擲骰子。
在HMM中,狀態(tài)序列是隱藏的,無法被觀測到,因此狀態(tài)變量是一個隱變量,這也是HMM中H的來源。而MM是馬爾可夫模型,它代表了隱藏的狀態(tài)序列是由一個馬爾科夫鏈,隨機生成的。
隱馬爾可夫模型的關(guān)鍵因素
在隱馬爾可夫模型中,包含了四個關(guān)鍵因素,分別是隱含狀態(tài)、可見狀態(tài)、隱含狀態(tài)的轉(zhuǎn)換、和可見狀態(tài)的輸出。

各個隱含狀態(tài)之間會進(jìn)行轉(zhuǎn)換,并有對應(yīng)的轉(zhuǎn)換概率。例如,在擲骰子的過程中,如果每次都是隨機挑選骰子,那么三種不同骰子的轉(zhuǎn)換概就是1/3。
隱含狀態(tài)會輸出可見狀態(tài),它們之間有一個輸出概率,不同隱含狀態(tài)到可見狀態(tài)的輸出概率可能不同。
例如,隱含狀態(tài)D6輸出可見狀態(tài)1到6,概率是1/6。D4輸出1到4,概率是四分之一。
隱馬爾可夫模型的數(shù)學(xué)表示
為了進(jìn)一步討論隱馬爾可夫模型,需要使用數(shù)學(xué)符號來表示HMM。其中包括了,隱含狀態(tài)Q和觀測結(jié)果V兩個集合,狀態(tài)轉(zhuǎn)移概率矩陣A、觀測概率矩陣B、初始狀態(tài)概率向量π,三個概率矩陣。
具體來說,隱含狀態(tài)集合Q,包括q1到qn,N種狀態(tài)。觀測結(jié)果集合V,包括v1到vm,M種可能的結(jié)果。

例如,在擲骰子的案例中,n=3,q1、q2、q3對應(yīng)D6、D4、D8,m=8,v1到v8對應(yīng)數(shù)字1到8。

狀態(tài)轉(zhuǎn)移的概率矩陣A是一個N*N的矩陣。其中aij代表了狀態(tài)qi轉(zhuǎn)移到狀態(tài)qj的概率。具體的,aij等于,在st等于qi的條件下,s(t+1)等于qj的概率。

例如,3個骰子,選擇任意骰子的概率都是1/3,那么就得到了3乘3的狀態(tài)轉(zhuǎn)移概率矩陣,其中的每個元素都是0.33。

觀測概率矩陣為B。由于每一個狀態(tài)q都可以輸出一個觀測結(jié)果v,因此B是一個N乘M的矩陣,其中bij代表了在時刻t,狀態(tài)qi輸出觀測結(jié)果vj的概率。

例如,在擲骰子時,根據(jù)三種骰子的輸出,可以得到一個3乘8的概率矩陣。第一行對應(yīng)了六面骰子,擲出1到6的概率是六分之一,擲出7和8的概率是0。而第二行和第三行,分別代表投擲四面、八面骰子的輸出1到8的概率。

初始狀態(tài)的概率向量是π,它是一個N*1的列向量。πi代表了在時刻t=1時,狀態(tài)為qi的概率。例如,擲骰子時,三種骰子的初始概率都是0.33。

總結(jié)來說,π和A確定了隱藏的馬爾科夫鏈,也就是如何生成不可觀測的狀態(tài)序列s。B確定了如何從隱藏狀態(tài)產(chǎn)生觀測序列o。隱馬爾可夫模型由A、B、π共同決定,使用三元符號λ等于A、B、π表示。
那么到這里,隱馬爾可夫模型就講完了,感謝大家的觀看,我們下節(jié)課再會。