人工智能AI面試題-3.10 深入探討貝葉斯定理
3.10 深入探討貝葉斯定理 在深入探討貝葉斯定理之前,讓我們先澄清一些重要的定義: 條件概率(亦稱為后驗(yàn)概率)是指在事件B已經(jīng)發(fā)生的情況下,事件A發(fā)生的概率。條件概率通常表示為P(A|B),可讀作“在B條件下A的概率”。 以一個(gè)樣本空間Ω中的事件或子集A與事件B為例,如果我們從Ω中隨機(jī)選擇一個(gè)元素,而這個(gè)元素同時(shí)也屬于B,那么這個(gè)元素同時(shí)屬于A的概率就是在B的前提下A的條件概率,其數(shù)學(xué)表示為:P(A|B) = |A∩B|/|B|。進(jìn)一步,分子和分母都可以除以|Ω|來得到: 聯(lián)合概率表示了兩個(gè)事件同時(shí)發(fā)生的概率,通常用P(A∩B)或P(A, B)來表示。 邊緣概率(亦稱為先驗(yàn)概率)是指某一事件發(fā)生的概率,通常通過將聯(lián)合概率中不需要的事件合并成它們的全概率,然后消除它們來獲得。這一過程稱為邊緣化(marginalization)。比如,事件A的邊緣概率用P(A)表示,事件B的邊緣概率用P(B)表示。 現(xiàn)在,讓我們考慮一個(gè)問題:P(A|B)代表了在事件B發(fā)生的情況下,事件A發(fā)生的可能性。 首先,在事件B發(fā)生之前,我們對(duì)事件A的發(fā)生有一個(gè)基本的概率估計(jì),稱為A的先驗(yàn)概率,通常用P(A)來表示。 其次,當(dāng)事件B發(fā)生之后,我們重新評(píng)估了事件A的發(fā)生概率,這被稱為A的后驗(yàn)概率,通常用P(A|B)來表示。類似地,事件A發(fā)生之前,我們對(duì)事件B的發(fā)生也有一個(gè)基本的概率估計(jì),稱為B的先驗(yàn)概率,通常用P(B)表示。 同樣,事件A發(fā)生之后,我們重新評(píng)估了事件B的發(fā)生概率,這被稱為B的后驗(yàn)概率,通常用P(B|A)來表示。貝葉斯定理建立在以下貝葉斯公式的基礎(chǔ)上: 上述公式的推導(dǎo)實(shí)際上非常簡(jiǎn)單,只需要基于條件概率的定義進(jìn)行推導(dǎo)。根據(jù)條件概率的定義,在事件B發(fā)生的條件下事件A發(fā)生的概率是: 同樣地,在事件A發(fā)生的條件下事件B發(fā)生的概率為: 將上述兩個(gè)方程整理并合并,我們可以得到: 然后,將上式兩邊同時(shí)除以P(B),如果P(B)不為零,我們就可以得到貝葉斯定理的公式表達(dá): 因此,貝葉斯公式可以直接從條件概率的定義推導(dǎo)而來,即P(A,B) = P(A)P(B|A) = P(B)P(A|B),從而P(A|B) = P(A)P(B|A) / P(B)。欲知更多詳情,請(qǐng)參考這篇文章:《從貝葉斯方法探討貝葉斯網(wǎng)絡(luò)》。 ??????????