高斯白噪聲信道下后驗(yàn)概率的計(jì)算
這篇小筆記,是對(duì)文章和視頻《LDPC 低密度奇偶校驗(yàn)碼的軟判決譯碼算法淺析》的一個(gè)補(bǔ)充。在留言區(qū)有人問(wèn),后驗(yàn)概率為什么是已知的,所以,我就寫(xiě)了這個(gè)小短文。
錄制的視頻在:https://www.bilibili.com/video/BV1SV4y1T7pe/
這篇文章也可以獨(dú)立看,就是如何分析高斯白噪聲信道下的后驗(yàn)概率。
我們知道高斯白噪聲符合以下概率密度(這是均值為 0 ,方差為 ?的高斯分布):
系統(tǒng)框圖如下:

那么,發(fā)送 c 的情況下,收到的是 r 的概率是多少呢?
r = c + n
則:
n = r -c
則:
c 是已知,確定的,所以,上面的式子中隱含的一個(gè)條件是 c 已知,在 c 已知并且是確定某個(gè)值的情況下, r - c 與 r 是一一對(duì)應(yīng)的,則
這是先驗(yàn)概率公式,即確定發(fā)送的數(shù)據(jù),計(jì)算收到 r 的概率。
下面,需要推導(dǎo)一個(gè)后驗(yàn)概率:
發(fā)送的是 c,收到的是 r,則,我們想要知道一個(gè)概率,即“ 收到? r 的情況下,發(fā)送端發(fā)送的 c 是 1 的概率”:
p(c|r)
我們用條件概率和全概率公式,做一個(gè)推導(dǎo)
其中 p(c) 表示發(fā)送的是 c 的概率,我們一般假定,發(fā)送的數(shù)據(jù),是等概率出現(xiàn)的,例如我們發(fā)送的是 0? 和 1 兩種數(shù)據(jù),則 0 和 1 是等概率出現(xiàn)的。
所以,根據(jù)上面的公式,就可以計(jì)算出后驗(yàn)概率。
補(bǔ)充:
在視頻中,我講解的時(shí)候,寫(xiě)的公式有點(diǎn)不準(zhǔn)確,現(xiàn)在補(bǔ)充如下:
例如,我們收到的數(shù)據(jù)是? 0.23. 我們想知道發(fā)送的數(shù)據(jù)是 1 的概率,假設(shè)噪聲是符合均值為 0 方差為 1 的高斯分布,則:
同理,可以計(jì)算出來(lái)收到的數(shù)據(jù)是? 0.23 的情況下. 我發(fā)送的數(shù)據(jù)是 0 的概率
我們看到,上面的計(jì)算還是挺復(fù)雜的,需要計(jì)算 e 的指數(shù),那么,就有把
如果這個(gè)值大于 1, 則可以判決 發(fā)送的數(shù)據(jù) c 是 1,如果小于 1,則認(rèn)為發(fā)送的數(shù)據(jù) c 是 0.? 如果對(duì)上面再去自然對(duì)數(shù),則可以把指數(shù)的計(jì)算拿掉: