在如下這個(gè)信道容量公式中，其前提是沒(méi)有對(duì)輸入端做任何約束，能達(dá)到這個(gè)容量的時(shí)候，輸入端是連續(xù)的高斯分布：

但是，在實(shí)際系統(tǒng)中，我們用的都是離散的輸入，即是經(jīng)過(guò)調(diào)制之后的離散的數(shù)據(jù)，那么在這種情況下，其信道容量的上限是多少呢？不同的信噪比條件下，其信道容量的上限是多少呢？



我們從信道容量的最基本公式出發(fā)，我們假定輸入端的調(diào)制后的數(shù)據(jù)是等概率分布的，則信道容量就是：

根據(jù)基本的信息論知識(shí)，我們對(duì)公式 (2) 進(jìn)一步推導(dǎo)有：

其中 H(X) 很容易計(jì)算：

所以，關(guān)鍵是計(jì)算 H(X|Y) 這個(gè)條件熵，根據(jù)信息論的基本知識(shí)有：

公式 (5) 可以用蒙特卡洛算法來(lái)計(jì)算這個(gè)積分，所以，關(guān)鍵是要計(jì)算出來(lái) H(X|Y=y) 這個(gè)概率.

公式 (6) 中：

因?yàn)?x 是等概率分布的，所以，公式 (7) 中的? 與 x 的具體取值無(wú)關(guān)，因此

所以，可以把 p(y|x) 對(duì)每個(gè) x 計(jì)算出來(lái)，然后 歸一化之后，就是? p(x|y) 的概率。

matlab 代碼：