信道容量的幾個(gè)易混淆的公式
本文章試圖把信道容量背后的物理思想做一下解釋,或者說是本人的一個(gè)粗淺理解。
錄制的視頻在:https://www.bilibili.com/video/BV1dg4y1E7oM/
首先我們拋出幾個(gè)我之前經(jīng)常碰到但是迷惑的信道容量公式:
以及
我們來逐個(gè)分析一下,公式 (1) 是后面兩個(gè)的基礎(chǔ),這個(gè)公式的推導(dǎo)是基于如下這個(gè)信道模型來推導(dǎo)的:
其中? 是信道的輸入,下標(biāo) i 表示第 i 時(shí)刻的輸入,?
是信道的輸出,?
是高斯白噪聲。 這三個(gè)量都是實(shí)數(shù),不是復(fù)數(shù)。根據(jù)信息論中的互信息和信息熵等概念和公式,可以得出上面這個(gè)信道的信道容量為公式 (1),具體的證明可以參考[1] 9.1節(jié)的推導(dǎo)過程。
下面這個(gè)是本文想重點(diǎn)說的思想:上面這個(gè)信道模型(4),可以理解為在一個(gè)周期內(nèi)通過 cosine 波形傳輸信息的信道,即在現(xiàn)實(shí)中或者物理線路中,通過 cosine 波形來傳遞信息。例如? 用四種 cosine 的電平來傳遞信息,每個(gè)電平就可以攜帶兩個(gè)比特的信息。 我們又知道,在與這個(gè) cosine 同樣頻率下的 sine 波形,是與 cosine 波形正交的,那么在同一個(gè)時(shí)間內(nèi),我們也可以用 sine 波形來傳遞信息(與同頻的 cosine 波形同時(shí)傳),因?yàn)?cosine 與 sine 正交,所以,兩者不會(huì)相互干擾。
????? 所以,在 1Hz 內(nèi),我們可以有兩個(gè)如 (4) 這樣的信道,所以,其 1Hz 能傳輸?shù)淖畲髷?shù)據(jù)量就是 (1) 的兩倍,所以,就得到了公式 (3) ,公式 (3) 這個(gè)容量值的單位是 bits per second per Hz.
???? 至此,來理解公式(2) 就比較容易了,假設(shè)我們的物理帶寬(實(shí)際占用的頻率范圍,注意:是正的頻率,不是負(fù)的頻率)為 W 赫茲,那么在這個(gè)帶寬內(nèi)的信道容量就是公式 (2),其單位是 bits per second.
??? 用圖形可以表示為:

[1] Elements of Information Theory - T M Cover- Second Edition