有意思的概率與統(tǒng)計(jì)（八）

2023-08-12 19:54 作者:不能吃的大魚 0人讀過 | 我要投稿

最近學(xué)日語(yǔ)有點(diǎn)上頭了，見諒見諒~

話不多說，開始繼續(xù)更新啦！

笑死，這篇專欄草稿早就寫好了，但是一直沒完成，一直拖到了這幾天……

日語(yǔ)準(zhǔn)備考個(gè)級(jí)來(lái)著，所以這邊也就……懶了（）

不管怎么說，進(jìn)度還算順利，數(shù)學(xué)期望已經(jīng)更新完了~那么接下來(lái)呢，我們就要來(lái)研究其他對(duì)于隨機(jī)變量而言比較重要的數(shù)字特征啦！

今天我們要來(lái)了解的是——

Chapter? Two? 隨機(jī)變量及其分布

2.3? 隨機(jī)變量的方差與標(biāo)準(zhǔn)差

我們最初在小學(xué)階段就接觸過方差的概念，用以描述統(tǒng)計(jì)結(jié)果偏離平均值的程度。如果方差大，就說明結(jié)果不穩(wěn)定，偏離平均值大；反之則小。而標(biāo)準(zhǔn)差最初是中學(xué)階段才開始接觸，當(dāng)時(shí)我們對(duì)其的了解是“方差的算術(shù)平方根”，與方差的作用一樣，描述統(tǒng)計(jì)結(jié)果的波動(dòng)情況。

那么，現(xiàn)在，就我們目前的學(xué)習(xí)階段而言，方差是否仍然具有這樣的作用和特點(diǎn)呢？其求算方法和定義是否還與我們之前了解的相差無(wú)幾呢？

答案是肯定的。我們定義：

若隨機(jī)變量 $X%5E2$ 的數(shù)學(xué)期望存在，則稱 $%5BX-E(X)%5D%5E2$ 的數(shù)學(xué)期望：

$E%5BX-E(X)%5D%5E2$

為隨機(jī)變量X的方差，記為：

$D(X)%3D%5Ctext%20%7BVar%7D(X)%3DE%5BX-E(X)%5D%5E2$

（不同教材當(dāng)中有不同的記法，以后我們采用第二種記法~）

并稱方差的算術(shù)平方根 $%5Csqrt%7B%5Ctext%20%7BVar%7D(X)%7D%20$ 為隨機(jī)變量的標(biāo)準(zhǔn)差，記為 $%5Csigma%20(X)$ 。

接下來(lái)，我們按例要討論一下方差和標(biāo)準(zhǔn)差的性質(zhì)。這里要注意的是，在以下討論當(dāng)中，我們總是假設(shè)所需要的和提到的數(shù)學(xué)期望都是存在的。

首先，依據(jù)定義，我們知道方差的數(shù)值一定都是非負(fù)數(shù)。同時(shí)，利用數(shù)學(xué)期望的性質(zhì)，我們能夠推導(dǎo)出：

$%5Ctext%20%7BVar%7D(X)%3DE%5BX-E(X)%5D%5E2%3DE(X%5E2)-2E(X)E(X)%2BE%5E2(X)%3DE(X%5E2)-E%5E2(X)$

這是方差最常使用的計(jì)算公式，它表明，任何隨機(jī)變量X的方差都是 $X%5E2$ 的數(shù)學(xué)期望減去X的數(shù)學(xué)期望的平方。

同時(shí)，基于定義，我們又能夠得到：

（1） $%5Ctext%20%7BVar%7D(c)%3D0$

（2） $%5Ctext%20%7BVar%7D(aX%2Bb)%3Da%5E2%5Ctext%20%7BVar%7D(X)$

最后，我們來(lái)介紹一個(gè)對(duì)于概率論而言十分重要的不等式——Chebyshev不等式。在之后的大數(shù)定律和中心極限定理部分，我們會(huì)深刻認(rèn)識(shí)到它的重要作用。

我們上面提到了，方差是用來(lái)描述數(shù)據(jù)波動(dòng)情況的數(shù)字特征。那么，我們自然想到，方差到底是如何具體體現(xiàn)它的這一功能的呢？

想要弄清楚這一點(diǎn)，我們就得考慮事件 $%5C%7B%7CX-E(X)%7C%5Cge%20%5Cvarepsilon%20%5C%7D$ 。這個(gè)事件的實(shí)際含義是，隨機(jī)變量X偏離數(shù)學(xué)期望E(X)的偏差大于數(shù)值ε。我們稱該事件為大偏差事件，簡(jiǎn)稱大偏差。

按照我們的基本想法，所謂波動(dòng)大，一個(gè)是ε大；換句話說，就是隨機(jī)變量與數(shù)學(xué)期望的數(shù)值差的絕對(duì)值的下界要大。另一方面，如果我們想要衡量波動(dòng)到底大到什么程度，就要看大偏差的概率 $P(%7CX-E(X)%7C%5Cge%20%5Cvarepsilon%20)$ 。很顯然，如果大偏差出現(xiàn)的概率很小，那么總體數(shù)據(jù)的波動(dòng)情況也并不劇烈。

我們以離散型隨機(jī)變量為例，考慮大偏差的概率與方差之間的聯(lián)系。

按照定義，方差應(yīng)該等于：

$%5Cbegin%20%7Bequation%7D%0A%5Cbegin%20%7Baligned%7D%0AP(%7CX-E(X)%7C%5Cge%20%5Cvarepsilon%20)%26%3D%5Csum_%7Bx_n%3A%7Cx_n-E(X)%7C%5Cge%5Cvarepsilon%20%7D%20p(x_n)%5C%5C%0A%26%5Cle%20%5Csum_%7Bx_n%3A%7Cx_n-E(X)%7C%5Cge%5Cvarepsilon%20%7D%20p(x_n)%5Cfrac%7B%5Bx_n-E(X)%5D%5E2%7D%7B%5Cvarepsilon%20%5E2%7D%20%5C%5C%0A%26%5Cle%20%5Cfrac%7B1%7D%7B%5Cvarepsilon%20%5E2%7D%20%5Csum_%7Bn%3D1%7D%5E%E2%88%9E%20p(x_n)%5Bx_n-E(X)%5D%5E2%20%5C%5C%0A%26%3D%5Cfrac%7B%5Ctext%20%7BVar%7D(X)%7D%7B%5Cvarepsilon%20%5E2%7D%20%0A%5Cend%20%7Baligned%7D%0A%5Cend%20%7Bequation%7D$

對(duì)于連續(xù)性隨機(jī)變量，證明也類似。

這就是Chebyshev不等式。它的含義是，大偏差發(fā)生的概率的上界與隨機(jī)變量的方差成正比，因此方差越大，大偏差出現(xiàn)的概率也越大。

基于Chebyshev不等式，我們可以說明以下事實(shí)：

若隨機(jī)變量X的方差存在，則其值為0的充要條件為X幾乎處處為某個(gè)常數(shù)a，即P(X=a)=1。

我們以離散型隨機(jī)變量為例說明充分性，對(duì)于連續(xù)型隨機(jī)變量而言利用Lebesgue定理就可以直接說明。

對(duì)于離散型隨機(jī)變量X，其方差為：

$%5Ctext%20%7BVar%7D(X)%3D%5Csum_%7Bn%3D1%7D%5E%E2%88%9E%20%5Bx_n-E(X)%5D%5E2%20p(x_n)$

因?yàn)槠鋷缀跆幪帪槟硞€(gè)常數(shù)a，所以有：

$%5Cbegin%20%7Bequation%7D%0A%5Cbegin%20%7Baligned%7D%0A%5Ctext%20%7BVar%7D(X)%26%3D%5Csum_%7Bn%3D1%7D%5E%E2%88%9E%20%5Bx_n-E(X)%5D%5E2%20p(x_n)%5C%5C%0A%26%3D%5Csum_%7Bx_i%3Ax_i%E2%89%A0a%7D%20%5Bx_i-E(X)%5D%5E2%20p(x_i)%5C%5C%0A%26%5Cle%20%5Cmax_%7Bx_i%3Ax_i%E2%89%A0a%7D%20%5C%7B%5Bx_i-E(X)%5D%5E2%5C%7D%5Csum_%7Bx_i%3Ax_i%E2%89%A0a%7D%20p(x_i)%5C%5C%0A%26%3D0%5Cquad%20%5Cbigg%20(a%3DE(X)%EF%BC%8C%5Csum_%7Bx_i%3Ax_i%E2%89%A0a%7D%20p(x_i)%5Crightarrow%200%5Cbigg)%0A%5Cend%20%7Baligned%7D%0A%5Cend%20%7Bequation%7D$

（對(duì)于連續(xù)型隨機(jī)變量而言，由于其定義域是一個(gè)不可數(shù)集，因此我們可以很自然地使用Lebesgue測(cè)度的語(yǔ)言去定義和敘述“幾乎處處”這樣的描述。但是，對(duì)于離散型隨機(jī)變量而言，它的樣本空間為一個(gè)可數(shù)集，受限于可數(shù)集的特殊性，我們很難定義一個(gè)良的測(cè)度，去描述什么是“幾乎處處”。因此，這里我們只能給予一定的理解，給出我們認(rèn)為的對(duì)于離散型隨機(jī)變量的“幾乎處處”的條件。）

至于必要性，從待證分析，若要幾乎處處等于某一常數(shù)a（實(shí)際上就是數(shù)學(xué)期望E(X)），那么就應(yīng)該有：

$%5Cbegin%20%7Bequation%7D%0A%5Cbegin%20%7Baligned%7D%0A%5Csum_%7Bx_i%3Ax_i%E2%89%A0a%7D%20p(x_i)%3D0%26%5CLeftrightarrow%20P(%7CX-E(X)%7C%EF%BC%9E0)%3D0%5C%5C%0A%26%5CLeftrightarrow%20P(%7CX-E(X)%7C%3D0)%3D1%5C%5C%0A%5Cend%20%7Baligned%7D%0A%5Cend%20%7Bequation%7D$

即要證明：

$%5Cbegin%20%7Bequation%7D%0A%5Cbegin%20%7Baligned%7D%0AP(%7CX-E(X)%7C%EF%BC%9E0)%3D0%26%5CLeftrightarrow%20P%5Cbigg(%5Cbigcup_%7Bn%3D1%7D%5E%7B%E2%88%9E%7D%20%7CX-E(X)%7C%5Cge%20%5Cfrac%7B1%7D%7Bn%7D%20%5Cbigg)%3D0%5C%5C%0A%26%5CLeftrightarrow%20%5Csum_%7Bn%3D1%7D%5E%E2%88%9E%20P(%7CX-E(X)%7C%5Cge%20%5Cfrac%7B1%7D%20%7Bn%7D%20)%3D0%5C%5C%0A%5Cend%20%7Baligned%7D%0A%5Cend%20%7Bequation%7D$

由Chebyshev不等式，我們得到：

$%5Cbegin%20%7Bequation%7D%0A%5Cbegin%20%7Baligned%7D%0A%5Csum_%7Bn%3D1%7D%5E%E2%88%9E%20P(%7CX-E(X)%7C%26%5Cge%20%5Cfrac%7B1%7D%20%7Bn%7D%20)%5Cle%20%5Csum_%7Bn%3D1%7D%5E%E2%88%9E%20%5Cfrac%7B%5Ctext%20%7BVar%7D(X)%7D%20%7B(%5Cfrac%7B1%7D%20%7Bn%7D)%5E2%20%7D%20%5C%5C%0A%26%3D0%5Cquad%20%5Cbig(%5Ctext%20%7BVar%7D(X)%3D0%5Cbig)%0A%5Cend%20%7Baligned%7D%0A%5Cend%20%7Bequation%7D$

這樣，我們就證明了必要性，也就證明了結(jié)論。

理論上講，這一節(jié)的內(nèi)容到這里就該結(jié)束了……但是東西太少了感覺大家會(huì)看的不過癮（有水專欄的嫌疑……），所以，我準(zhǔn)備把后面的有關(guān)內(nèi)容挪到這里來(lái)給大家介紹一下~之后我們?cè)倩謴?fù)正常的順序和內(nèi)容~

Chapter? Two? 隨機(jī)變量及其分布

2.7??分布的其他特征數(shù)

2.7.1? k階矩

設(shè)X為隨機(jī)變量，k為正整數(shù)。如果以下數(shù)學(xué)期望：

$%5Cmu%20_k%3DE(X%5Ek)$

$%5Cnu%20_k%3DE%5BX-E(X)%5D%5Ek$

都存在，則稱 $%5Cmu%20_k$ 為X的k階原點(diǎn)矩；稱 $%5Cnu_k$ 為X的k階中心矩。

通過這個(gè)定義，我們可以直接說，X的數(shù)學(xué)期望就是它的一階原點(diǎn)矩，而其方差就是它的二階中心矩。我們還能知道，X的一階中心矩就是0。

對(duì)于矩，我們有一個(gè)基本性質(zhì)：

如果隨機(jī)變量X的k階矩存在，那么它的所有低于k階的矩都存在。

（命題1；只要考慮到 $%7CX%7C%5E%7Bk-1%7D%5Cle%20%7CX%7C%5Ek%2B1$ 即可。）

對(duì)于中心矩，我們通過直接的計(jì)算，利用數(shù)學(xué)期望的性質(zhì)，能夠得到：

$%5Cbegin%20%7Bequation%7D%0A%5Cbegin%20%7Baligned%7D%0A%5Cnu_k%26%3DE%5BX-E(X)%5D%5Ek%5C%5C%0A%26%3DE%5Cbigg(%5Csum_%7Bi%3D0%7D%5Ek%20%5Ctbinom%20%7Bk%7D%20%7Bi%7D%20X%0A%5Ei(-E(X))%5E%7Bn-i%7D%20%5Cbigg)%5C%5C%0A%26%3D%5Csum_%7Bi%3D0%7D%5Ek%20%5Cbinom%20%7Bk%7D%20%7Bi%7D%20(-E(X))%5E%7Bn-i%7D%20E(X%0A%5Ei)%5C%5C%0A%26%3D%5Csum_%7Bi%3D0%7D%5Ek%20%20%5Cbinom%20%7Bk%7D%20%7Bi%7D%20%5Cmu_i(-%5Cmu_1)%5E%7Bn-i%7D%0A%5Cend%20%7Baligned%7D%0A%5Cend%20%7Bequation%7D$

這就是中心矩與原點(diǎn)矩之間的聯(lián)系。

矩與數(shù)學(xué)期望、方差一樣，都是隨機(jī)變量的十分重要的數(shù)字特征。相較于我們接下來(lái)介紹的其他數(shù)字特征，矩的重要性更勝一籌，希望大家努力掌握！

2.7.3? 分位數(shù)

很多時(shí)候，我們所面臨的概率問題，最后多可能會(huì)歸結(jié)為求解方程：

$F(x_p)%3D%5Cint_%7B-%E2%88%9E%7D%5E%7Bx_p%7D%20p(x)%5Ctext%20dx%20%5Cle%20p%5Cquad(0%EF%BC%9Cp%EF%BC%9C1)$

的最大值解 $x_p$ 。這個(gè)數(shù)字的意義是某種分布下的隨機(jī)變量X的累計(jì)概率（也即分布函數(shù)）小于p時(shí)，X的最大取值，稱為下（側(cè)）p分位數(shù)。

這個(gè)數(shù)字特征的作用是，它可以用來(lái)準(zhǔn)確描述累計(jì)概率為p時(shí)X的位置。從而，我們可以看出隨機(jī)變量的實(shí)際分布趨勢(shì)。

我們最先接觸到也是最常接觸到的一個(gè)分位數(shù)，就是中位數(shù)。按照我們對(duì)分位數(shù)的定義以及對(duì)中位數(shù)的理解，不難得到，中位數(shù)實(shí)際上就是下0.5分位數(shù)。

我們?cè)谛W(xué)階段就接觸過了中位數(shù)的概念，與平均數(shù)的作用不同，它表征的是一組數(shù)據(jù)（或者是一個(gè)變量）的中間位置，從而能夠告訴我們這組數(shù)據(jù)的水平是什么樣的。

舉個(gè)例子，如果我們說一個(gè)班級(jí)某次考試的平均成績(jī)是90分，那么我們只能知道這個(gè)班級(jí)有一些高于90分的同學(xué)，還有一些低于90分。但是，如果我們說這個(gè)班級(jí)成績(jī)的中位數(shù)是90分，那么我們就可以說，這個(gè)班級(jí)至少有一半的同學(xué)成績(jī)高于90分。

這就是中位數(shù)的作用。其他分位數(shù)也是如此。

其他的系數(shù)應(yīng)用場(chǎng)合較少，我們?cè)诖寺赃^~

思考：

證明命題1；
試計(jì)算：

（1）設(shè)隨機(jī)變量X的分布函數(shù)為：

$%5Cbegin%20%7Bequation%7D%0AF(x)%3D%5Cbegin%20%7Bcases%7D%0A%5Cdisplaystyle%20%5Cfrac%7Be%5Ex%7D%7B2%7D%20%2C%26x%EF%BC%9C0%5C%5C%0A%5Cdisplaystyle%20%5Cfrac%7B1%7D%7B2%20%7D%20%2C%260%5Cle%20x%20%EF%BC%9C1%5C%5C%0A1-%5Cdisplaystyle%20%5Cfrac%7B1%7D%7B2%20%7D%20e%5E%7B-%5Cfrac%7B1%7D%7B2%20%7D(x-1)%7D%2C%26x%5Cge%201%0A%5Cend%20%7Bcases%7D%0A%5Cend%20%7Bequation%7D$

求Var(X)；

（2）設(shè)隨機(jī)變量X的概率密度函數(shù)為：

$%5Cbegin%20%7Bequation%7D%0Ap(x)%3D%5Cbegin%20%7Bcases%7D%0A1%2Bx%20%2C%20%26-1%EF%BC%9Cx%20%5Cle0%5C%5C%0A1-x%20%2C%260%20%EF%BC%9Cx%5Cle%201%5C%5C%0A0%2C%26x%EF%BC%9E%201%0A%5Cend%20%7Bcases%7D%0A%5Cend%20%7Bequation%7D$

求Var(3X+2)；

（3）設(shè)隨機(jī)變量X的分布函數(shù)為：

$F(x)%3D1-e%5E%7B-x%5E2%7D%5Cquad(x%EF%BC%9E0)$

求E(X)和Var(X)；
證明：

（1）對(duì)任意常數(shù)c≠E(X)，有：

$%5Ctext%20%7BVar%7D(X)%EF%BC%9CE(X-c)%5E2$

（2）設(shè)隨機(jī)變量X在[a,b]上取值，則：

$a%5Cle%20E(X)%5Cle%20b%EF%BC%8C%5Ctext%7BVar%7D(X)%5Cle%20%5Cbigg(%20%5Cfrac%7Bb-a%7D%7B2%7D%20%5Cbigg)%5E2$

（3）設(shè)隨機(jī)變量X取值為：

$x_1%5Cle%20x_2%5Cle%20%5Ccdots%20%5Cle%20x_n$

對(duì)應(yīng)的概率分別為：

$p_1%EF%BC%8Cp_2%EF%BC%8C%5Ccdots%20%EF%BC%8Cp_n%EF%BC%9B%5Csum_%7Bi%3D1%7D%5En%20p_i%3D1$

則：

$%5Ctext%7BVar%7D(X)%5Cle%20%5Cbigg(%20%5Cfrac%7Bx_n-x_1%7D%7B2%7D%20%5Cbigg)%5E2$

（4）設(shè)g(x)為隨機(jī)變量X取值集合上的非負(fù)不減函數(shù)，且E[g(X)]存在，則：

$%5Cforall%20%5Cvarepsilon%20%EF%BC%9E0%EF%BC%8CP(X%EF%BC%9E%5Cvarepsilon%20)%5Cle%20%5Cfrac%7BE%5Bg(X)%5D%7D%7Bg(%5Cvarepsilon%20)%7D%20$

（5）設(shè)X為非負(fù)隨機(jī)變量，a＞0。若 $E(e%5E%7BaX%7D)$ 存在，則：

$%5Cforall%20x%EF%BC%9E0%EF%BC%8CP(X%5Cge%20x)%5Cle%20%5Cfrac%7BE(e%5E%7BaX%7D)%7D%7Be%5E%7Bax%7D%7D%20$