充分統(tǒng)計(jì)量含義與因子分解定理的應(yīng)用

2023-08-12 00:10 作者:蓮子下摸魚 0人讀過 | 我要投稿

充分統(tǒng)計(jì)量

僅為個(gè)人理解，謹(jǐn)慎參考，如有謬誤歡迎指出

直觀含義:

隨機(jī)抽取10件產(chǎn)品(產(chǎn)品不合格率為p)。(檢驗(yàn)?zāi)康?得到產(chǎn)品不合格率p)得到結(jié)果1:不合格，0:合格? $%5Cbegin%7Bpmatrix%7D%0A%20%201%26%201%20%26%200%20%26%200%20%26%200%5C%5C%0A%20%200%26%20%200%26%20%200%26%20%200%260%0A%5Cend%7Bpmatrix%7D$ 。匯報(bào)檢驗(yàn)結(jié)果有幾種選擇:

"第一件產(chǎn)品不合格，第二件產(chǎn)品不合格，第三件產(chǎn)品合格,.....,第十件產(chǎn)品合格。"顯然這種匯報(bào)方式雖然詳細(xì)，但是不夠精簡(jiǎn)，沒有簡(jiǎn)化數(shù)據(jù)。
"10件產(chǎn)品中共有2件不合格品。" $T_1%3D%5Csum_%7Bi%3D1%7D%5E%7B10%7Dx_i%20%3D2%20$ 。這樣報(bào)告既沒有損失重要的信息，又足夠簡(jiǎn)單，即滿足了充分統(tǒng)計(jì)量的要求。
"前兩件產(chǎn)品不合格", $T_1%20%3D%20x_1%2Bx_2%3D2$ ，這就損失了部分有關(guān)于不合格率p的重要信息，只匯報(bào)了前兩件，而后八件產(chǎn)品的情況不明，顯然不能作為充分統(tǒng)計(jì)量。

分布層面對(duì)充分統(tǒng)計(jì)量分析:

設(shè)總體分布函數(shù) $F_%7B%5Ctheta%7D%20(x)$ 已知，但參數(shù) $%7B%5Ccolor%7BRed%7D%20%5Ctheta%20%7D%20$ 未知。我們把確定分布的問題歸結(jié)為未知參數(shù) $%5Ctheta$ 的估計(jì)問題。由此，從總體得到一個(gè)樣本 $x%20%3D%20(x_1%2Cx_2%2C...%2Cx_n)$ ，得樣本分布函數(shù):

$F_%7B%5Ctheta%7D%20(x)%20%3D%20%5Cprod_%7Bi%3D1%7D%5En%20F_%7B%5Ctheta%7D%20(x_i)$
為了估計(jì) $%5Ctheta$ ，我們構(gòu)造一個(gè)統(tǒng)計(jì)量 $T(x)$ .如果統(tǒng)計(jì)量T的抽樣分布 $F_%5Ctheta%5ET(x)$ 和樣本分布 $F_%5Ctheta(x)$ 所含信息量一樣，則統(tǒng)計(jì)量T(精簡(jiǎn)匯報(bào))就可以代替樣本x(產(chǎn)品一個(gè)一個(gè)匯報(bào))從事統(tǒng)計(jì)推斷。
那么如何去證明統(tǒng)計(jì)量是充分統(tǒng)計(jì)量呢？

驗(yàn)證思路：

$p_%5Ctheta(x)$

統(tǒng)計(jì)量T取值為 t ，可以看做條件分布 $P_t%3DP%5Cleft%20%5C%7B%20X_1%3Dx_1%2CX_2%3Dx_2%2C...%2CX_n%3Dx_n)%7CT%3Dt%20%5Cright%20%5C%7D%20$ 。

設(shè)想:

如果 $P_t$ 經(jīng)計(jì)算得到結(jié)果，會(huì)受 $%5Ctheta$ 影響(含有關(guān)于 $%5Ctheta$ 的信息)。這就反向說明統(tǒng)計(jì)量 $T(x)$ ，并沒有完全包含 $%5Ctheta$ 的信息，它不夠充分。
如果 $P_t$ 最后結(jié)果是不含 $%5Ctheta$ 的一個(gè)常數(shù)。則說明統(tǒng)計(jì)量 $T(x)$ 具有充分性。

綜上所述:證明統(tǒng)計(jì)量 $T(x)$ 是否具有充分性，其關(guān)鍵就是證明 $P%5Cleft%20%5C%7B%20X_1%3Dx_1%2CX_2%3Dx_2%2C...%2CX_n%3Dx_n)%7CT%3Dt%20%5Cright%20%5C%7D%20$ 得到的結(jié)果是否與 $%5Ctheta$ 有關(guān)。

例:我們使用一個(gè)服從兩點(diǎn)分布的總體 $X%5Csim%20B(1%2Cp)$ .從中取出樣本量為n(n>=2)的樣本 $x_1%2Cx_2%2C...%2Cx_n$ .檢驗(yàn)兩個(gè)統(tǒng)計(jì)量 $T_1%20%3D%20%5Csum_%7Bi%3D1%7D%5E%7Bn%7D%20x_i%20%2CT_2%3Dx_1%2Bx_2$ 。

首先，兩點(diǎn)分布的分布函數(shù) $(x%3D0%2C1)P(X%20%3D%20x)%3Dp%5Ex(1-p)%5E%7B1-x%7D$

由此可得，樣本的聯(lián)合分布 $P(X_1%3Dx_1%2CX_2%3Dx2%2C...%2CX_n%3Dx_n)%3Dp%5E%7B%5Csum_%7Bi%3D1%7D%5Enx_i%7D(1-p)%5E%7Bn-%5Csum_%7Bi%3D1%7D%5Enx_i%7D$
第二統(tǒng)計(jì)量 $T_1(x)%3D%5Csum_%7Bi%3D1%7D%5En%20x_i$ 的分布，即為(n重伯努利試驗(yàn))服從二項(xiàng)分布 $B(n%2Cp)$

得統(tǒng)計(jì)量 $T_1(x)$ 的分布 $P(T_1(x)%3Dt)%3D%5Cbegin%7Bpmatrix%7D%0A%20n%5C%5Ct%0A%5Cend%7Bpmatrix%7D%0Ap%5Et(1-p)%5E%7Bn-t%7D$
最后,再 $T_1%3Dt$ 的條件下，樣本的條件分布為:

$P(X_1%3Dx_1%2CX_2%3Dx_2%2C..%2CX_n%3Dx_n%7CT%3Dt)$

$%3D%5Cfrac%7BP(X_1%3Dx_1%2C...%2CX_n%3Dx_n%2CT_1%3Dt)%7D%7BP(T_1%3Dt)%7D%20$

$%3D%5Cfrac%7BP(X_1%3Dx_1%2C...%2CX_%7Bn-1%7D%3Dx_%7Bn-1%7D%2CX_n%3Dt-%5Csum_%7Bi%3D1%7D%5E%7Bn-1%7Dx_i%20)%7D%7B%5Cbegin%7Bpmatrix%7D%0A%20n%5C%5Ct%0A%5Cend%7Bpmatrix%7D%0Ap%5Et(1-p)%5E%7Bn-t%7D%7D%20$

$%3D$ $%5Cfrac%7Bp%5Et(1-p)%5E%7Bn-t%7D%7D%7B%7B%5Cbegin%7Bpmatrix%7D%0A%20n%5C%5Ct%0A%5Cend%7Bpmatrix%7D%0Ap%5Et(1-p)%5E%7Bn-t%7D%7D%20%7D%20%3D(C_n%5Et)%5E%7B-1%7D$
其中計(jì)算過程

$P(X_1%3Dx_1%2C...%2CX_%7Bn-1%7D%3Dx_%7Bn-1%7D%2CX_n%3Dt-%5Csum_%7Bi%3D1%7D%5E%7Bn-1%7Dx_i%20)$

$%3Dp%5E%7B%5Csum_%7Bi%3D1%7D%5E%7Bn-1%7D%20x_i%7D(1-p)%5E%7Bn-1-%5Csum_%7Bi%3D1%7D%5E%7Bn-1%7Dx_i%20%7Dp%5E%7Bt-%5Csum_%7Bi%3D1%7D%5E%7Bn-1%7Dx_i%20%7D(1-p)%5E%7B1-t%2B%5Csum_%7Bi%3D1%7D%5E%7Bn-1%7Dx_i%20%7D%0A$

$%3Dp%5Et(1-p)%5E%7Bn-t%7D$
這樣的結(jié)果表面，條件分布的結(jié)果與 $p$ 無關(guān)，所以統(tǒng)計(jì)量 $T_1(x)%3D%5Csum_%7Bi%3D1%7D%5En%20x_i$ 的充分性得到驗(yàn)證， $T_2%3Dx_1%2Bx_2$ 就不在這里驗(yàn)證了。

關(guān)于充分統(tǒng)計(jì)量的定義:

有一個(gè)分布族F={X}

在給定T=t的情況下，樣本x的條件分布與總體分布X無關(guān)，則稱T為此分布族F的充分統(tǒng)計(jì)量.

在給定T=t的情況下，樣本x的條件分布與參數(shù) $%5Ctheta$ 無關(guān)，則稱T為參數(shù) $%5Ctheta$ 的充分統(tǒng)計(jì)量.

所以上述得到驗(yàn)證的統(tǒng)計(jì)量T1既可以稱為兩點(diǎn)分布 $B(1%2Cp)$ 的充分統(tǒng)計(jì)量，也可以成為成功概率 $p$ 的充分統(tǒng)計(jì)量.

因子分解定理簡(jiǎn)單說明:

若存在一個(gè)充分統(tǒng)計(jì)量 $T%3DT(x)$ ,那么得到一個(gè)樣本，樣本分布 $p_%5Ctheta(x)$ 一定可以分解為兩個(gè)因子的乘積，其中一個(gè)因子與參數(shù) $%5Ctheta$ 無關(guān)，僅僅與樣本x有關(guān)；另一個(gè)因子與參數(shù) $%5Ctheta$ 有關(guān)，但是 $%5Ctheta$ 與樣本x的關(guān)系，一定要通過充分統(tǒng)計(jì)了 $T(x)$ 表現(xiàn)出來。