充分統(tǒng)計(jì)量：在T一定的情況下，X的其他（不影響T的）變動(dòng)不再影響參數(shù)。 為什么說(shuō)充分統(tǒng)計(jì)量包含所有關(guān)于參數(shù)a的信息呢？ 這里其實(shí)是限定了在Fisher式統(tǒng)計(jì)的語(yǔ)境下的。當(dāng)然，這樣的直覺(jué)可以推廣到更大意義上的信息。但是在建立理論之初，我們只有fisher的那一套，即參數(shù)估計(jì)和假設(shè)檢驗(yàn)。（不一定全部是fisher發(fā)明的，人名不重要，只是說(shuō)現(xiàn)代課本上最經(jīng)典的那一套。） 參數(shù)是密度函數(shù)族的指標(biāo)集，也就是編號(hào)。如果強(qiáng)令兩個(gè)不同參數(shù)對(duì)應(yīng)同一個(gè)分布，自然就無(wú)法根據(jù)抽樣來(lái)反推參數(shù)是兩個(gè)中的哪一個(gè)。所以所謂參數(shù)的信息，就是參數(shù)改變后分布整體也改變，所帶來(lái)的變化/不確定性。 注意這不是指方差，而是指參數(shù)不同時(shí)分布整體也不同。 如果已經(jīng)有了充分統(tǒng)計(jì)量，獲得了一部分信息，也就是確定了一部分樣本的情況，那么剩下的情況理應(yīng)包括其他關(guān)于a的信息。但如果無(wú)論a怎么變，除T以外的X不再隨T而變化，就相當(dāng)于是上述的無(wú)用編號(hào)，不再可通過(guò)剩余的X的情況去反推參數(shù)a。 此外我們還遇到一個(gè)問(wèn)題：既然x bar可估計(jì)均值參數(shù)a，為什么不閑著沒(méi)事給它加個(gè)東西呢？憑什么老師說(shuō)是這樣最好，那就是這樣最好？ 我來(lái)個(gè)x1-x2+x bar，不是也能估得挺好嗎？ 實(shí)際上因?yàn)榉讲钍羌有缘亩皇菧p性的，這樣估計(jì)會(huì)導(dǎo)致方差增大。因?yàn)榛静坏仁剑ɑ蛲?，本質(zhì)上是信息熵）只有在對(duì)各個(gè)樣本平均權(quán)重時(shí)達(dá)到極值（也可以說(shuō)是數(shù)學(xué)的對(duì)稱性原理導(dǎo)致的。另一種極值在權(quán)重極端偏向于一個(gè)樣本時(shí)，畢竟極值有極大極小兩種），而我們魔改的統(tǒng)計(jì)量的權(quán)重更偏向x1和x2，自然達(dá)不到極值。 是x bar而不是我們魔改的東西最好，不是老師說(shuō)的，而是完備性決定的。 如果一個(gè)估計(jì)量里面被偷偷夾帶了一個(gè)均值為0的東西，也就是夾帶噪聲，那么它就可以通過(guò)減去這個(gè)噪聲而改善性能。雖然方差不是減性的，但是如果我們把噪聲想象成具有獨(dú)立于估計(jì)量本體的另一部分的話，方差就暫時(shí)可減了，就像（x1+x2）-x2一樣?；蛘哒f(shuō)，也可以理解成減掉那部分多出來(lái)的權(quán)重。 這樣的噪聲，也就是均值為0但本體不為0的統(tǒng)計(jì)量，稱為0無(wú)偏倚估計(jì)。注意到如果方差為0則隨機(jī)變量為0，可以加深對(duì)這一現(xiàn)象的理解。 如果我們?cè)试S加工所有樣本來(lái)獲得統(tǒng)計(jì)量，那么諸如x1-x2這種東西就一直存在。 如果我們只允許打包利用一個(gè)統(tǒng)計(jì)量T，比如我們只剩下充分統(tǒng)計(jì)量，其他的次序、range或第一次抽樣等信息被狗吃了，那么就有望使得T的函數(shù)的期望為0時(shí)，這個(gè)函數(shù)的本體為0。畢竟我們已經(jīng)削減了很大一部分可用的函數(shù)，且注意到x2-xn之類的容易想象到的噪聲已經(jīng)不可能再出現(xiàn)，因?yàn)樗皇荰的函數(shù)，不是將T作為一個(gè)整體去利用的。 這就是完備性。完備性是不存在這種噪聲的一個(gè)充分條件。而且我的直覺(jué)讓我認(rèn)為這兩者的結(jié)合可能很緊密，甚至可能是充要的。 所以正確的講授方法是先講授充分統(tǒng)計(jì)量，然后講授0無(wú)偏倚噪聲的直覺(jué)，然后就能自然地引入完備性了。即便沒(méi)有basu定理，完備性本身也有一些統(tǒng)計(jì)價(jià)值。 完備性有不同的定義（陳希孺書(shū)），不過(guò)我想意思是差不多的。 參考書(shū)：statistical inference