p 值是什么？數(shù)據(jù)科學家用最簡單的方式告訴你
即使是沒有任何統(tǒng)計學基礎(chǔ)的讀者朋友可能也聽說過「p 值」，但是鮮有文章能夠清楚解釋 p 值是什么，以及 p 值在統(tǒng)計學中的作用。本文是 TowardDataScience 的一篇博文，作者條理清楚地解釋了 p 值的相關(guān)內(nèi)容，并給出了一個簡單的例子，適合讀者參考。
那時我對 p 值、假設(shè)檢驗甚至統(tǒng)計顯著一無所知。
直到進入數(shù)據(jù)科學領(lǐng)域后，我終于意識到了 p 值的含義，以及在某些實驗中，p 值是如何成為決策工具的一部分的。
因此，我決定在這篇文章中解釋什么是 p 值以及如何在假設(shè)檢驗中使用 p 值。希望能幫你更好、更直觀地理解 p 值。
本文共分四個部分，從假設(shè)檢驗到理解 p 值，以及根據(jù) p 值指導我們的決策過程。我強烈建議你仔細閱讀全文，以便詳細地了解 p 值：
1、假設(shè)檢驗；
2、正態(tài)分布；
3、什么是 p 值；
4、統(tǒng)計顯著性。
在討論 p 值的意義之前，我們先理解一下假設(shè)檢驗。在假設(shè)檢驗中，常用 p 值確定結(jié)果的統(tǒng)計顯著性。
我們的最終目標是確定結(jié)果的統(tǒng)計顯著性。而統(tǒng)計顯著性建立在這 3 個簡單概念之上：
假設(shè)檢驗
正態(tài)分布
p 值
假設(shè)檢驗是用來通過一組數(shù)據(jù)檢驗針對總體的聲明（零假設(shè)）有效性的。如果零假設(shè)不成立，我們就會相信備擇假設(shè)。
換句話說，我們需要提出聲明（零假設(shè)），并用樣本數(shù)據(jù)來檢驗聲明是否有效。如果聲明是無效的，就選擇備擇假設(shè)。就這么簡單。
而要知道聲明是否有效，就要用 p 值來衡量證據(jù)的強度，從而了解到它是否有統(tǒng)計顯著性。如果證據(jù)支持備擇假設(shè)，那就拒絕零假設(shè)并接受備擇假設(shè)。后面的章節(jié)中會解釋這些內(nèi)容。
我們舉個例子來更清晰地說明這一概念，這個例子會貫穿全文同時說明其他概念。
假設(shè)某個披薩店聲稱，他們的平均配送時間小于等于 30 分鐘，但你認為他們的配送時間不止 30 分鐘。所以你做了假設(shè)檢驗，對配送時間隨機采樣來檢驗這一說法：
零假設(shè)——平均配送時間小于等于 30 分鐘；
備擇假設(shè)——平均配送時間大于 30 分鐘。
這里的目標是確定樣本數(shù)據(jù)中的證據(jù)能更好地支持哪種假設(shè)（零假設(shè)或備擇假設(shè)）。
本例中用的是單尾檢驗，因為我們只想知道平均配送時間是否大于 30 分鐘。
因為配送時間小于等于 30 分鐘都是可以接受的，因此我們忽略另一個方向的可能性。這里想要檢驗的是平均配送時間是否會大于 30 分鐘。換句話說，我們想知道披薩店是否在某種角度上騙了我們。
假設(shè)檢驗的常用方法之一是 Z 檢驗。這里我們不討論細節(jié)，因為我們想要先理解表面的內(nèi)容，然后再深入。
正態(tài)分布
正態(tài)分布是用來觀察數(shù)據(jù)分布的概率密度函數(shù)。
正態(tài)分布有兩個參數(shù)——平均值（μ）和標準差（σ）。
均值是分布的集中趨勢。它決定了正態(tài)分布峰值的位置。標準差是衡量可變性的標準，它決定了均值到值的下降幅度。
正態(tài)分布通常和 68-95-99.7 規(guī)則（上圖所示）相關(guān)：
68% 的數(shù)據(jù)在平均值（μ）±1 個標準差（σ）內(nèi)；
95% 的數(shù)據(jù)在平均值（μ）±2 個標準差（σ）內(nèi)；
99.7% 的數(shù)據(jù)在平均值（μ）±3 個標準差（σ）內(nèi)。
還記得文章開頭說的發(fā)現(xiàn)希格斯玻色子的「5-sigma」閾值嗎？在科學家證實發(fā)現(xiàn)希格斯玻色子之前，5-sigma 約為數(shù)據(jù)的「99.9999426696856%」。設(shè)置這么嚴格的閾值是為了避免潛在的錯誤信號。
好了。現(xiàn)在你可能想知道「正態(tài)分布是如何應用在假設(shè)檢驗中的」。
因為是用 Z 檢驗進行假設(shè)檢驗的，因此要計算 Z 分數(shù)（用于檢驗統(tǒng)計量），這是數(shù)據(jù)點到平均值的標準偏差數(shù)。在本文的例子中，每個數(shù)據(jù)點都是收集到的披薩配送時間。
對每個披薩配送時間點計算 Z 分數(shù)，并繪制出標準正態(tài)分布曲線時，x 軸上的單位從分鐘變成了標準差單位，因為已經(jīng)通過計算（變量減去平均值再除以標準差，見上述公式）將變量標準化了。
標準正態(tài)分布曲線是很有用的，因為我們可以比較測試結(jié)果和在標準差中有標準單位的「正態(tài)」總體，特別是在變量的單位不同的情況下。
Z 分數(shù)可以告訴我們整個數(shù)據(jù)相對于總體平均值的位置。
我喜歡 Will Koehrsen 的說法——Z 分數(shù)越高或越低，結(jié)果就越不可能偶然發(fā)生，結(jié)果就越有可能有意義。
但多高（低）才足以說明結(jié)果是有意義的呢？
這就是解決這個難題的最后一片拼圖——p 值。根據(jù)實驗開始前設(shè)定的顯著水平（alpha）檢驗結(jié)果是否具有統(tǒng)計學意義。
與其用維基百科給出的定義來解釋 p 值，不如用文中的披薩配送時間為例來解釋它。
對披薩配送時間隨機采樣，目的是檢查平均配送時間是否大于 30 分鐘。如果最終的結(jié)果支持披薩店的說法（平均配送時間小于等于 30 分鐘），那就接受零假設(shè)。否則，就拒絕零假設(shè)。
因此，p 值的工作就是回答這個問題：
如果我生活在披薩配送時間小于等于 30 分鐘（零假設(shè)成立）的世界中，那我在真實世界中得到的證據(jù)有多令人驚訝？
p 值用數(shù)字（概率）回答了這一問題。
p 值越低，證據(jù)越令人驚訝，零假設(shè)越荒謬。
當零假設(shè)很荒謬的時候還能做什么？可以拒絕零假設(shè)并轉(zhuǎn)而選擇備擇假設(shè)。
如果 p 值低于之前定義的顯著水平（人們一般將它稱為 alpha，但我將它稱之為荒謬閾值——別問為什么，我只是覺得這樣更容易理解），那么就可以拒絕零假設(shè)。
現(xiàn)在我們理解了 p 值是什么意思。接下來把 p 值用到文中的例子中。
現(xiàn)在已經(jīng)抽樣得到了一些配送時間，計算后發(fā)現(xiàn)平均配送時間要長 10 分鐘，p 值為 0.03。
這意味著在披薩配送時間小于等于 30 分鐘（零假設(shè)成立）的世界中，由于隨機噪聲的影響，我們有 3% 的概率會看到披薩配送時間延長了至少 10 分鐘。
p 值越低，結(jié)果越有意義，因為它不太可能是由噪聲引起的。
大多數(shù)人對于 p 值都有一個常見的誤解：
p 值為 0.03 意味著有 3%（概率百分比）的結(jié)果是偶然決定的——這是錯誤的。
人們都想得到確切的答案（包括我），而這也是我在很長時間內(nèi)都對 p 值的解釋感到困惑的原因。
p 值不能證明任何事。這只是一種根據(jù)驚訝程度做出合理決策的基礎(chǔ)方法。Cassie Kozyrkov
我們是如何用 0.03 的 p 值來做出合理決策的（重點）：
想象我們生活在平均配送時間小于等于 30 分鐘的世界——因為我們信任披薩店（我們最初的信念）！
分析收集的配送時間樣本后，p 值為 0.03，低于 0.05 的置信水平（假設(shè)在實驗之前就設(shè)置好了），因此可以說結(jié)果是具有*統(tǒng)計顯著性*的。
因為我們一直相信披薩店可以在 30 分鐘內(nèi)配送披薩，現(xiàn)在需要考慮的是這一信念是否仍然有意義，因為結(jié)果告訴我們，披薩店沒能兌現(xiàn)承諾，而且結(jié)果是具有統(tǒng)計學意義的。
那該怎么辦？我們先試著用各種方法使初始信念（零假設(shè)）成立。但是因為披薩店的口碑越來越差，并且經(jīng)常找導致配送延遲的借口，我們自己都覺得再相信披薩店是很可笑的事情，因此，我們決定拒絕零假設(shè)。
最終，我們做出了不再從這家披薩店買披薩的合理決定。
到現(xiàn)在為止，你可能已經(jīng)注意到了，在上面的例子中，p 值不能證明或決定任何事。
在我看來，當結(jié)果有統(tǒng)計學意義時，p 值可以作為挑戰(zhàn)初始信念（零假設(shè)）的工具。在我們認為自己的信念荒謬（假設(shè) p 值表明結(jié)果具有統(tǒng)計顯著性）的那一刻，就放棄了自己的初始信念（拒絕零假設(shè)）并做出了更合理的決定。
這是最后一步，將所有內(nèi)容放在一起，并檢驗結(jié)果是否有統(tǒng)計學意義。
只有 p 值是不夠的，還要設(shè)定閾值（即顯著水平——alpha）。為了避免偏差，實驗開始之前就應該設(shè)定 alpha。如果觀測的 p 值小于 alpha，那就可以得出結(jié)論——結(jié)果具有統(tǒng)計顯著性。
經(jīng)驗法則一般將 alpha 設(shè)定為 0.05 或 0.01（同樣，值取決于你的問題）。
如上文所述，假設(shè)在實驗開始前將 alpha 設(shè)置為 0.05，得到的結(jié)果具有統(tǒng)計顯著性，因為 p 值（0.03）小于 alpha。
為便于參考，整個實驗的基本步驟如下：
陳述零假設(shè)；
陳述備擇假設(shè)；
確定 alpha 值；
找到和 alpha 水平相關(guān)的 Z 分數(shù)；
根據(jù)公式計算檢驗統(tǒng)計量；
如果檢驗統(tǒng)計量的值比 alpha 水平的 Z 分數(shù)小（或 p 值小于 alpha 值），拒絕零假設(shè)。否則，接受零假設(shè)。
原文鏈接：https://towardsdatascience.com/p-values-explained-by-data-scientist-f40a746cfc8
End.
來源：機器之心
想加入iDATA數(shù)據(jù)分析社群的小伙伴 添加微信：lovedata19 備注「社群」即可
