動機(jī)：我們想計(jì)算某個隨機(jī)變量X的各階矩，比如EX，varX。但是X本身很復(fù)雜。一種簡化的思想是：把X條件在某個東西上。比如說，X是某個受Y控制的隨機(jī)過程，條件于某一條Y軌道，X就清楚了。問題來了：如果我們知道X|Y，如何求X的各階矩？

對于期望EX，我們有l(wèi)aw of total expectation：EX=E(E[X|Y])。

對于方差varX，我們期望varX與var[X|Y]之間的聯(lián)系，但這并不是簡單的varX=Evar[X|Y]，而是要多出一項(xiàng)E與var的交換項(xiàng)。具體來說有l(wèi)aw of total variance：varX=Evar[X|Y]+varE[X|Y]。可以這樣理解：X條件上Y之后，信息增多，方差var[X|Y]比varX小。（注意varE[X|Y]是一個隨機(jī)變量的方差，是非負(fù)的）

注意，條件方差本身是完全按照條件期望定義的，即把方差定義中的全部期望換成條件期望：var[X|Y]=E[(X-E[X|Y])^2|Y]。

對于協(xié)方差，我們有l(wèi)aw of total covariance，類似地是E與cov的交換：cov(X,Y)=Ecov[X,Y|Z]+cov(E[X|Z],E[Y|Z])。

對于更高階的定理，首先我們定義累積量。累積量是另一種形式的矩，按照對數(shù)生成函數(shù)定義：

把這個定義式展開可以得到用中心矩表示的累積量：

累積量的好處（相比于其他類型的矩）在于，它是一個可加量。

有一個把原點(diǎn)矩用累積量表示出來的圖形方法（摘自kardar的統(tǒng)計(jì)力學(xué)）：

這就很舒服了，不用計(jì)算，畫畫圖就能得到系數(shù)。

為了推廣協(xié)方差，我們需要定義聯(lián)合累積量。

這樣我們就有最一般的law of total cumulance：

具體算起來跟前面的圖示是類似的方法：

這東西想想也知道基本是用不到的...不過它提供了前面幾個公式的不同理解：并不是“交換”，而是“partition”。

題圖pid35831277.