多元線性回歸模型的注意事項(xiàng)，天行健六西格瑪顧問總結(jié)如下：

一、指標(biāo)的數(shù)量化

一般要求因變量Y為連續(xù)性變量，自變量X可以為連續(xù)性變量，也可以為分類型變量。當(dāng)自變量為連續(xù)性變量的時(shí)候，如果與因變量不呈線性關(guān)系，可以進(jìn)行變量的變換。為分類變量時(shí)，可以設(shè)置啞變量等。

二、樣本含量

如果說自變量比較多，樣本含量n相對(duì)于m不是很大的時(shí)候，建立的回歸方程會(huì)很不穩(wěn)定。有學(xué)者認(rèn)為n至少是自變量個(gè)數(shù)的5~10倍。Green(1991)提出使用經(jīng)驗(yàn)公式n≥8(1-Re2)/Re2+(m-1)估計(jì)樣本含量。其中Re2是多元回歸預(yù)期的決定系數(shù)。

三、逐步回歸

在自變量比較多的情況下，適合逐步法篩選變量。但是，“最優(yōu)”未必是最好的，該方法所舍棄的變量也許是自己非常想研究的變量，同時(shí)被舍棄的變量也不一定沒有統(tǒng)計(jì)學(xué)意義，有可能受多重共線性影響，掩蓋了其統(tǒng)計(jì)學(xué)意義。因此，我們?cè)趹?yīng)用時(shí)一定要結(jié)合問題本身以及專業(yè)知識(shí)來使用。

四、多重共線性

一些自變量之間存在較強(qiáng)的線性關(guān)系，同時(shí)在現(xiàn)實(shí)應(yīng)用當(dāng)中也是比較普遍的，如果這種關(guān)系強(qiáng)度很高，會(huì)導(dǎo)致最小二乘法失效，引起以下問題：

1.參數(shù)估計(jì)值標(biāo)準(zhǔn)誤很大，t值很小。

2.回歸方程不穩(wěn)定，增加或減少幾個(gè)觀察值，參數(shù)估計(jì)值會(huì)產(chǎn)生很大的變化。

3.t檢驗(yàn)結(jié)果不準(zhǔn)確，可能會(huì)舍棄重要變量。

4.參數(shù)估計(jì)值的正負(fù)號(hào)與實(shí)際不一樣。

解決方案：

1.在自變量中剔除某些造成共線性的變量

2.對(duì)自變量進(jìn)行主成分分析

3.使用嶺回歸分析

4.使用Lasso對(duì)自變量降維

5.使用偏最小二乘回歸法

6.使用逐步回歸法

五、偏相關(guān)系數(shù)

在一組變量中，任意兩個(gè)變量在其他變量固定不變時(shí)，他們之間相關(guān)的密切程度與方向。在做多元回歸分析時(shí)，可以借助此系數(shù)，得到在控制不同自變量時(shí)因變量與任意一自變量之間的關(guān)系。

六、變量間的交互作用

回歸方程中是否要考慮交互作用，研究者需根據(jù)自身的專業(yè)知識(shí)來判斷。為了檢驗(yàn)兩個(gè)自變量是否有交互作用，最簡(jiǎn)單的方法就是在回歸方程中加入其乘積項(xiàng)，如果經(jīng)過假設(shè)檢驗(yàn)之后，具有統(tǒng)計(jì)學(xué)意義，那么就存在交互作用。