原文鏈接：?http://tecdat.cn/?p=21557

原文出處：拓端數(shù)據(jù)部落公眾號(hào)

分段回歸( piecewise regression )，顧名思義，回歸式是“分段”擬合的。其靈活用于響應(yīng)變量隨自變量值的改變而存在多種響應(yīng)狀態(tài)的情況，二者間難以通過一種回歸模型預(yù)測或解釋時(shí)，不妨根據(jù)響應(yīng)狀態(tài)找到合適的斷點(diǎn)位置，然后將自變量劃分為有限的區(qū)間，并在不同區(qū)間內(nèi)分別構(gòu)建回歸描述二者關(guān)系。 分段回歸最簡單最常見的類型就是分段線性回歸( piecewise linear regression )，即各分段內(nèi)的局部回歸均為線性回歸。
本文我們?cè)噲D預(yù)測車輛的制動(dòng)距離，同時(shí)考慮到車輛的速度。

1. > summary(reg)

2. 


3. Call:

4. 


5. Residuals:

6. Min ? ? ?1Q ?Median ? ? ?3Q ? ? Max

7. -29.069 ?-9.525 ?-2.272 ? 9.215 ?43.201

8. 


9. Coefficients:

10. Estimate Std. Error t value Pr(>|t|)

11. (Intercept) -17.5791 ? ? 6.7584 ?-2.601 ? 0.0123 *

12. speed ? ? ? ? 3.9324 ? ? 0.4155 ? 9.464 1.49e-12 ***

13. ---

14. Signif. codes: ?0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

15. 


16. Residual standard error: 15.38 on 48 degrees of freedom

17. Multiple R-squared: ?0.6511, Adjusted R-squared: ?0.6438

18. F-statistic: 89.57 on 1 and 48 DF, ?p-value: 1.49e-12

要手動(dòng)進(jìn)行多個(gè)預(yù)測，可以使用以下代碼（循環(huán)允許對(duì)多個(gè)值進(jìn)行預(yù)測）

1. for(x in seq(3,30)){

2. 


3. + Yx=b0+b1*x

4. + V=vcov(reg)

5. + IC1=Yx+c(-1,+1)*1.96*sqrt(Vx)

6. + s=summary(reg)$sigma

7. + IC2=Yx+c(-1,+1)*1.96*s

然后在一個(gè)隨機(jī)選擇的20個(gè)觀測值的基礎(chǔ)上進(jìn)行線性回歸。

lm(dist~speed,data=cars[I,])

目的是使觀測值的數(shù)量對(duì)回歸質(zhì)量的影響可視化。

1. 


2. Residuals:

3. Min ? ? ?1Q ?Median ? ? ?3Q ? ? Max

4. -23.529 ?-7.998 ?-5.394 ?11.634 ?39.348

5. 


6. Coefficients:

7. Estimate Std. Error t value Pr(>|t|)

8. (Intercept) -20.7408 ? ? 9.4639 ?-2.192 ? 0.0418 *

9. speed ? ? ? ? 4.2247 ? ? 0.6129 ? 6.893 1.91e-06 ***

10. ---

11. Signif. codes: ?0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

12. 


13. Residual standard error: 16.62 on 18 degrees of freedom

14. Multiple R-squared: ?0.7252, Adjusted R-squared: ? 0.71

15. F-statistic: 47.51 on 1 and 18 DF, ?p-value: 1.91e-06

16. 


17. > for(x in seq(3,30,by=.25)){

18. 


19. + ? Yx=b0+b1*x

20. + ? V=vcov(reg)

21. + ? IC=Yx+c(-1,+1)*1.96*sqrt(Vx)

22. + ? points(x,Yx,pch=19

可以使用R函數(shù)進(jìn)行預(yù)測，具有置信區(qū)間

1. fit ? ? ?lwr ? ? ? upr

2. 1 42.62976 34.75450 ?50.50502

3. 2 84.87677 68.92746 100.82607

4. > predict(reg,

5. fit ? ? ?lwr ? ? ?upr

6. 1 42.62976 6.836077 78.42344

當(dāng)有多個(gè)解釋變量時(shí)，“可視化”回歸就變得更加復(fù)雜了

1. 


2. > image(VX2,VX3,VY)

3. > contour(VX2,VX3,VY,add=TRUE)

這是一個(gè)回歸三維曲面圖

> persp(VX2,VX3,VY,ticktype=detailed)

我們將更詳細(xì)地討論這一點(diǎn)，但從這個(gè)線性模型中可以很容易地進(jìn)行非線性回歸。我們從距離對(duì)數(shù)的線性模型開始

1. 


2. > abline(reg1)

因?yàn)槲覀冊(cè)谶@里沒有任何關(guān)于距離的預(yù)測，只是關(guān)于它的對(duì)數(shù)......但我們稍后會(huì)討論它

lm(sqrt(dist)~speed,data=cars)

還可以轉(zhuǎn)換解釋變量。你可以設(shè)置斷點(diǎn)(閾值)。我們從一個(gè)指示變量開始

1. 


2. Residuals:

3. Min ? ? ?1Q ?Median ? ? ?3Q ? ? Max

4. -29.472 ?-9.559 ?-2.088 ? 7.456 ?44.412

5. 


6. Coefficients:

7. Estimate Std. Error t value Pr(>|t|)

8. (Intercept) ? ? ?-17.2964 ? ? 6.7709 ?-2.555 ? 0.0139 *

9. speed ? ? ? ? ? ? ?4.3140 ? ? 0.5762 ? 7.487 ?1.5e-09 ***

10. speed > s TRUE ?-7.5116 ? ? 7.8511 ?-0.957 ? 0.3436

11. ---

12. Signif. codes: ?0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

13. 


14. Residual standard error: 15.39 on 47 degrees of freedom

15. Multiple R-squared: ?0.6577, Adjusted R-squared: ?0.6432

16. F-statistic: 45.16 on 2 and 47 DF, ?p-value: 1.141e-11

但是你也可以把函數(shù)放在一個(gè)分段的線性模型里，同時(shí)保持連續(xù)性。

1. 


2. Residuals:

3. Min ? ? ?1Q ?Median ? ? ?3Q ? ? Max

4. -29.502 ?-9.513 ?-2.413 ? 5.195 ?45.391

5. 


6. Coefficients:

7. Estimate Std. Error t value Pr(>|t|)

8. (Intercept) ? ? ? ? ?-7.6519 ? ?10.6254 ?-0.720 ?0.47500

9. speed ? ? ? ? ? ? ? ? 3.0186 ? ? 0.8627 ? 3.499 ?0.00103 **

10. speed - s ?1.7562 ? ? 1.4551 ? 1.207 ?0.23350

11. ---

12. Signif. codes: ?0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

13. 


14. Residual standard error: 15.31 on 47 degrees of freedom

15. Multiple R-squared: ?0.6616, Adjusted R-squared: ?0.6472

16. F-statistic: 45.94 on 2 and 47 DF, ?p-value: 8.761e-12

在這里，我們可以想象幾個(gè)分段

1. posi=function(x) ifelse(x>0,x,0)

2. 


3. 


4. Coefficients:

5. Estimate Std. Error t value Pr(>|t|)

6. (Intercept) ? ? ? ? ? -7.6305 ? ?16.2941 ?-0.468 ? 0.6418

7. speed ? ? ? ? ? ? ? ? ?3.0630 ? ? 1.8238 ? 1.679 ? 0.0998 .

8. positive(speed - s1) ? 0.2087 ? ? 2.2453 ? 0.093 ? 0.9263

9. positive(speed - s2) ? 4.2812 ? ? 2.2843 ? 1.874 ? 0.0673 .

10. ---

11. Signif. codes: ?0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

12. 


13. Residual standard error: 15 on 46 degrees of freedom

14. Multiple R-squared: ?0.6821, Adjusted R-squared: ?0.6613

15. F-statistic: 32.89 on 3 and 46 DF, ?p-value: 1.643e-11

正如目前所看到的，后兩個(gè)系數(shù)的顯著性測試并不意味著斜率為零，而是與左側(cè)區(qū)域（在兩個(gè)閾值之前）的斜率顯著不同。

最受歡迎的見解

1.R語言多元Logistic邏輯回歸 應(yīng)用案例

2.面板平滑轉(zhuǎn)移回歸(PSTR)分析案例實(shí)現(xiàn)

3.matlab中的偏最小二乘回歸（PLSR）和主成分回歸（PCR）

4.R語言泊松Poisson回歸模型分析案例

5.R語言回歸中的Hosmer-Lemeshow擬合優(yōu)度檢驗(yàn)

6.r語言中對(duì)LASSO回歸，Ridge嶺回歸和Elastic Net模型實(shí)現(xiàn)

7.在R語言中實(shí)現(xiàn)Logistic邏輯回歸

8.python用線性回歸預(yù)測股票價(jià)格

9.R語言如何在生存分析與Cox回歸中計(jì)算IDI，NRI指標(biāo)