原文鏈接：http://tecdat.cn/?p=21602?

原文出處：拓端數(shù)據(jù)部落公眾號

正則化(regularization)

正則化路徑是在正則化參數(shù)lambda的值網(wǎng)格上計算套索LASSO或彈性網(wǎng)路懲罰的正則化路徑。該算法速度快，可以利用輸入矩陣x中的稀疏性，擬合線性、logistic和多項式、poisson和Cox回歸模型?？梢酝ㄟ^擬合模型進行各種預(yù)測。它還可以擬合多元線性回歸?！?/p>

例子

加載數(shù)據(jù)

這里加載了一個高斯(連續(xù)Y)的例子。

初始嶺回歸

執(zhí)行k-折交叉驗證?.

這個初始過程給出了基于10折交叉驗證選擇的最佳嶺回歸模型的一組系數(shù)，使用平方誤差度量

作為模型性能度量。
KNNL和Hadi中提到的另一種選擇lambda的方法是選擇最小的lambda，這樣系數(shù)的軌跡是穩(wěn)定的，VIF變得足夠小。在這種情況下，VIF的定義必須包括懲罰因子lambda，這在Hadi的p295和knll的p436中有說明。

是標(biāo)準(zhǔn)化的協(xié)變量矩陣.?

是原始非標(biāo)準(zhǔn)化協(xié)變量的相關(guān)矩陣?

. 該計算可定義如下。

自適應(yīng)LASSO

那個懲罰系數(shù)參數(shù)允許指定系數(shù)特定的懲罰級別。這里我們使用自適應(yīng)LASSO懲罰，即最佳嶺系數(shù)絕對值的逆。

最終模型Rsquare

交叉驗證測試集Rsquare

多項式例子

?

最終模型正確分類率

交叉驗證測試集正確分類率

二元邏輯回歸示例

?繪制roc曲線?

交叉驗證測試集AUC

最受歡迎的見解

1.R語言多元Logistic邏輯回歸 應(yīng)用案例

2.面板平滑轉(zhuǎn)移回歸(PSTR)分析案例實現(xiàn)

3.matlab中的偏最小二乘回歸（PLSR）和主成分回歸（PCR）

4.R語言泊松Poisson回歸模型分析案例

5.R語言回歸中的Hosmer-Lemeshow擬合優(yōu)度檢驗

6.r語言中對LASSO回歸，Ridge嶺回歸和Elastic Net模型實現(xiàn)

7.在R語言中實現(xiàn)Logistic邏輯回歸

8.python用線性回歸預(yù)測股票價格

9.R語言如何在生存分析與Cox回歸中計算IDI，NRI指標(biāo)