樹回歸 概述

我們本章介紹 CART(Classification And Regression Trees， 分類回歸樹) 的樹構(gòu)建算法。該算法既可以用于分類還可以用于回歸。

樹回歸 場景

我們在第 8 章中介紹了線性回歸的一些強大的方法，但這些方法創(chuàng)建的模型需要擬合所有的樣本點（局部加權(quán)線性回歸除外）。當數(shù)據(jù)擁有眾多特征并且特征之間關(guān)系十分復(fù)雜時，構(gòu)建全局模型的想法就顯得太難了，也略顯笨拙。而且，實際生活中很多問題都是非線性的，不可能使用全局線性模型來擬合任何數(shù)據(jù)。

一種可行的方法是將數(shù)據(jù)集切分成很多份易建模的數(shù)據(jù)，然后利用我們的線性回歸技術(shù)來建模。如果首次切分后仍然難以擬合線性模型就繼續(xù)切分。在這種切分方式下，樹回歸和回歸法就相當有用。

除了我們在 第3章 中介紹的 決策樹算法，我們介紹一個新的叫做 CART(Classification And Regression Trees, 分類回歸樹) 的樹構(gòu)建算法。該算法既可以用于分類還可以用于回歸。

閱讀全文：http://ml.apachecn.org/mlia/tree-regress/