在前面的章節(jié)中我們已經(jīng)了解到了LASSO的基本問(wèn)題和求解形式，以及對(duì)目標(biāo)函數(shù)和正則項(xiàng)分別的一般化問(wèn)題。

在第五章里，我們主要回顧一些優(yōu)化方法的基礎(chǔ)。首先先介紹了凸優(yōu)化的相關(guān)概念，然后介紹了一些常見(jiàn)的基本算法，如梯度下降及其變形，坐標(biāo)下降等。最后對(duì)biconvex的問(wèn)題給出了一些解決方案。