2. 為什么需要 TensorFlow 等庫

深度學(xué)習(xí)通常意味著建立具有很多層的大規(guī)模的神經(jīng)網(wǎng)絡(luò)。

除了輸入X，函數(shù)還使用一系列參數(shù)，其中包括標(biāo)量值、向量以及最昂貴的矩陣和高階張量。

在訓(xùn)練網(wǎng)絡(luò)之前，需要定義一個(gè)代價(jià)函數(shù)，常見的代價(jià)函數(shù)包括回歸問題的方差以及分類時(shí)候的交叉熵。

訓(xùn)練時(shí)，需要連續(xù)的將多批新輸入投入網(wǎng)絡(luò)，對(duì)所有的參數(shù)求導(dǎo)后，代入代價(jià)函數(shù)，從而更新整個(gè)網(wǎng)絡(luò)模型。

這個(gè)過程中有兩個(gè)主要的問題：1. 較大的數(shù)字或者張量在一起相乘百萬次的處理，使得整個(gè)模型代價(jià)非常大。2. 手動(dòng)求導(dǎo)耗時(shí)非常久。

所以 TensorFlow 的對(duì)函數(shù)自動(dòng)求導(dǎo)以及分布式計(jì)算，可以幫我們節(jié)省很多時(shí)間來訓(xùn)練模型。