計算能力

首先，深度神經(jīng)網(wǎng)絡(luò)復(fù)雜，訓(xùn)練數(shù)據(jù)多，計算量大。深度神經(jīng)網(wǎng)絡(luò)中神經(jīng)元多，神經(jīng)元間連接數(shù)量也相當(dāng)驚人。從數(shù)學(xué)的角度看，每個神經(jīng)元都要包含數(shù)學(xué)計算（如Sigmoid、ReLU或者Softmax函數(shù)），需要估計的參數(shù)量也極大。語音識別和圖像識別應(yīng)用中，神經(jīng)元達數(shù)萬個，參數(shù)數(shù)千萬，模型復(fù)雜導(dǎo)致計算量大。所以計算能力是深度學(xué)習(xí)應(yīng)用的基礎(chǔ)。

計算能力越強，同樣時間內(nèi)積累的經(jīng)驗就越多、迭代速度也越快,計算能力這種對于深度學(xué)習(xí)的支撐與推動作用是不可替代的。

算法

在計算能力變得日益廉價的今天，深度學(xué)習(xí)試圖建立大得多也復(fù)雜得多的神經(jīng)網(wǎng)絡(luò)，我們可以把算法理解為深度學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)或是計算思維，這種神經(jīng)網(wǎng)絡(luò)越復(fù)雜，捕捉到的信號就越精確，目前比較常見的算法包括深度信念網(wǎng)絡(luò)（Deep Belief Networks）、卷積神經(jīng)網(wǎng)絡(luò)（ConvolutionalNeural Networks）、受限玻爾茲曼機（Restricted BoltzmannMachine）