深度學(xué)習(xí)入門,個人記錄向(d1)

什么是卷積神經(jīng)網(wǎng)絡(luò)模型是??
一個卷積神經(jīng)網(wǎng)絡(luò)模型是一種能夠提取圖像特征的深度學(xué)習(xí)模型,它由多個卷積層、池化層、全連接層和輸出層組成。
4個組成的
卷積→池化層→全連接層→輸出層
簡單來卷積神經(jīng)網(wǎng)絡(luò)就是一個處理原始數(shù)據(jù)輸出決策的東西??
一張相對簡單示意圖??

簡單來說
卷積層:就像一個圖片上的小窗口,這個窗口里面有很多網(wǎng)格,每一個網(wǎng)格就叫做一個卷積核,每個窗口里面有一個數(shù)值,這個數(shù)值就叫做卷積核的參數(shù),在運作的時候,這個小窗口就在圖片(想象成一個數(shù)組)上以一個固定距離滑動,當(dāng)這個小窗口滑動到某個固定的位置時,就會把方格中的數(shù)值和對應(yīng)位置的圖像數(shù)值相乘,得到的數(shù)值就是卷積層的一部分輸出??
↓
池化層:池化層就像一個篩子,它在卷積層上移動,挑選出一組數(shù)據(jù)中的某些特別的數(shù)值(比如極值,平均值..)作為它的輸出,它的左右就是選出具有目標(biāo)特征的數(shù)據(jù)作為輸出??
↓
全連接層:它的目的就是將高復(fù)雜度的多維度數(shù)據(jù)分解為簡單維度的多分類數(shù)據(jù),這么說可能有點抽象??,你可以想象三維空間中的一個向量被分解成了x,y,z三個方向的三個向量(也就是向量的參數(shù)減少了/復(fù)雜度下降了,但是種類變多了)
↓
輸出層:將全連接層的輸出變換為一個我們目標(biāo)輸出,比如輸出一個概率、數(shù)值、某種分布..
整體理解就是;一個卷積層神經(jīng)網(wǎng)絡(luò)包括卷積層池化層,全連接層,輸出層。卷積層的作用是對圖像進行采樣,提取圖像特征作為輸出;池化層獲得卷積層的輸出并取出其中具有特征的數(shù)值,池化層的目的是提取卷積層輸出的具有重要特征的信息;全連接層的作用是將池化層的信息將進一步分類為不同特征維度的信息輸出;輸出層的作用則是將全連接層的信息由大而抽象轉(zhuǎn)化為小而具體的信息。
總的來說:卷積神經(jīng)網(wǎng)絡(luò)的作用就是將原始數(shù)據(jù)變換計算為一個最終簡單,抽象,易于使用的結(jié)果??

自我QA??
Q:為什么一個卷積神經(jīng)網(wǎng)絡(luò)有多個卷積層/池化層/全連接層/輸出層?
????一個卷積神經(jīng)網(wǎng)絡(luò)有多個卷積層/池化層/全連接層/輸出層的原因是為了提高模型的表達能力和泛化能力。
????卷積層? 可以提取輸入數(shù)據(jù)中的局部特征,多個卷積層可以堆疊起來,形成更深層次和更抽象的特征表示。比如,第一層卷積層可能提取邊緣和紋理等低級特征,第二層卷積層可能提取角點和輪廓等中級特征,第三層卷積層可能提取物體的部件和形狀等高級特征(全面)
????池化層可以對卷積層的輸出進行降采樣,減少參數(shù)的數(shù)量,防止過擬合,同時保留重要的特征信息。多個池化層可以使得模型具有一定的平移不變性,也就是說,即使輸入數(shù)據(jù)發(fā)生了一些微小的位移,模型的輸出也不會受到太大的影響(穩(wěn)定)。
????全連接層可以對卷積層或池化層的輸出進行線性變換,將高維的特征向量轉(zhuǎn)換為低維的分類向量,增強模型的判別能力。多個全連接層可以增加模型的非線性度,使得模型可以擬合更復(fù)雜的函數(shù)(整體能力)
????輸出層可以對全連接層的輸出進行分類或回歸,根據(jù)模型的目標(biāo)輸出每個類別的概率分布或預(yù)測值。?輸出層通常只有一層,因為它是模型的最終結(jié)果。
又問,什么表達和泛化能力?
?????????
????表達能力和泛化能力分別描述了模型的能力和性能。
????模型的表達能力是指模型的結(jié)構(gòu)和參數(shù)所能夠擬合(表達)的數(shù)據(jù)分布(假設(shè))的范圍和復(fù)雜度,也就是模型的天賦,與學(xué)習(xí)無關(guān)。一般來說,模型的表達能力越強,就越能夠適應(yīng)不同類型和形式的數(shù)據(jù),但也越容易發(fā)生過擬合的問題。
????模型的泛化能力是指模型在一個數(shù)據(jù)樣本集上,學(xué)習(xí)訓(xùn)練好參數(shù)之后,再遷移到其他新數(shù)據(jù)集上的表現(xiàn)是否也夠好,也就是模型的適應(yīng)能力,與學(xué)習(xí)有關(guān)。模型的泛化能力越強,就越能夠?qū)π迈r樣本做出準(zhǔn)確預(yù)測,但也需要避免欠擬合的問題。
Q:在一個卷積層神經(jīng)網(wǎng)絡(luò)中這些層有什么排列順序嗎,這個排列順序會對神經(jīng)網(wǎng)絡(luò)有什么影響?
? 不是固定的,取決于實際需要,不同排列,不同能力
? ?結(jié)構(gòu)是為了解決一些特定的問題而設(shè)計出來的,比如增加感受野、解決梯度消失、減少參數(shù)量等。 這些結(jié)構(gòu)對神經(jīng)網(wǎng)絡(luò)的影響有正有負,需要根據(jù)具體的任務(wù)和數(shù)據(jù)來選擇合適的結(jié)構(gòu)。