# MobileNet V3網(wǎng)絡(luò)詳解

1. 更新了Block(在原來(lái)v2的bottleneck基礎(chǔ)上改成了bneck)
2. 使用NAS搜索參數(shù)(Neural Architecture Search)，不細(xì)說(shuō)
3. 重新設(shè)計(jì)耗時(shí)層結(jié)構(gòu)

## block具體更新的點(diǎn)

1. 加入了SE模塊(SE是通道的注意力機(jī)制模塊)
2. 更新了激活函數(shù)

### SE模塊詳解

如上圖下半部分所示，就是將特征圖進(jìn)行池化，假設(shè) 7*7*32的特征圖，池化成1*1*32的向量，然后經(jīng)過(guò)第一個(gè)全連接層縮減得到1*1*8，然后經(jīng)過(guò)第二個(gè)全連接層復(fù)原得到1*1*32。

下圖和我理解的差不多，唯一需要注意的是，如何復(fù)原成原來(lái)的特征圖大小。下圖解釋是，得到了0.5、0.6，然后用原來(lái)的特征圖和這個(gè)數(shù)據(jù)相乘，也就是把0.5、0.6當(dāng)成了channel對(duì)應(yīng)的權(quán)重（這里可以理解為對(duì)特征矩陣每一個(gè)channel分析出一個(gè)權(quán)重關(guān)系，比較重要的channel就賦予一個(gè)比較大的權(quán)重，不是很重要的channel就賦予一個(gè)比較小的權(quán)重）。

### 更新激活函數(shù)詳解

下圖中下半部分中的Mobilenet V3 block中的NL就代表了非線性激活函數(shù)。但不同層使用的是不同的激活函數(shù)

## 重新設(shè)計(jì)耗時(shí)層結(jié)構(gòu)

1. 減少第一個(gè)卷積層的卷積核個(gè)數(shù)
2. 精簡(jiǎn)last stage

看不懂，擺爛了！