卷積層里的填充和步幅

填充

• mnist中的都是32*32大小的圖片
• 第一層為什么得到的輸出是28*28？這里的步長(zhǎng)應(yīng)該是默認(rèn)為1，到最右邊的時(shí)候會(huì)剩下四列元素不能全部被5*5的卷積核看到（因?yàn)檫@里沒(méi)有用池化），所以卷積核在橫向移動(dòng)的過(guò)程中走了28步之后，就不能再往右邊走了，因?yàn)樵偻疫呑叩脑?，卷積核的所覆蓋的部分列就沒(méi)有輸入的，這里由于沒(méi)有采取池化操作，因此輸入最右邊的4列就被舍棄掉了，因?yàn)橹蛔吡?8步，所以最后輸出就是28*28了（高寬同理）
• 第七層得到的輸出為什么是4*4？由第一層卷積得到28*28的輸出可知，每做一次卷積操作就會(huì)舍去4個(gè)輸出，所以做完7次卷積之后輸出的大小為（32-4*7）*（32-4*7）= 4*4
• 更大的卷積核可以更快地減小輸出的大小

特別是當(dāng)用比較大的卷積核的時(shí)候，假設(shè)不想讓輸出變得太小怎么辦？（隨著卷積層的增加，輸出會(huì)越來(lái)越?。?/p>

1、填充

• 填充就是在輸入的四周加入一些額外的行和列，這樣可以使的通過(guò)卷積層之后的輸出變得比之前更大一些
• 上圖的輸入中中間3*3的矩陣是原始的輸入，在它的上下左右分別填充了一些零，填充之后再做卷積會(huì)發(fā)現(xiàn)輸出會(huì)由2*2變成4*4，也就是說(shuō)輸出比輸入還要大（多出了一行一列）

• p表示padding
• 通常會(huì)填充卷積核的高寬減一的值，這樣做的好處是輸出和輸入的形狀不會(huì)發(fā)生變化（將其代入上圖中的第一個(gè)公式就能得到），這樣的話，不管選取多大的卷積核，都不會(huì)改變輸出的形狀
• 具體在填充的時(shí)候如果卷積核的大小是奇數(shù)的話，就在輸入的上下兩側(cè)填充，當(dāng)卷積核的大小為偶數(shù)的時(shí)候（卷積核的大小很少選取為偶數(shù)），在輸入的上側(cè)會(huì)多填一行，下側(cè)會(huì)少填一行（反過(guò)來(lái)其實(shí)也可以，但是一般也差不多）

2、步幅

• 假設(shè)輸入比較大的話需要進(jìn)行大量的計(jì)算
• 上圖中應(yīng)該是需要55層才能將輸入降低到4*4，因?yàn)槊孔鲆淮尉矸e操作輸出的大小減少4，所以需要55次卷積操作才能將輸出降低到4*4
• 輸出大小是跟卷積層的層數(shù)線性相關(guān)的，步幅可以將其變成指數(shù)相關(guān)

• 步幅指的滑動(dòng)窗口在行/列上移動(dòng)的步長(zhǎng)，也就是往右走多少列，往下走多少行
• 具體的計(jì)算如下圖所示

• 往下取整

總結(jié)

• 填充是讓輸出不變或者是變大
• 當(dāng)輸入的大小很大的時(shí)候，可以通過(guò)控制步幅來(lái)減少計(jì)算量

----end----