課代表總結(jié)如下??????

在線胡講深度殘差網(wǎng)絡(luò)ResNet

總結(jié):

一、計(jì)算機(jī)技術(shù)的問題??

二、計(jì)算機(jī)技術(shù)的看法??

三、計(jì)算機(jī)技術(shù)的結(jié)論??

一、計(jì)算機(jī)技術(shù)的問題???

1、在線胡講深度殘差網(wǎng)絡(luò)ResNet

二、計(jì)算機(jī)技術(shù)的看法??

對于resnet殘差連接可以用“傳話筒”游戲來通俗理解：類似于《王牌》中的傳話筒，騰哥在看到了“狗中赤兔”這個詞后，形象地演給花花看，花花又演給曉彤看，最后曉彤演給玲姐看，結(jié)果玲姐看完一臉懵～?？梢钥闯?，“狗中赤兔”在傳遞過程中信息是不斷減少的，騰哥獲得了最多的信息，而玲姐獲得的最少，這就類似于淺層網(wǎng)絡(luò)獲得的信息多，而深層少，最終深層網(wǎng)絡(luò)無法理解傳來的信息，也就是玲姐猜不出來題。（這一現(xiàn)象稱之為“梯度消失”，就是指信息一層層不斷減少直至消失）那怎么辦呢？

為了解決這個問題，騰哥就跳過花花曉彤，單獨(dú)給玲姐演了一遍，結(jié)果玲姐頓悟—“狗中赤兔”！這相當(dāng)于淺層網(wǎng)絡(luò)繞開中間網(wǎng)絡(luò)，把信息直接傳給了深層網(wǎng)絡(luò)，深層網(wǎng)絡(luò)秒懂。殘差連接就是將信息直接傳給深層網(wǎng)絡(luò)，避免了淺層網(wǎng)絡(luò)對信息的削減。（還有一種“梯度爆炸”現(xiàn)象，是指每一層網(wǎng)絡(luò)傳遞的信息越來越多，導(dǎo)致深層網(wǎng)絡(luò)直接“死機(jī)”了）

三、計(jì)算機(jī)技術(shù)的結(jié)論??

明天期中考試，今天冒死給大家亂講一波殘差網(wǎng)絡(luò)

希望明天考完能活著回來肝下一期