1復(fù)習(xí)

偏置值用于控制元的激活難度

2未訓(xùn)練的網(wǎng)絡(luò)

未訓(xùn)練的網(wǎng)絡(luò) = 權(quán)重亂分布 = 看到3 認(rèn)為它既是7又是8

3代價 【重要】

代價 即 用方差計算結(jié)果與理想值的距離.。

第二行是我們的理想值，我們希望機(jī)器輸出的激活值是：除第4個元為1外，其余均為0

代價的均值 可 判斷神經(jīng)網(wǎng)絡(luò)的 能力

均值越大，能力越差

4調(diào)整 【重要】

通過調(diào)整權(quán)重，使代價均值越小，又

神經(jīng)網(wǎng)絡(luò)是自變量為n個權(quán)重的，輸出值為σ

的n維函數(shù)，

此時，問題轉(zhuǎn)化為求n維函數(shù)最值問題

學(xué)過多元函數(shù)的同學(xué)到這就懂了

5神經(jīng)網(wǎng)絡(luò)的黑箱性

神經(jīng)網(wǎng)絡(luò)的真相：黑箱

神經(jīng)網(wǎng)絡(luò)第一層并不像p1那樣，把每個筆畫識別出來，實際識別的東西像一坨爛泥

識別原理在：附錄1

因此它能把一坨噪聲當(dāng)成數(shù)字

附錄1

神經(jīng)網(wǎng)絡(luò)實際的工作：

不斷地通過掃描圖中是否具有某種特征，給掃過的區(qū)域打分

打分結(jié)果如下：

紅的代表不像，藍(lán)的代表像