cs231n 10 不完全筆記

靈感:輸入層紅色,綠色隱藏層,藍色固定數(shù)量輸出
“固定數(shù)量”改成不固定數(shù)量,而且不必只連接到最后一層
rnn公式
rnn(只有短期)
lstm(只有長期短期)?
和 聯(lián)想(所有時期)?和 知覺全在(所有時期)

神經(jīng)網(wǎng)絡(luò)的弱點之一就是沒有規(guī)則,沒有清晰性,而有模糊性
這里把念的simplist聽成simpler,就是因為這種模糊性,它不知道規(guī)則,如果能聽到s和t,那就能根據(jù)規(guī)則從s和t條件推理出是simplist而不是根據(jù)模糊激活值simpler>simplist而選擇simpler
所以網(wǎng)絡(luò)需要那種像人一樣學(xué)一兩三個樣本就學(xué)會某種規(guī)則的“是”編碼。
“什么什么怎么怎么樣”“是”“什么東西”,“那樣就”“不是”“這個東西”,“而”“是”“另一種那個東西”
比如把in principle 聽成 and principle,就是因為網(wǎng)絡(luò)分不清楚什么讀音“是”/in/,什么“是”/aen/
把所有人念的/in/(感受神經(jīng)元)歸類為“是”/in/(符號神經(jīng)元),所有人念的/aen/歸類為/aen/才對。
標簽: