20230324機(jī)器學(xué)習(xí)(第四章 特征)
今天挺困的,喂完奶就想躺在那睡,甚至7點(diǎn)多就想睡覺(jué)了,腿和腰感覺(jué)都不是自己的了,但是還是堅(jiān)持著帶孩子刷牙洗完衣服,想想還聽了一會(huì)英語(yǔ),繼續(xù)看一個(gè)小時(shí)視頻。
第四章看了大部分,
仍然以線性模型為基礎(chǔ),從(一元到多元)線性方程多特征講開,以及多元的話特征向量如何表示,其中x0=1這個(gè)方法的確之前沒(méi)想過(guò),真是妙啊~ 這樣就是n+1維向量了,方便!——看彈幕 大概是 歸一法 好像叫。
還講到如果x1 x2(其實(shí)就是訓(xùn)練數(shù)據(jù)集的數(shù)值范圍)差異較大,可以使用(x1-mean)/max的方法讓 數(shù)據(jù)產(chǎn)生的數(shù)(對(duì)O1 O2來(lái)說(shuō) 在一個(gè)近似的相近區(qū)間),這種方法來(lái)讓梯度下降更快,而不至于反復(fù)橫跳(彈幕有更專業(yè)說(shuō)法)——好像字幕翻譯的叫 (完了忘了)哦,縮放法。
通過(guò)圖像來(lái)確認(rèn)J(O) cost function 在朝著正確的方向收斂,這里提到 ax ——learning rate(好像是一個(gè)學(xué)習(xí)率,不太明白,是之前講過(guò)的內(nèi)容但當(dāng)時(shí)太困了沒(méi)聽進(jìn)去),——一般來(lái)說(shuō)ax 取足夠小的話就能夠順利收斂,如果太大(可能就是步長(zhǎng)太長(zhǎng))就有可能越過(guò)最小值了,然后找不到那個(gè)最小值的點(diǎn)。吳恩達(dá)的方法是10倍取數(shù)&結(jié)合圖像觀察。
再有講到 多項(xiàng)式 的方法,就是有點(diǎn)像以前學(xué)過(guò)的疊加,就是不同走向的方程式疊加在一塊,比如二次的疊加三次的。