先掃一遍再逐詞精讀

一個(gè)神經(jīng)元是簡(jiǎn)單的，他儲(chǔ)存了許多參數(shù)

數(shù)據(jù)逐層向上傳遞，越向上越復(fù)雜

量變引起質(zhì)變

復(fù)雜科學(xué)中 涌現(xiàn) emergency

是突破臨界點(diǎn)之后發(fā)生的全新系統(tǒng)

一個(gè)神經(jīng)元在小模型中只是一個(gè)點(diǎn)或者說是一個(gè)映射，但在一個(gè)大模型中他卻是一張網(wǎng)。你就算切除一部分另一部分仍然發(fā)揮作用。我在學(xué)習(xí)英語的過程中經(jīng)常做各種各樣的頭腦風(fēng)暴，形成不同的詞簇，就是為了讓這張網(wǎng)更加牢靠。

中文房間

中文房間這個(gè)思想實(shí)驗(yàn)里面提出了如果有一個(gè)字典教你應(yīng)付任何情況，那么你也能假裝你也會(huì)中文。但是這里有一個(gè)謬論，這本詞典(映射)存在嗎？理論上這么粗暴地映射解決不了這個(gè)問題，因?yàn)橹形挠袩o限種可能。

但壓縮解決了這個(gè)問題，這是一種全新的算法。

在機(jī)器眼中，一個(gè)漢字要占用16bit，一句話占據(jù)的儲(chǔ)存空間巨大。但在人的眼中一句話往往能夠被壓縮城真正有用的信息。這讓我想起以前老師經(jīng)常教我們:讀書要把書讀薄。因?yàn)槿说挠洃浻邢?，我們的理解背誦都是記住關(guān)鍵信息然后腦補(bǔ)，從這點(diǎn)來看，壓縮即思維

(用的是信息論，把每個(gè)字出現(xiàn)的概率提高，然后去猜詞。)

作者最后是私貨環(huán)節(jié)

我們已經(jīng)能夠量化智能的程度

機(jī)器他也不知道他自己能撒謊

我們是在無數(shù)次錯(cuò)誤之中認(rèn)識(shí)世界，機(jī)器不會(huì)犯錯(cuò)

我的私活

我認(rèn)為人類已經(jīng)輸了，我們已經(jīng)找到智能的本質(zhì)。資本和國家不會(huì)停止研發(fā)的角度。

從不同角度討論，人會(huì)體現(xiàn)出不同的價(jià)值，在一些人眼中，人性，人文，創(chuàng)新仍然是處女地，是人類最后的高度。

但是這只是聊以自慰的方式罷了，人在市場(chǎng)中早就把自己看做是工具了，在這個(gè)工具理性甚囂塵上的時(shí)代，人本身那些所謂引以為豪的特點(diǎn)反而成為普通人在就業(yè)市場(chǎng)上的弱點(diǎn)。