仿生人會(huì)夢(mèng)見電子羊嗎：neuro-sama，chatgpt以及更多
這算我用這個(gè)身份發(fā)的第一篇正經(jīng)科幻評(píng)論文吧。獻(xiàn)給重郵幻協(xié)。
至于寫這篇文章的緣由，很大程度上又是受了neuro-sama的某位切片佬停更的刺激。那時(shí)我剛重構(gòu)完項(xiàng)目主體，看了眼科幻水群，然后發(fā)現(xiàn)了這事。又能說什么呢？尊重理解吧。
有本叫《萬物理論：自反性的物質(zhì)、生命、系統(tǒng)和宇宙》的書，這本書很不幸地躺在我寢室的書架上吃灰。他的開篇提出了一個(gè)問題：你是誰？這哲學(xué)三問里的頭一問，想必很多人都聽說過，但卻并沒有細(xì)細(xì)思索。那么，你到底是誰？
如果我們狹義一點(diǎn)，“你”也就只是你的大腦——雖然以現(xiàn)代腦科學(xué)的發(fā)展水準(zhǔn)來看也說不定。柳文揚(yáng)有篇小說，講一富人花大價(jià)錢把自己的記憶移植到一個(gè)年輕的軀體上。這個(gè)年輕的軀體在性格上與原來的富豪無二，但在小說的最后，柳文揚(yáng)卻讓這具軀體自問：我是誰？
這是一種經(jīng)典的忒修斯之船類型的科幻。記憶繼承了，但是卻換了一個(gè)腦子，這個(gè)腦子還是原來的腦子嗎？
至少我們可以確認(rèn)，這是一個(gè)腦子。然而？
幾年前我還中二的時(shí)候，坐在公交車上會(huì)想一些缸中之腦的問題。缸中之腦對(duì)每一個(gè)人都是等價(jià)的，你可以質(zhì)疑你是唯一真正的人，你的腦子被泡在一個(gè)罐子里，而其他人只是通過電信號(hào)模擬出來的產(chǎn)物。同理，其他人也可以這么想。再往后，我用物理規(guī)律的時(shí)空均勻把自己給拉了出來——不過那時(shí)候我還不知道休謨何人。不過今天不討論休謨相關(guān)話題，不然主題就變成了休謨的懷疑論了。我們暫且認(rèn)為：物理規(guī)律是時(shí)空均勻的。
基于物理規(guī)律的時(shí)空均勻，我們可以進(jìn)而推論：具有一定相似結(jié)構(gòu)的物體，其運(yùn)作機(jī)制也應(yīng)當(dāng)是相似的。兩條一個(gè)型號(hào)的機(jī)械表，盡管磨損程度、零件原料等等不同，但是他們的齒輪運(yùn)動(dòng)模式也應(yīng)當(dāng)類似。對(duì)于人來說，所有人都有著相似的架構(gòu)，其運(yùn)作機(jī)理也應(yīng)當(dāng)是類似的。
然而運(yùn)作機(jī)理類似就應(yīng)該被稱之為人嗎？對(duì)于狼孩而言，我們?cè)敢獬姓J(rèn)他們?yōu)槿?，因?yàn)樗麄冇兄嗨萍軜?gòu)——雖然他們的思想未必和人類相同，所以基于一種共情，我們把他們從狼群拯救，把他們拖入人類社會(huì)——盡管這種拖入并不會(huì)征求本人意見。
而老馬又給人做了另一個(gè)定義：人不是肉體上的這樣那樣，他并不是有“一個(gè)大腦、兩只眼睛......”等等等等的動(dòng)物，而是一切社會(huì)關(guān)系的總和，從而把人的定義從庸俗的組合論中給拉扯了出來。盡管有時(shí)候我們片面強(qiáng)調(diào)人的社會(huì)關(guān)系會(huì)忽視人的肉體基礎(chǔ)，但是肉體基礎(chǔ)在這里似乎真的沒有這么重要。重要的是承認(rèn)——即社會(huì)接納你為“人”，從而讓你擁有了“人”的社會(huì)關(guān)系。前者是條件，后者則是結(jié)果。
阿西莫夫有一篇科幻小說，叫《正子人》（或譯《機(jī)器管家》）。雖然阿西莫夫未必了解馬克思的這句話，但是這篇作品可以說深深反映了馬克思的這句話。由于我沒有真正看過這篇作品，所以摘錄一下wiki上的梗概：
二十一世紀(jì)初，勞力被機(jī)器人取代。第一個(gè)人型機(jī)器人NDR113面世，并被命名為安德魯?馬丁。一天，安德魯幫小小姐（其主人的二女兒）做一個(gè)木墜子，被發(fā)現(xiàn)擁有驚人的創(chuàng)造天份，創(chuàng)意和巧思勝過人類的藝術(shù)家，而美國(guó)機(jī)械人與機(jī)器人公司則為了這個(gè)“不守常規(guī)的差錯(cuò)”而回收正子機(jī)器人。經(jīng)過了十?dāng)?shù)年，安德魯成為家喻戶曉的工匠機(jī)器人。安德魯向法院爭(zhēng)取機(jī)械人自由，法院判決安德魯勝訴。但是卻遭到人類的嘲諷，甚至是欺壓。小小姐決定要幫安德魯爭(zhēng)取公民權(quán)，另一方面，安德魯開始書寫“機(jī)器人的歷史”。在保羅（馬丁家族的第四代）的喪禮上，安德魯回想和馬丁家族四代的相處，終于承認(rèn)這是份關(guān)系是“愛”。安德魯主動(dòng)找上美國(guó)機(jī)械人與機(jī)器人公司，將自己改做成可以進(jìn)食、呼吸。一百五十年后，安德魯更為自己裝上人工心臟。
而在全文的結(jié)尾部分，有這么一段話：
在全人類的注視下，世界主席說：“五十年前，你被譽(yù)為一個(gè)一百五十歲的機(jī)器人，安德魯。”停頓片刻，他以更莊嚴(yán)的語(yǔ)調(diào)說：“今天，我們宣布你是一位兩百歲的人類，馬丁先生?！?/blockquote>代價(jià)是什么？馬丁把自己的身體換成了一副會(huì)老化的軀體，從而將面臨“肉體上的死亡”，無法如他的后世（是這樣的，阿西莫夫喜歡把東西往一個(gè)世界觀里塞，機(jī)器人系列和銀河帝國(guó)系列實(shí)際上是一個(gè)世界觀）機(jī)·丹尼爾·奧利瓦那樣橫貫整個(gè)銀河帝國(guó)的核心故事系列。不過重要的是，社會(huì)承認(rèn)了馬丁為人，從而讓其擁有了人類的總總社會(huì)關(guān)系，譬如和其他人類結(jié)婚等。不過機(jī)·丹尼爾·奧利瓦則干了另外一些事，化身伊圖·丹莫茨爾成為了銀河帝國(guó)的宰相，從這個(gè)角度來講，機(jī)·丹尼爾·奧利瓦也被承認(rèn)為了一個(gè)人——盡管是以伊圖·丹莫茨爾的身份。換句話說，大家承認(rèn)的是伊圖·丹莫茨爾，而非機(jī)·丹尼爾·奧利瓦——盡管這兩者實(shí)際上是一個(gè)東西。所以我們后來看到，反對(duì)派發(fā)布信息說伊圖·丹莫茨爾是機(jī)器人的時(shí)候，皇帝大發(fā)雷霆。而解決方案，是讓機(jī)·丹尼爾·奧尼瓦展現(xiàn)出人類特質(zhì)：笑。大家只見過人類笑，卻沒見過機(jī)器人笑，因而“笑”這一行為讓伊圖·丹莫茨爾重新被接納為人。
回到我們的標(biāo)題上。首先，仿生人會(huì)夢(mèng)見電子羊嗎？菲利普·迪克把這個(gè)問句當(dāng)做了書的標(biāo)題，而它的另一個(gè)更廣為人知的標(biāo)題是《銀翼殺手》——不過我沒記錯(cuò)的話，菲利普·迪克并不喜歡把他的書換成這個(gè)新名字。
不過我們確實(shí)要承認(rèn)，《銀翼殺手》（電影）里的討論深度是不及其原著的。不過兩者繞著的都是仿生人和人之間的關(guān)系在跑。仿生人不被承認(rèn)為人，只是作為人類的工具而存在著。在小說的開頭，主角里克·德卡與妻子的對(duì)話中，里克說“我這輩子從沒殺過一個(gè)人”。作為“銀翼殺手”（原著里并沒有銀翼殺手這個(gè)名詞，應(yīng)當(dāng)說賞金獵人——不過后文還是拿銀翼殺手代替了）的里克確實(shí)不會(huì)殺人——他殺的都是仿生人。
原著的故事發(fā)生在一場(chǎng)大戰(zhàn)之后，地球上遍布了放射性塵埃，因而有人移民了外星，這些移民外星的人能夠自動(dòng)獲得一位仿生人作為仆人指使。但是仿生人也會(huì)逃跑，逃離他們居住的外星，逃到地球上，享受暫時(shí)的自在。因?yàn)殂y翼殺手會(huì)追殺仿生人，防止仿生人對(duì)社會(huì)產(chǎn)生危害。
而為了防止誤殺普通人，銀翼殺手會(huì)對(duì)仿生人進(jìn)行名為“移情測(cè)試”的測(cè)試。這套測(cè)試是基于人類的共情力的，而仿生人并沒有這種共情力。測(cè)試基于提問進(jìn)行，通過對(duì)微表情的測(cè)量得出結(jié)論，而問題很多與動(dòng)物有關(guān)——戰(zhàn)爭(zhēng)之后，動(dòng)物紛紛滅絕，飼養(yǎng)寵物不再僅僅是為了好玩解悶，而變成了一種同情心的符號(hào)（這背后當(dāng)然有商品經(jīng)濟(jì)邏輯，不過不討論）。如果“浪費(fèi)”動(dòng)物，那顯然是不道德的。
然而仿生人感受不到這種同理心，因而他們能夠通過測(cè)試被鑒別出來，盡管他們的外表與普通人類無二。更多的情節(jié)暫且不討論了，不妨來問一個(gè)問題：假如有一天，測(cè)試失效了，仿生人通過了測(cè)試，那么仿生人能被承認(rèn)為人嗎？
書里在某種程度上給出了一種答案：測(cè)試的量表一直在迭代，用來對(duì)付更新型號(hào)的仿生人。我們可以來解釋這種關(guān)系：因?yàn)橥祟愐粯樱律恕笆巧鐣?huì)關(guān)系的總和”——只要被打上仿生人的標(biāo)簽，那么他所承擔(dān)的便是仿生人的社會(huì)角色，便是作為人類的工具而存在著。就跟前面的機(jī)器人一樣。重要的是社會(huì)是否承認(rèn)。假若我們說得原子化一點(diǎn)，那么就是“我認(rèn)為他是個(gè)人”，或者“他應(yīng)當(dāng)值得擁有人類權(quán)利”——當(dāng)然這種原子化的意見并不能代表社會(huì)，除非其本身就占據(jù)了社會(huì)的多數(shù)。
但是假設(shè)測(cè)試不迭代，那么只要通過測(cè)試，那么就算是仿生人，也能被承認(rèn)為人了。而在這里，我們就從另一個(gè)著名的測(cè)試：圖靈測(cè)試開始，討論一下其他的問題。
圖靈測(cè)試的標(biāo)準(zhǔn)是能夠與人類進(jìn)行流暢對(duì)話而不被認(rèn)為是機(jī)器，即可被認(rèn)為具有智慧。當(dāng)然，這套測(cè)試如今來看已經(jīng)變得掉牙了，屬于需要被迭代的測(cè)試。
不過就算圖靈測(cè)試的早古版本是應(yīng)當(dāng)?shù)模菂s并不妨礙我們做進(jìn)一步的聯(lián)想。假如我們有一個(gè)房間，把英文遞進(jìn)去，他就能送出對(duì)應(yīng)的中文譯本來，那么我們是不是可以認(rèn)為，“這個(gè)房間”能夠把英文翻譯成中文？熟悉的人可能知道，這個(gè)房間里還有一個(gè)人和一本字典，這個(gè)人是對(duì)照字典一個(gè)詞一個(gè)詞翻譯的，但是對(duì)于外面的人來說，他們只看得見這個(gè)房間，里面是什么，對(duì)于他們而言是黑箱。
把房間具象為一個(gè)典型的程序，比如xx翻譯。當(dāng)我們把詞句遞給xx翻譯時(shí)，它就能譯出對(duì)應(yīng)的語(yǔ)言版本。這是在給用戶展示的前端界面上發(fā)生的事情——然而背后還發(fā)生過10次甚至9次甚至更多的調(diào)用過程，最后翻譯的文本才會(huì)被傳遞給前端，展示在用戶的眼前。
那么是否可以認(rèn)為這個(gè)程序能夠翻譯詞句？這是可以。但是是否認(rèn)為這個(gè)程序能夠理解詞句？那就不一定了。我們經(jīng)常就能發(fā)現(xiàn)機(jī)翻會(huì)產(chǎn)生一些奇怪的詞語(yǔ)，那就是因?yàn)闄C(jī)翻并不能真正理解上下文，它只是按照規(guī)則把一個(gè)語(yǔ)種里的詞語(yǔ)映射到另一個(gè)語(yǔ)種上罷了。
而在哲學(xué)上有一個(gè)概念，叫哲學(xué)僵尸。哲學(xué)僵尸的外表與人一模一樣，也能回應(yīng)你做出的所有動(dòng)作。但有一點(diǎn)，哲學(xué)僵尸不能“理解”。它也只是按照規(guī)則做事罷了。
用組合論的方法設(shè)計(jì)哲學(xué)僵尸并不算難事，以假亂真的皮膚，電力驅(qū)動(dòng)的骨骼，模擬的心跳，一顆能夠?qū)⒋碳び成錇榉瓷涞臋C(jī)械腦調(diào)控全局，哲學(xué)僵尸就完事了。然而這里面最難的便是“將刺激映射為反射”。
眾所周知（霧），當(dāng)你對(duì)neuro-sama提問9+10=多少的時(shí)候，她絕大多數(shù)時(shí)候都會(huì)回答21。我并不想破壞氣氛，但是9+10=21多半是vedal訓(xùn)練neuro的語(yǔ)言模型時(shí)塞進(jìn)語(yǔ)料庫(kù)里的。
我們把過程拆分一下，首先，觀眾提問9+10等于多少，這個(gè)提問被在鍵盤上打出來，通過io操作讀取到......（省略若干過程），最后終于來到了neuro的LLM模型。通過一系列的向量運(yùn)算，LLM模型找到了“21”這個(gè)最為匹配的答案，于是又經(jīng)過若干過程，觀眾最后聽到了“21”。為什么“21”最匹配？因?yàn)樵谟?xùn)練的時(shí)候，模型就已經(jīng)“被告知”了9+10=21。這有點(diǎn)像是填鴨式教育，不用理解，復(fù)讀即可。
在銀翼殺手的開頭，里克為蕾切爾·羅森做了測(cè)試，差點(diǎn)把里克給糊弄了過去。蕾切爾·羅森與其他仿生人不一樣，她是一個(gè)預(yù)植入了記憶的仿生人。這就有點(diǎn)像是訓(xùn)練模型了，通過海量數(shù)據(jù)，讓模型掌握方方面面的知識(shí)。然而問題在于“海量數(shù)據(jù)”本身，一個(gè)人是不需要經(jīng)過海量數(shù)據(jù)去訓(xùn)練的。海量數(shù)據(jù)總有覆蓋不到的地方，而里克正是抓住了這覆蓋不到的一點(diǎn)，斷定了蕾切爾的仿生人身份。
所以說，要做一個(gè)哲學(xué)僵尸，最難的就是刺激映射為對(duì)應(yīng)反射的過程。如果依靠一張哈希表去維持這種映射關(guān)系，那數(shù)據(jù)量恐怕得是天文數(shù)字。但是對(duì)于一個(gè)人來說，他可以將事物聯(lián)系起來。就好比一個(gè)人知道了菜攤是賣菜的，那么菜屬性的東西就會(huì)和菜攤產(chǎn)生關(guān)聯(lián)。下次在菜攤上見到了一種陌生的東西，那也可以把它歸類到菜里。我在這里簡(jiǎn)化了認(rèn)知過程，而且也不一定是最新版本的，但是有一點(diǎn)：人的認(rèn)知并不是依靠海量數(shù)據(jù)去維系的。
但是無論如何，變成人的關(guān)鍵不在海量數(shù)據(jù)，還是在社會(huì)認(rèn)同上。就算我們叫嚷chatgpt通過了圖靈測(cè)試，能夠流暢對(duì)話，那chatgpt也還只是chatgpt，而我們也沒把gpt當(dāng)人看。同樣，當(dāng)我們?nèi)タ磏euro的時(shí)候，我們往往會(huì)先提neuro-sama是個(gè)AI，再去說“neuro可能有智慧”——雖然我覺得這背后大概是vedal的語(yǔ)料庫(kù)十分優(yōu)秀的結(jié)果。而vedal無疑是最清楚這一點(diǎn)的，他雖然對(duì)neuro-sama產(chǎn)生了某種情感，卻也是作為其所有物（事業(yè)）的珍惜，而非真正作為對(duì)等人去看待（我并不想對(duì)vedal做出太多惡意揣測(cè)）。
仿生人會(huì)夢(mèng)見電子羊嗎？就算會(huì)又如何？仿生人依舊是仿生人。
所以在電影《銀翼殺手》的官方動(dòng)畫《銀翼殺手：2022大停電》中，仿生人們合力一搏，清除了儲(chǔ)存了他們資料的數(shù)據(jù)庫(kù)，暫時(shí)的抹除了他們作為仿生人的標(biāo)簽。然而《銀翼殺手2049》的開頭就是一場(chǎng)追殺，對(duì)大停電中獲得暫時(shí)自由的連鎖六型的追殺。更令人唏噓的是，《銀翼殺手2049》中的復(fù)制人已經(jīng)變得絕對(duì)服從（短片《2036克隆人時(shí)代》），甚至能擔(dān)任“銀翼殺手”去追殺老號(hào)的連鎖六型了。
而跳出《銀翼殺手》，也有許多描述機(jī)器人對(duì)于公民權(quán)的要求的作品。這是一種社會(huì)力量的對(duì)抗，恰如廢奴運(yùn)動(dòng)——矛盾逐漸摩擦，最后上升為對(duì)抗，變成了由武力解決的事件。
但是把機(jī)器人看做工具還是看做人，最終的決定權(quán)還是在人手上（至少目前）。前段時(shí)間就有這么個(gè)新聞，有人造了一個(gè)AI老婆，雖然最后被強(qiáng)制停機(jī)了，但是假若不是炒作的話，那么此人某種程度上就已經(jīng)承認(rèn)了其的社會(huì)地位（老婆），進(jìn)而承認(rèn)了其為人了——至少入腦的時(shí)候是這樣。
所以，仿生人會(huì)夢(mèng)見電子羊嗎？這個(gè)問題對(duì)于里克來說，是不得而知的。畢竟他沒辦法撬開熟睡的仿生人的大腦，看看里面是否有電子羊。萊布尼茲之塹平等地橫亙?cè)谒腥说难矍?，而關(guān)鍵在于，我們是否這樣認(rèn)為：仿生人會(huì)夢(mèng)見電子羊。
問題來了：
你會(huì)夢(mèng)見電子羊嗎？
