譯者：李浚弘

第一章；人工智能之路

第一章【第一節(jié)】；通用人工智能

1950年，戰(zhàn)時(shí)密碼破譯者、計(jì)算機(jī)先驅(qū)艾倫·圖靈在《心靈》雜志上發(fā)表了一篇題為《計(jì)算機(jī)器與智能》的論文。這是對(duì)人工智能概念的第一次嚴(yán)肅的、學(xué)術(shù)性的處理。圖靈預(yù)測(cè)，到2000年，人們將“能夠談?wù)摍C(jī)器思考而不期望被反駁”。他設(shè)想機(jī)器能夠通過圖靈測(cè)試。 圖靈測(cè)試涉及到一種游戲。兩個(gè)“玩家”，一個(gè)是人，另一個(gè)是機(jī)器，通過鍵盤和屏幕與另一個(gè)“裁判”交流。裁判依次與每位選手進(jìn)行對(duì)話，試著猜出誰是人，誰是機(jī)器。機(jī)器的任務(wù)是讓法官相信它是人類——這是一項(xiàng)壯舉，因此有人爭(zhēng)論說，這肯定需要人類水平的智力。如果裁判不能區(qū)分人與機(jī)器，那么機(jī)器就通過了測(cè)試【譯者注；比如Ray Kurzweil，可以參考他和周鴻祎和Lex Fridman的談話】。圖靈在1950年寫道，在這個(gè)世界里，能夠通過他的測(cè)試的機(jī)器很常見，在這個(gè)世界里，“會(huì)思考的機(jī)器”在家里和工作場(chǎng)所都很常見。 盡管圖靈做出了這樣的預(yù)測(cè)，但到2000年，人類水平的人工智能還沒有實(shí)現(xiàn)，也沒有任何跡象表明它即將到來。沒有一臺(tái)機(jī)器能接近通過圖靈測(cè)試。盡管如此，人工智能領(lǐng)域最近取得了一個(gè)重要的里程碑。1997年，IBM開發(fā)的計(jì)算機(jī)“深藍(lán)”擊敗了當(dāng)時(shí)的國(guó)際象棋世界冠軍加里·卡斯帕羅夫?？ㄋ古亮_夫以前擊敗的象棋程序?qū)λ麃碚f似乎是可預(yù)測(cè)的和機(jī)械的，與此相反，據(jù)說他說，當(dāng)他對(duì)陣深藍(lán)時(shí)，他感覺到棋盤另一邊有“外星智能”。 退一步思考人工智能歷史上的這一時(shí)刻是有意義的。這一領(lǐng)域所取得的成就，在半個(gè)世紀(jì)之前可能會(huì)被認(rèn)為是其最高成就。人類已經(jīng)被機(jī)器超越了。當(dāng)然，汽車可以比最快的短跑運(yùn)動(dòng)員跑得更快，起重機(jī)可以舉起比舉重冠軍多得多的東西。但智力能力是人類區(qū)別于其他動(dòng)物的地方，而國(guó)際象棋就是一種典型的智力追求。 現(xiàn)在電腦象棋被破解了。然而，與圖靈時(shí)代相比，我們似乎并沒有更接近人類水平的人工智能。這怎么可能呢?深藍(lán)的問題在于它是一個(gè)專家。它只能下象棋。與典型的成年人相比。就拿剛剛走過咖啡窗口的上班族來說，我正拿著筆記本電腦坐在那里。毫無疑問，她的一天是忙碌的大雜燴——做盒飯、批改孩子的作業(yè)、開車上班、寫電子郵件、修復(fù)印機(jī)，等等。這些活動(dòng)中的每一個(gè)，仔細(xì)檢查，都需要多種感覺運(yùn)動(dòng)技能的鍛煉。以做盒飯為例。這包括從不同的地方取回用具和食材，打開包裝，切，切，鋪等等。 簡(jiǎn)而言之，人是多面手，是萬事通。人類國(guó)際象棋冠軍能做的遠(yuǎn)不止下棋。此外，人是有適應(yīng)能力的。修理復(fù)印機(jī)不是天生的才能。這是習(xí)得的。如果這位上班族出生在不同的世紀(jì)或不同的文化中，她就會(huì)獲得一套不同的技能。如果她不幸失去了現(xiàn)在的工作，她可以再培訓(xùn)換一份工作。人工智能研究在各種專業(yè)領(lǐng)域取得的成就(國(guó)際象棋只是眾多成功故事中的一個(gè))，與該領(lǐng)域未能制造出具有通用、自適應(yīng)智能的機(jī)器形成鮮明對(duì)比。那么我們?nèi)绾尾拍苤圃斐鐾ㄓ萌斯ぶ悄苣?在我們以一種知情的方式推測(cè)機(jī)器超級(jí)智能之前，我們需要回答這個(gè)問題。 生物智能的一個(gè)基本特征是體現(xiàn)。與深藍(lán)不同的是，人類是一種有身體的動(dòng)物，它的大腦是身體的一部分。動(dòng)物的大腦已經(jīng)進(jìn)化到維持身體健康，并使它攜帶的基因延續(xù)下去。身體有肌肉，使它能夠運(yùn)動(dòng)，也有感覺，因此它的運(yùn)動(dòng)可以根據(jù)環(huán)境的狀態(tài)來做出，從而更好地完成它的使命。大腦位于這個(gè)感覺運(yùn)動(dòng)回路的中間，根據(jù)它所感知的東西來塑造動(dòng)物的行為。人類的智力盡管取得了輝煌的成就，但從根本上說，它是動(dòng)物智力的延伸。人類的語言能力、推理能力和創(chuàng)造力都建立在感覺運(yùn)動(dòng)的基礎(chǔ)上。 因此，盡管創(chuàng)造人工智能的努力可能會(huì)奏效，但是失去了許多對(duì)生物生命至關(guān)重要的東西，比如新陳代謝和繁殖，也許是一種方法上的需要。也許需要參與一個(gè)混亂的，動(dòng)態(tài)的，充滿復(fù)雜的物理環(huán)境各種各樣的物體，無論是有生命的還是無生命的，都是智能的根源。 從這個(gè)角度來看，圖靈測(cè)試是一個(gè)糟糕的基準(zhǔn)，因?yàn)樗簧婕罢Z言。對(duì)人工智能的智能形成可靠判斷的唯一方法是觀察它在類似我們自己的環(huán)境中的行為。根據(jù)這種思維方式，實(shí)現(xiàn)人類水平的人工智能的唯一方法是通過機(jī)器人。稍后我們將研究對(duì)這一體現(xiàn)原則的挑戰(zhàn)?！咀g者注，這項(xiàng)爭(zhēng)論一直延續(xù)至今天，在這里推薦一篇筆者認(rèn)為不錯(cuò)的文章，第一篇是Antoine Tardif的AGI-22 Highlights the Progress in Developing Artificial General Intelligence，第二篇是Eray Eliacik先生的When will GPT 5 be release，and what should you expect from it】但是讓我們暫時(shí)采用它吧。我們的基本問題可以重新表述。我們?nèi)绾钨x予機(jī)器人一般的智能? 也許普通智能只是許多專家感覺運(yùn)動(dòng)技能的總和，問題只是人工智能還沒有復(fù)制足夠多的技能。當(dāng)機(jī)器人被賦予一定的臨界技能時(shí)，通用智能將以某種方式出現(xiàn)。好吧，即使我們掩蓋了這個(gè)提議所回避的許多工程問題，它仍然無法令人信服。這種方法的產(chǎn)品可能會(huì)短暫地給人一種普遍智慧的表象。但沒人會(huì)被愚弄太久。在一個(gè)不斷變化的世界中，一旦不得不面對(duì)一個(gè)超出其專業(yè)領(lǐng)域的問題，多專家就會(huì)陷入困境，這是不可避免的。 也許學(xué)習(xí)能力足以填補(bǔ)這里的空白。在不熟悉的環(huán)境中，可以學(xué)習(xí)新的專業(yè)技能。學(xué)習(xí)能力當(dāng)然是建立和保持技能儲(chǔ)備所必需的。的確，各種形式的學(xué)習(xí)是一切智慧的背景。但是學(xué)習(xí)既耗時(shí)又有風(fēng)險(xiǎn)。普通智力的標(biāo)志是能夠?qū)F(xiàn)有的行為習(xí)慣適應(yīng)新的挑戰(zhàn)，而且不需要求助于試錯(cuò)或第三方的訓(xùn)練。 第一章【第二節(jié)】；常識(shí)與創(chuàng)造力

那么，怎樣才能克服專業(yè)化的限制，賦予一臺(tái)機(jī)器適當(dāng)?shù)耐ㄓ弥悄苣?也許對(duì)這樣一臺(tái)機(jī)器最重要的要求是常識(shí)和創(chuàng)造力。在這種情況下，有常識(shí)是指對(duì)日常世界的運(yùn)作原則，特別是物理和社會(huì)環(huán)境的理解。例如，其中一個(gè)原則是，如果你繞著某物走了一圈，你最終會(huì)回到你開始的地方。另一個(gè)原因是，如果你沿著剛剛走過的路往回走，你會(huì)遇到相同的地標(biāo)，但順序相反。諸如此類的原則是有用的，因?yàn)樗鼈兊膽?yīng)用并不局限于狹窄的領(lǐng)域。它們是通用的和可重復(fù)使用的。 掌握常識(shí)的原則意味著什么?回答這個(gè)問題，不需要說什么機(jī)制。特別是，我們沒有理由認(rèn)為，掌握原則就必須以某種類似語言的形式進(jìn)行內(nèi)部表示。相反，它會(huì)表現(xiàn)在行為上?；蛘吒锌赡艿氖?，某些方面的常識(shí)的缺乏將表現(xiàn)在行為上。例如，住在我們房子后面的公雞喜歡飛起來，飛過大門，逃離它的圍欄。但它從來不會(huì)在出去很久之后就想回來和母雞們團(tuán)聚。他要做的就是飛回大門。但他從未想到這一點(diǎn)。相反，他焦慮地在大門前來回踱步。他似乎缺乏某些行為是可以逆轉(zhuǎn)的這一常識(shí)性原則。 在某種程度上，這種理解上的盲點(diǎn)不會(huì)在動(dòng)物的行為中出現(xiàn)，可以說它具有常識(shí)。當(dāng)然，這些考慮既適用于人類，也適用于其他動(dòng)物，并延伸到社會(huì)領(lǐng)域。特別是，對(duì)日常世界的共同理解是語言的核心。假設(shè)你去上班，發(fā)現(xiàn)一群同事站在大樓外面淋著雨?！澳阍诟墒裁?”你問離你最近的人。如果她如實(shí)回答“我站在雨里”，你會(huì)覺得很奇怪。相反，她說的是“火警”，從而表現(xiàn)出對(duì)人類對(duì)信息需求的常識(shí)理解，以及對(duì)話在獲取信息方面的作用。 一般智力的第二個(gè)主要要求是創(chuàng)造力。這里所說的創(chuàng)造力不是偉大的藝術(shù)家、作曲家或數(shù)學(xué)家的創(chuàng)造力，而是每個(gè)人都能做到的，孩子們身上大量表現(xiàn)出來的那種創(chuàng)造力。它是創(chuàng)新的能力，產(chǎn)生新穎的行為，發(fā)明新事物或設(shè)計(jì)新方法來使用舊事物。它可能是探索性的，也可能是好玩的，就像一個(gè)孩子即興跳舞一樣。但它可能更有目標(biāo)導(dǎo)向，比如規(guī)劃花園的布局或設(shè)計(jì)減少家庭支出的方法。在人類事務(wù)的大計(jì)劃中，像這樣的小創(chuàng)意行為似乎并不新穎，但在每一種情況下，它們都要求個(gè)人超越他或她既定的行為準(zhǔn)則，重塑其元素，或?qū)⑵浣M合成以前未經(jīng)嘗試的組合。 創(chuàng)造力和常識(shí)是相輔相成的。創(chuàng)造力使個(gè)人能夠想出新的行動(dòng)，但需要對(duì)日常世界的常識(shí)理解來預(yù)測(cè)這些行動(dòng)的后果。一方面，沒有常識(shí)的創(chuàng)造力(正如我們?cè)谶@里使用的術(shù)語)只不過是在黑暗中掙扎。另一方面，沒有創(chuàng)造力的常識(shí)是僵化的。但能同時(shí)掌握這兩種能力的智能是非常強(qiáng)大的。面對(duì)一個(gè)不熟悉的挑戰(zhàn)，大腦可以考慮多種行動(dòng)的可能性，這要?dú)w功于它的創(chuàng)造性能力，也要?dú)w功于它對(duì)其效果的常識(shí)性理解，在抽搐肌肉或轉(zhuǎn)動(dòng)馬達(dá)之前預(yù)測(cè)每一種可能的結(jié)果。 2002年，由動(dòng)物認(rèn)知研究者Alex Kacelnik領(lǐng)導(dǎo)的牛津大學(xué)科學(xué)家團(tuán)隊(duì)報(bào)道了一個(gè)明顯自發(fā)創(chuàng)新的好例子。4他們正在研究圈養(yǎng)的新喀里多尼亞烏鴉(一種特別聰明的物種)使用工具的情況，他們使用的實(shí)驗(yàn)裝置包括一個(gè)裝有食物的小桶和一個(gè)高高的管子。為了挑戰(zhàn)這些鳥，人們把水桶放進(jìn)管子里，這樣把手就夠不著了。給鳥兒們提供了彎曲的金屬絲，它們很快就學(xué)會(huì)了用這些金屬絲作為鉤子把食物桶吊出來。然而，有一次，當(dāng)鳥兒沒有鉤子時(shí)，它們的圍欄里只剩下一根直線。在沒有接受過這樣的訓(xùn)練的情況下，其中一只叫貝蒂的鳥把電線的一端塞進(jìn)了儀器上的一個(gè)洞里，并把它彎曲成一個(gè)鉤子，然后用它來獲取食物。 貝蒂的行動(dòng)是創(chuàng)造性和常識(shí)的結(jié)合。它需要?jiǎng)?chuàng)造力來想出彎曲一根無用的電線的想法，它需要對(duì)柔韌材料的常識(shí)來預(yù)測(cè)結(jié)果。如果這些認(rèn)知成分能在非人類動(dòng)物身上產(chǎn)生令人印象深刻的結(jié)果，那么它們?cè)谑褂谜Z言的人類身上的益處要大得多呢?一個(gè)男生對(duì)他的同學(xué)進(jìn)行了一次別出心裁的侮辱，他將語言創(chuàng)造力與對(duì)人類心理學(xué)的常識(shí)性理解結(jié)合在一起(即使他缺乏不把這種侮辱對(duì)準(zhǔn)老師的常識(shí))。這是一個(gè)簡(jiǎn)單的例子。但人類的每一項(xiàng)成就，從金字塔到登月，都是無數(shù)這樣的發(fā)明行為的產(chǎn)物，一個(gè)接一個(gè)。人類水平的人工通用智能如果要取得類似的成就，就必須表現(xiàn)出類似的常識(shí)和創(chuàng)造力的結(jié)合。 第一章【第三節(jié)】；可能的AI

如果人工通用智能的要求如此明確——它只需要一點(diǎn)創(chuàng)造力和一點(diǎn)常識(shí)——那么為什么在該領(lǐng)域的前60年研究進(jìn)展如此之少?鑒于缺乏成功，是否有理由認(rèn)為人類水平的人工智能是可行的?考慮到人類水平的人工智能是如此難以創(chuàng)造，那么推測(cè)超級(jí)智能人工智能的意義何在?我們一直在研究一般智力的行為特征，迄今為止一直避免討論它可能在生物大腦或人工制品中實(shí)現(xiàn)的機(jī)制。但在我們解決這些問題之前，需要彌補(bǔ)這一遺漏。我們不能在不考慮具體機(jī)制的情況下就開始描繪人工智能的未來。在計(jì)算機(jī)科學(xué)術(shù)語中，我們不僅需要考慮規(guī)范，還需要考慮實(shí)現(xiàn)。 在計(jì)算機(jī)科學(xué)中，相同的規(guī)范可以以多種方式實(shí)現(xiàn)是很常見的。這讓我們的任務(wù)變得很困難，因?yàn)榕c只需要生產(chǎn)單一產(chǎn)品的軟件公司不同，我們想要形成一個(gè)關(guān)于整個(gè)可能的人工智能空間的想法。此外，據(jù)我們所知，在不久的將來，一些革命性的技術(shù)將被開發(fā)出來，這將使我們今天幾乎無法想象的人工智能的創(chuàng)造成為可能。然而，我們別無選擇，只能從目前人工智能研究中的各種流派開始，并試圖從那里推斷。 可以對(duì)可能的人工智能空間進(jìn)行有效分類的一個(gè)軸是生物保真度。人工智能的運(yùn)作與生物大腦的運(yùn)作有多相似?在這個(gè)軸的一端，我們發(fā)現(xiàn)人工智能是根據(jù)與控制生物智能截然不同的原則從零開始設(shè)計(jì)的。軸的另一端是基于神經(jīng)網(wǎng)絡(luò)的機(jī)器，它們可以將生物大腦復(fù)制到物理細(xì)節(jié)的精細(xì)水平。有一些方法論學(xué)派提倡在 在整個(gè)人工智能的歷史上都是如此。每一所學(xué)校的受歡迎程度都有起起落落，但沒有一所學(xué)校能取得勝利，而且每一所學(xué)校都有自己的理由。 例如，在動(dòng)力飛行的歷史上，有一個(gè)老生常談的類比，把第一種機(jī)器——從零開始設(shè)計(jì)的人工智能——比作飛機(jī)。早期飛行器的設(shè)計(jì)包括模仿鳥類扇動(dòng)翅膀。但這種方法失敗了。固定機(jī)翼和螺旋槳被證明是讓一個(gè)巨大、沉重的人造物體在空中飛行的最佳方式。類似地，根據(jù)類比的論點(diǎn)，人工智能不應(yīng)該試圖模仿自然，而是應(yīng)該設(shè)計(jì)一套全新的工程原理，為基于硅的計(jì)算量身定制。 這種觀點(diǎn)的反對(duì)者(在指出類比論證的可疑地位之后)可以反駁說，生物大腦是我們擁有的一般智力的唯一范例。我們知道在神經(jīng)基質(zhì)中實(shí)現(xiàn)一般智能是可能的。只要我們能人工復(fù)制這種基質(zhì)，我們就有信心成功。事實(shí)上，在某些相當(dāng)保守的科學(xué)和技術(shù)假設(shè)下，這種受生物學(xué)啟發(fā)的方法在其最極端、最野蠻的偽裝下幾乎肯定會(huì)成功。 關(guān)于從頭開始設(shè)計(jì)人工智能有很多可說的，我們將在適當(dāng)?shù)臅r(shí)候回到這個(gè)主題。但是，這種被稱為全腦模擬的強(qiáng)力生物學(xué)啟發(fā)方法，將是我們目前的重點(diǎn)。全腦仿真不僅是未來創(chuàng)造人工智能的可行步驟，還被吹捧為實(shí)現(xiàn)思想上傳的途徑，這是某些超人類主義的重要目標(biāo)。最后，整個(gè)大腦模擬的概念作為一個(gè)哲學(xué)思想實(shí)驗(yàn)是有用的。它構(gòu)成了一系列強(qiáng)有力的哲學(xué)論點(diǎn)的基礎(chǔ)，這些論點(diǎn)涉及到人工智能、機(jī)器意識(shí)和個(gè)人身份，所有這些都與本書的主題高度相關(guān)。