譯者：李浚弘

目錄

1；人工智能之路

2；全腦仿真

3；工程人工智能

4；超級智能

5；人工智能與意識

6；人工智能的影響

7；天堂或地獄

系列前言

麻省理工學(xué)院出版社的基本知識系列提供了可訪問的，簡潔的，制作精美的袖珍書籍的主題，當(dāng)前的興趣。由著名思想家撰寫的這一系列書籍提供了從文化和歷史到科學(xué)和技術(shù)的主題的專家概述。 在今天這個即時信息滿足的時代，我們隨時可以獲得各種觀點、合理化和膚淺的描述。更難獲得的是基礎(chǔ)知識，這些知識能讓我們對世界有原則性的理解?；局R書籍滿足了這種需求。為非專業(yè)人士綜合專門的主題，并通過基礎(chǔ)知識參與關(guān)鍵主題，這些緊湊的卷為讀者提供了一個訪問復(fù)雜思想的點。 Bruce Tidor---麻省理工學(xué)院生物工程和計算機(jī)科學(xué)教授

開場白

和其他許多致力于人工智能研究的人一樣，我從小就受到科幻小說的啟發(fā)。我童年時代的英雄并不存在。在阿西莫夫的小說《我是機(jī)器人》(I Robot，不是電影)中，蘇珊·卡爾文(Susan Calvin)是機(jī)器人心理學(xué)領(lǐng)域的先驅(qū)。我比任何人都想長大后成為她那樣的人?，F(xiàn)在我已經(jīng)(有點)長大了，并且在現(xiàn)實生活中擁有認(rèn)知機(jī)器人教授的頭銜，我與科幻小說的關(guān)系更加復(fù)雜。我仍然認(rèn)為它是靈感的源泉，是探索重要哲學(xué)思想的媒介。然而，它所探討的觀點值得更深入的研究。科幻小說的主要目的是娛樂，盡管是以一種智力刺激的方式。用它來指導(dǎo)思考是錯誤的。 所以這并不是一部科幻小說。也不是所謂的未來學(xué)。這里的目的不是做預(yù)測。更確切地說，它是在調(diào)查一系列可能的未來情景，而不是對任何特定的前景做出承諾，也沒有任何特定的時間表。事實上，即使是極不可能或遙遠(yuǎn)的情況有時也值得研究。這是正確的，例如，如果一個場景是特別反烏托邦的。在這種情況下，我們可能要仔細(xì)考慮如何進(jìn)一步降低這種可能性。不太可能或遙遠(yuǎn)的場景也值得討論，如果它們提出了有趣的哲學(xué)問題，比如迫使我們思考我們作為一個物種真正想要的是什么。因此，無論你是否認(rèn)為我們很快就能創(chuàng)造出人類水平的人工智能，無論你是否認(rèn)為奇點即將到來，這個想法都值得認(rèn)真思考。 這是一本關(guān)于一個非常大的主題的短書。因此，本文只能作為導(dǎo)論，許多重要問題僅作簡要論述。例如，關(guān)于意識的各種論點都有眾所周知的反論點，而這些論點都有其自身的價值。但是一本介紹性的書必須略過這些微妙之處。此外，該書主要關(guān)注人工智能的未來，而一些重要的相關(guān)主題，如納米技術(shù)和生物技術(shù)，幾乎沒有涉及。本書旨在對概念領(lǐng)域提供一個中立的概述，我試圖在有爭議的問題上概述爭論的雙方。然而，盡管我盡了最大努力，我自己的一些觀點似乎不可避免地會透過中立的面紗被看到。 我要感謝幾十年來與我討論人工智能的許多人，不僅是學(xué)者和學(xué)生，還有參加過我演講的公眾。我想指名道姓地感謝他們，但這是不可能的。因此，我要對幾位最近影響特別重要的學(xué)者表示明確的感謝。感謝斯圖爾特·阿姆斯特朗、尼克·波斯特羅姆、安德魯·戴維森、丹尼爾·杜威、蘭德爾·科尼、理查德·紐科姆、歐文·霍蘭德、休·普萊斯、斯圖爾特·拉塞爾、安德斯·桑德伯格和揚·塔林。對不起那些我已經(jīng)忘記的人。最后，我要感謝麻省理工學(xué)院出版社，尤其是鮑勃·普賴爾，一開始就鼓勵我寫這本書。 Murray Shanahan

簡介

近年來，由于日益快速的技術(shù)進(jìn)步，人類歷史正在接近“奇點”的觀點已經(jīng)從科幻小說的領(lǐng)域進(jìn)入了嚴(yán)肅辯論的領(lǐng)域。在物理學(xué)中，奇點是空間或時間上的一個點，例如黑洞的中心或大爆炸的瞬間，在這里數(shù)學(xué)失效，我們的理解能力也隨之失效。類似地，如果指數(shù)級的技術(shù)進(jìn)步帶來了如此巨大的變化，以至于我們今天所理解的人類事務(wù)結(jié)束了，那么人類歷史上的奇點就會出現(xiàn)。我們認(rèn)為理所當(dāng)然的機(jī)構(gòu)——經(jīng)濟(jì)、政府、法律、國家——將無法以目前的形式生存下去。人類最基本的價值觀——生命的神圣、對幸福的追求、選擇的自由——將被取代。我們對作為一個個體，活著，有意識，成為社會秩序的一部分的理解，所有這一切都將受到質(zhì)疑，不是通過超然的哲學(xué)思考，而是通過現(xiàn)實和現(xiàn)實的環(huán)境的力量。 什么樣的技術(shù)進(jìn)步可能帶來這樣的劇變?我們將在本書中研究的假設(shè)是，這種技術(shù)奇點可以通過人工智能(AI)和神經(jīng)技術(shù)這兩個相關(guān)領(lǐng)域中的一個(或兩個)的重大進(jìn)展來促成。我們已經(jīng)知道如何修補(bǔ)生命的物質(zhì)，基因和DNA。生物技術(shù)的影響已經(jīng)足夠大了，但與學(xué)習(xí)如何設(shè)計“思維的東西”的潛在影響相比，它們就相形見絀了。 今天，在一個重要的意義上，智力是固定的，這限制了技術(shù)進(jìn)步的范圍和速度。當(dāng)然，幾千年來，人類知識的儲備一直在增加，我們傳播知識的能力也隨之增強(qiáng)，這要歸功于寫作、印刷和互聯(lián)網(wǎng)。然而，產(chǎn)生知識的器官，即智人的大腦，在同一時期內(nèi)基本沒有變化，其認(rèn)知能力無人能及。 如果人工智能和神經(jīng)技術(shù)領(lǐng)域?qū)崿F(xiàn)了它們的承諾，這種情況將會改變。如果智力不僅成為生產(chǎn)者，而且成為技術(shù)的產(chǎn)物，那么就會產(chǎn)生一個具有不可預(yù)測和潛在爆炸性后果的反饋循環(huán)。因為當(dāng)被設(shè)計的東西就是智能本身，就是進(jìn)行設(shè)計的東西，它就可以開始改進(jìn)自己。根據(jù)奇點假說，不久之后，普通人就會被排除在這個循環(huán)之外，被人工智能機(jī)器或認(rèn)知能力增強(qiáng)的生物智能超越，無法跟上人類的步伐。 奇點假說值得認(rèn)真對待嗎，還是只是一個想象中的虛構(gòu)?認(rèn)真對待它的一個理由是基于雷·庫茲韋爾(Ray Kurzweil)所說的“加速回報定律”。如果技術(shù)進(jìn)步的速度與技術(shù)的質(zhì)量成正比，那么一個技術(shù)領(lǐng)域就符合加速回報定律。換句話說，技術(shù)越好，越快變得更好，隨著時間的推移產(chǎn)生指數(shù)級的改進(jìn)。 這一現(xiàn)象的一個突出例子是摩爾定律，根據(jù)摩爾定律，在單個芯片上可以制造的晶體管數(shù)量大約每18個月翻一番。值得注意的是，半導(dǎo)體行業(yè)幾十年來一直堅持摩爾定律。信息技術(shù)進(jìn)步的其他指標(biāo)，如CPU速度和網(wǎng)絡(luò)帶寬，也遵循類似的指數(shù)曲線。但信息技術(shù)并不是我們看到進(jìn)步加速的唯一領(lǐng)域。例如，在醫(yī)學(xué)領(lǐng)域，DNA測序的成本呈指數(shù)級下降，而速度卻呈指數(shù)級增長，大腦掃描技術(shù)的分辨率也呈指數(shù)級增長。 在歷史的時間尺度上，這些加速的趨勢可以在一系列技術(shù)里程碑的背景下看到:農(nóng)業(yè)、印刷、電力、計算機(jī)。在更長的進(jìn)化時間尺度上，這一系列技術(shù)本身之前是一系列進(jìn)化里程碑，它們的出現(xiàn)間隔也在不斷縮短:真核生物、脊椎動物、靈長類動物、智人。這些事實使一些評論家認(rèn)為，人類正騎在一條復(fù)雜程度急劇增加的曲線上，這條曲線一直延伸到遙遠(yuǎn)的過去。盡管如此，我們只需要將曲線的技術(shù)部分外推到未來一小段時間，就能達(dá)到一個重要的臨界點，在這個臨界點上，人類技術(shù)會使普通人在技術(shù)上過時。 當(dāng)然，由于物理定律，每一個指數(shù)級技術(shù)趨勢最終都必須達(dá)到一個平臺期，而且有許多經(jīng)濟(jì)、政治或科學(xué)原因可以解釋為什么指數(shù)級趨勢在達(dá)到理論極限之前就會停滯。但讓我們假設(shè)，與人工智能和神經(jīng)技術(shù)最相關(guān)的技術(shù)趨勢保持其加速勢頭，促進(jìn)了設(shè)計思維的能力，綜合和操縱智能機(jī)器的能力。在這一點上，智能本身，無論是人工智能還是人類智能，都將受制于加速回報定律，從這里到技術(shù)奇點只是一個小小的信念飛躍。 一些學(xué)者自信地預(yù)測，這一分水嶺將在21世紀(jì)中葉出現(xiàn)。不過，除了預(yù)言之外，還有其他原因可以讓我們仔細(xì)思考奇點的概念，畢竟預(yù)言本身就是一件碰運氣的事情。首先，從知識分子的角度來看，這個概念本身就非常有趣，無論它是什么時候出現(xiàn)的，甚至是是否出現(xiàn)的。其次，這種可能性本身，無論它看起來多么遙遠(yuǎn)，都值得今天從純粹實用主義、嚴(yán)格理性的角度進(jìn)行討論。即使未來主義者的論點有缺陷，我們只需要賦予預(yù)期事件一個很小的概率，它就會引起我們最真誠的關(guān)注。如果技術(shù)奇點真的出現(xiàn)，對人類的影響將是巨大的。 這些潛在的技術(shù)后果是什么?如果技術(shù)奇點真的出現(xiàn)，會產(chǎn)生什么樣的世界，什么樣的宇宙?我們應(yīng)該害怕奇點的前景，還是應(yīng)該歡迎它?如果有的話，我們今天或不久的將來能做些什么來確保最好的結(jié)果?這些是接下來幾頁要處理的主要問題。這些都是大問題。但奇點的前景，即使只是一個概念，也有望為古老的哲學(xué)問題提供新的線索，這些問題可能更大。我們?nèi)诵缘谋举|(zhì)是什么?我們最基本的價值觀是什么?我們應(yīng)該怎樣生活?在這一切中，我們愿意放棄什么?因為技術(shù)奇點的可能性既帶來了生存風(fēng)險，也帶來了生存機(jī)遇。 它構(gòu)成了生存風(fēng)險，因為它潛在地威脅到人類物種的生存。這聽起來可能有些夸張，但今天的新興技術(shù)具有前所未有的力量。不難相信，一種高度傳染性、耐藥的病毒經(jīng)過基因工程改造后，其發(fā)病率足以引發(fā)這樣的災(zāi)難。只有瘋子才會故意制造這種東西。但是，要設(shè)計一種能夠變異成這樣一個怪物的病毒，可能只需要愚蠢一點。高級人工智能造成生存風(fēng)險的原因類似，但要微妙得多。我們將在適當(dāng)?shù)臅r候探討這些問題。與此同時，我只想說，考慮一些公司、政府、組織甚至某些個人在未來創(chuàng)造并失去對一個指數(shù)級自我改進(jìn)、資源饑渴的人工智能的控制的可能性，是唯一合理的。 從更樂觀的角度來看，技術(shù)奇點也可以被視為一個存在的機(jī)會，從“存在”這個詞的哲學(xué)意義上來說。改造思維的能力開啟了超越我們的生物遺傳的可能性，從而克服了隨之而來的限制。這些限制中最重要的是死亡率。動物的身體是很脆弱的，很容易受到疾病、損傷和腐爛的傷害，而人類意識(今天)所依賴的生物大腦只是它的一部分。但如果我們掌握了修復(fù)任何程度的損傷的方法，并最終從頭開始重建它，可能是在一個非生物的基底上，那么就沒有什么可以阻止意識的無限擴(kuò)展了。 延長壽命是一種被稱為“超人類主義”的思潮的一個方面。但是我們?yōu)槭裁匆獫M足于我們所知道的人類生活呢?如果我們能重建大腦，為什么我們不能重新設(shè)計它，升級它呢?(同樣的問題也可能被問到人體，但我們這里關(guān)心的是智力。)記憶、學(xué)習(xí)和注意力的保守性改善可以通過藥物手段實現(xiàn)。但是，從下到上重新設(shè)計大腦的能力表明，有可能出現(xiàn)更激進(jìn)的認(rèn)知增強(qiáng)和重組形式。我們可以或應(yīng)該如何利用這種變革力量?至少，有一種觀點認(rèn)為，這將減輕超級智能機(jī)器帶來的生存風(fēng)險。它會讓我們跟上，盡管在這個過程中我們可能會變得面目全非。 從最大、最具挑釁性的意義上講，技術(shù)奇點可能是一個存在的機(jī)會，只有完全跳出人類的視角，采用更宇宙論的觀點，才能抓住這個機(jī)會。假設(shè)宇宙這個角落的物質(zhì)故事在人類社會和無數(shù)嵌入其中的生命大腦中達(dá)到高潮，盡管它們是不可思議的，這無疑是人類中心思想的高度。也許物質(zhì)在復(fù)雜程度上還有很長的路要走。也許在某種意義上，還有一些意識形式尚未出現(xiàn)，它們比我們的意識更優(yōu)越。面對這樣的前景，我們是應(yīng)該退縮，還是應(yīng)該歡欣鼓舞?我們能理解這樣的想法嗎?無論奇點是否接近，這些問題都值得一問，尤其是因為在試圖回答這些問題的過程中，我們對自己以及我們在事物秩序中的位置有了新的認(rèn)識。