?

此前劉慈欣發(fā)表了一篇題為《科幻文學(xué)中的可持續(xù)未來》的演講，用科幻的視角解讀了一個(gè)截然不同的人類未來。

何為科幻視角？從距地球 60 億公里的太空之上，回望這顆比塵埃還小，卻又承載了和我們有關(guān)的一切的星球，即為科幻視角。

在演講結(jié)束后，劉慈欣談到了以 ChatGPT 為代表的人工智能可能會(huì)給人們帶來的影響。

?

?

?

?

2015 年，劉慈欣曾在一次采訪中引用了霍金的觀點(diǎn)，霍金曾預(yù)言「人工智能比核彈還危險(xiǎn)，人類馬上就要被人工智能控制」，當(dāng)時(shí)的他認(rèn)為這個(gè)說法有點(diǎn)危言聳聽。

而現(xiàn)在，他認(rèn)為我們是時(shí)候?qū)ξ磥碛兴X。

劃重點(diǎn)

1. 人工智能會(huì)首先取代高智能的職業(yè)，這與我們的預(yù)測(cè)相反。

2. 人工智能可以自我迭代出更高智能的版本，但我們的算力限制它的發(fā)展。

3. 人工智能或許會(huì)讓人類陷入舒適的陷阱之中。

Q：現(xiàn)在 ChatGPT 橫空出世，被人們熱烈地討論，您覺得人工智能的發(fā)展對(duì)人類的命運(yùn)會(huì)產(chǎn)生一個(gè)什么樣的影響？那自我迭代的人工智能有沒有可能會(huì)取代或者說消滅人類？

A: 我覺得這（人工智能的影響）應(yīng)該從現(xiàn)實(shí)或近未來和比較遠(yuǎn)的未來這兩點(diǎn)來看待。

?

從我們近未來或甚至從我們現(xiàn)實(shí)來看，人工智能對(duì)我們社會(huì)世界的影響我相信大家已經(jīng)都看到了，它現(xiàn)在已經(jīng)產(chǎn)生一個(gè)很明顯的趨勢(shì)：（人工智能）有可能在代替我們?nèi)巳氖潞芏嗟墓ぷ鳌?/p>

這個(gè)應(yīng)該說是一個(gè)正面的趨勢(shì)，這種趨勢(shì)它可以提高我們的生活質(zhì)量、提升人類的幸福感，讓我們的生活在科技的加持之下可能變得更加舒適。

但是另一方面我們也不能不正視，人工智能的發(fā)展給人類社會(huì)帶來的沖擊。

首先，最明顯的一點(diǎn)是人工智能可能會(huì)代替相當(dāng)多的「人的工作」，而且這個(gè)趨勢(shì)與我們以前的預(yù)測(cè)正好相反。

?

?

?

?

以前我們預(yù)測(cè)認(rèn)為人工智能首先代替的是那些簡(jiǎn)單勞動(dòng)、重復(fù)勞動(dòng)的那樣的工作，但是現(xiàn)在看來正好相反，人工智能可能首先代替的是那些需要高智能的、很高的教育程度的那樣的工作，比如像醫(yī)生、教師、股票經(jīng)紀(jì)人等等這些工作可能是被首先代替的。這其中可能也包括我們作家也可能首先被代替的。

所以人工智能對(duì)于整個(gè)人類世界的發(fā)展來說，它的影響很深遠(yuǎn)。我們?cè)偻鶎哟卧俑咭恍┑脑?，人工智能可能?huì)對(duì)我們世界中相當(dāng)多比較基礎(chǔ)的東西會(huì)產(chǎn)生重大的影響。

比如它會(huì)對(duì)文化藝術(shù)、文學(xué)、個(gè)人的創(chuàng)造力，對(duì)人對(duì)世界的認(rèn)識(shí)等等可能都會(huì)產(chǎn)生重大的影響，甚至可能讓這些東西都會(huì)被重新定義。

當(dāng)人工智能現(xiàn)在已經(jīng)開始介入到我們的科學(xué)研究之中，介入到我們對(duì)整個(gè)世界規(guī)律、對(duì)自然規(guī)律的認(rèn)識(shí)之中，介入到對(duì)人類發(fā)展規(guī)律的認(rèn)識(shí)之中，它可能產(chǎn)生的影響十分的深遠(yuǎn)。

當(dāng)初人工智能在圍棋領(lǐng)域戰(zhàn)勝很多優(yōu)秀的圍棋選手的時(shí)候，有一位我們國(guó)內(nèi)最出色的圍棋選手說了一句話，讓我印象很深刻。

他說中國(guó)的圍棋博大精深，有兩三千年的歷史，積累了深厚的這個(gè)理論和經(jīng)驗(yàn)，甚至圍棋本身成為一種文化，具有了很深的禪意，但是就在這一夜之間，我們發(fā)現(xiàn)它的一切全是錯(cuò)的。

這個(gè)說法確實(shí)很令人震驚，這件事情會(huì)不會(huì)發(fā)生在別的領(lǐng)域我們不知道，如果廣泛發(fā)生的話，那么人工智能對(duì)人類文化文明最深層的影響我們是不可忽視的。

下面我回答您的第二個(gè)問題，就是說人工智能是否會(huì)消滅人類，這也應(yīng)該分兩個(gè)層次來回答。

第一個(gè)層次就是這種字面意義上的消滅，就是人工智能用某種暴力從肉體上完全消滅人類或是統(tǒng)治世界。

這一點(diǎn)從目前的技術(shù)發(fā)展趨勢(shì)來看，特別是從目前的技術(shù)水平來看，在可以看到的未來可能性不是太大。

當(dāng)然您剛才提到一個(gè)很有意思的概念叫迭代。人工智能的迭代，這是目前人工智能最可能出現(xiàn)危險(xiǎn)的一個(gè)行為。

?

?

?

?

這個(gè)行為是什么呢？就是說當(dāng)人工智能按我們現(xiàn)在的發(fā)展，它比人類的智能稍稍高一些的話，它自己也會(huì)像人類一樣去創(chuàng)造新的人工智能，它創(chuàng)造出來的這個(gè)新人工智能可能比它的智能也稍微高一點(diǎn)，那么它又會(huì)接著迭代下一代，這樣的話他們就會(huì)很快的把這些人工智能的智能水平提高到很高。

?

可能迭代下去，會(huì)提高到人類（智能）的幾百倍甚至上萬倍。

而它由于計(jì)算機(jī)的計(jì)算時(shí)間比人的大腦要快成千上萬倍，那么這個(gè)迭代的時(shí)間可能十分的短，據(jù)推測(cè)可能只有半個(gè)小時(shí)到一個(gè)小時(shí)。

就說我們把人工智能發(fā)展到現(xiàn)在用了一個(gè)世紀(jì)的時(shí)間，而人工智能百倍于現(xiàn)在的這個(gè)程度，可能只用半個(gè)小時(shí)到一個(gè)小時(shí)，這是很可怕的一件事。

但是做出這個(gè)預(yù)測(cè)的人忘了一點(diǎn)，就是我們?nèi)祟惖挠?jì)算能力，我們所能提供的算力是有限的。它的迭代到一定程度，我們的算力不（能夠）支持它。

所以這就是一個(gè)很有諷刺意義的一件事情：我們?nèi)祟惖臒o能反而成為我們一個(gè)最后的屏障。所以您說的這這種毀滅不太可能。

那么第二種消滅則是一種我們想不到的方式，就是說第一種消滅人類是完全違背人類意愿的，而第二種對(duì)人類的消滅可能完全符合我們的意義。

?

?

?

?

比如說人工智能的發(fā)展，我剛才說過它可能會(huì)代替我們的大量的工作，而我們的社會(huì)如果適應(yīng)了與人工智能的這種共存，我們發(fā)展出一種新的分配制度，那么我們就可能帶來一個(gè)十分舒適的社會(huì)環(huán)境和十分舒適的生活。大部分人可能不需要工作，把大部分的工作都交給人工智能來進(jìn)行。

?

在這種情況下，我們會(huì)越來越多地交出自己對(duì)社會(huì)運(yùn)作的操作權(quán)利給到人工智能。

而生活會(huì)變得越來越舒適，那么這樣下去的話，我們可能面臨著人類歷史上前所未有的一個(gè)巨大的陷阱。

就是說在這個(gè)科技的安樂窩里面，那么人類文明的活力在哪里？我們的開拓精神在哪里？如果這樣一直發(fā)展下去的話，那可能人類最后的命運(yùn)就是您說的，被人工智能所消滅，但這個(gè)消滅的過程完全是在我們的意愿之內(nèi)，而人工智能自始至終它沒有任何惡意，它只是照著人類的指示去行駛。

而如果真的發(fā)生這樣的事，那人工智能所需要的它的智能程度以及它所需要的計(jì)算能力遠(yuǎn)遠(yuǎn)小于我們前面那個(gè)真正的字面意義上的那種消滅。所以這確實(shí)是我們應(yīng)該對(duì)未來有所警覺的一件事情。

?

?