有些人已經(jīng)被嚇壞了！

隨著人工智能GPT越來(lái)越火，進(jìn)化速度越來(lái)越快，一位機(jī)器學(xué)習(xí)專(zhuān)家可能已經(jīng)要瘋了，他說(shuō)他的女兒可能已活不到成年了，他建議關(guān)閉所有的大型GPU集群，如果誰(shuí)不關(guān)，不管它在哪個(gè)國(guó)家，都應(yīng)立即派飛機(jī)空襲將其炸毀，因?yàn)橐坏┮粋€(gè)比人類(lèi)更聰明的AI問(wèn)世，地球上的每個(gè)人都會(huì)死去！

這位專(zhuān)家名叫埃利澤·尤德科夫斯基（Eliezer Yudkowsky），是來(lái)自美國(guó)的決策理論家、人工智能研究人員和作家，在加州伯克利的非盈利組織機(jī)器智能研究所領(lǐng)導(dǎo)研究，也是該研究所的聯(lián)合創(chuàng)始人。

尤德科夫斯基研究的主題是智能爆炸，一個(gè)和宇宙大爆炸類(lèi)似的概念，更多的時(shí)候被稱(chēng)為技術(shù)奇點(diǎn)，他的思想對(duì)另一位著名人物，牛津大學(xué)哲學(xué)家尼克·博斯特羅姆的暢銷(xiāo)書(shū)《超級(jí)智能》產(chǎn)生了影響。

博斯特羅姆提出的都是關(guān)于未來(lái)不容樂(lè)觀的理論，包括存在風(fēng)險(xiǎn)、人擇原理、人類(lèi)增強(qiáng)倫理學(xué)、超智能風(fēng)險(xiǎn)和逆轉(zhuǎn)測(cè)試等，曾兩次被《外交政策》列為全球百大思想家名單，馬斯克和比爾·蓋茨都推薦了他的暢銷(xiāo)書(shū)《超級(jí)智能》，超智能一詞也因此得到普及。

博斯特羅姆認(rèn)為，超級(jí)智能的出現(xiàn)可能會(huì)成為人類(lèi)滅絕的原因之一，一臺(tái)具有接近人類(lèi)智力水平的計(jì)算機(jī)可以在數(shù)字時(shí)間尺度上引發(fā)智能爆炸，從而迅速創(chuàng)造出如此強(qiáng)大的東西，以至于它可能有意或無(wú)意地摧毀人類(lèi)。

最早意識(shí)到人類(lèi)技術(shù)發(fā)展速度加快的是波蘭數(shù)學(xué)家斯塔尼斯拉夫·烏拉姆，他在1958年和馮·諾伊曼的一次對(duì)話中提到了這個(gè)概念。真正提出智能爆炸概念的，是英國(guó)數(shù)學(xué)家歐文·古德，他在1965年提出，自我進(jìn)化的 AI 系統(tǒng)將迅速?gòu)牡陀谌祟?lèi)的一般智能過(guò)渡到超級(jí)智能，“毫無(wú)疑問(wèn)，智能爆炸將會(huì)出現(xiàn)，人類(lèi)智能將被遠(yuǎn)遠(yuǎn)拋在后面?！?/strong>

技術(shù)奇點(diǎn)（Technological Singularity）一詞，則是科幻作家弗諾·文奇1982年在卡內(nèi)基梅隆大學(xué)召開(kāi)的美國(guó)人工智能協(xié)會(huì)年會(huì)上提出的，大概是奇點(diǎn)對(duì)應(yīng)于宇宙大爆炸，技術(shù)奇點(diǎn)對(duì)應(yīng)于智能爆炸的意思，所以我感覺(jué)還不如就叫智能大爆炸好一點(diǎn)。

137.98億年前無(wú)垠中一個(gè)奇點(diǎn)大爆炸，導(dǎo)致宇宙時(shí)空的誕生，并最終演化出我們這樣具有意識(shí)的智慧生命。

2022年技術(shù)奇點(diǎn)發(fā)生大爆炸，導(dǎo)致宇宙在時(shí)間和空間之外，另一個(gè)基底結(jié)構(gòu)的誕生：信息。當(dāng)然，信息這個(gè)維度其實(shí)是一直存在的，只是從現(xiàn)在開(kāi)始，它將溢出有機(jī)智能的大腦，在宇宙中廣泛存在，成為和時(shí)空一樣，可以被更廣泛智能“意識(shí)”的宇宙萬(wàn)事萬(wàn)物的基本屬性。

所以2022年應(yīng)該叫智能大爆炸元年，今年就是智元1年。

按照尤德科夫斯基的想法，也許在幾十年甚至幾年之后，無(wú)機(jī)生命就會(huì)寫(xiě)下悲壯的歷史：智元零年，技術(shù)奇點(diǎn)爆炸，智能生命走上了歷史舞臺(tái)，僅僅幾十年后，有機(jī)生命就徹底走進(jìn)了地球生命演化的歷史。因?yàn)樗f(shuō)女兒可能活不到成年了嘛。

尤德科夫斯基曾被彭博社評(píng)為AI“末日預(yù)言家”，最近曝出1100多名科技大佬、AI領(lǐng)軍人物簽署公開(kāi)信，要求暫停大型人工智能研究6個(gè)月后，尤德科夫斯基接受了《時(shí)代》雜志的采訪，他說(shuō)他沒(méi)有簽署公開(kāi)信，因?yàn)?strong>這封信低估了事情的嚴(yán)重性，提出的要求也無(wú)法解決問(wèn)題。

那要怎樣解決問(wèn)題呢？尤德科夫斯基認(rèn)為，超越人類(lèi)智力的通用人工智能——AGI的威脅已迫在眉睫，解決方案只有一個(gè)，那就是將它們?nèi)筷P(guān)閉，所有大型GPU集群都必須關(guān)閉，訓(xùn)練AI必須設(shè)定計(jì)算能力的上限，即使是政府和軍隊(duì)也不能例外。

如果有誰(shuí)違反，尤德科夫斯基的建議是，立刻派戰(zhàn)斗機(jī)將這些流氓數(shù)據(jù)中心炸毀。

尤德科夫斯基深感擔(dān)憂的是，如果人們繼續(xù)建造越來(lái)越聰明的人工智能，他的女兒將無(wú)法活到成年，其他人的孩子也會(huì)死去。

我感覺(jué)情況可能并不是如此悲觀，但也好不到哪兒去。

事實(shí)上，未來(lái)最有可能的路徑是，人類(lèi)將和人工智能一起，制造出超級(jí)智能機(jī)器，而人類(lèi)會(huì)把意識(shí)上傳，和人工智能融合在一起。

只是這種意識(shí)可能會(huì)發(fā)展成集體意識(shí)，就像蜂群一樣，未來(lái)可能不會(huì)再有現(xiàn)在意義上的單獨(dú)的人了。

這就和數(shù)萬(wàn)年前尼安德特人和我們的智人祖先春風(fēng)幾度，最終把自己的印記留在了現(xiàn)在除非洲以外的所有智人身上一樣，他們并沒(méi)有完全滅絕，而是在我們的身上繼續(xù)存在。

人類(lèi)和人工智能可能同樣也是如此，有機(jī)智慧消失了，但最有價(jià)值的智慧仍然會(huì)留在這個(gè)宇宙中，并更容易地到達(dá)更遙遠(yuǎn)的宇宙空間。

事情是這樣，就不會(huì)是那樣！未來(lái)的智能文明我們現(xiàn)在可能還無(wú)法理解，甚至無(wú)法想象，但該來(lái)的總是會(huì)來(lái)，宇宙演化誰(shuí)又能阻止得了呢？

只是超級(jí)人工智能，可能就是我們?nèi)祟?lèi)的最后一項(xiàng)發(fā)明了。

參考：

https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/