人類可能已到了生死存亡的關(guān)頭，這不是危言聳聽，而是迫在眉睫的現(xiàn)實，而即將把人類放上砧板的，可能就是人工智能GPT！

最近，生命未來研究所（Future of Life）發(fā)布了一封《暫停大型人工智能研究》的公開信，呼吁立即全面暫停比GPT-4更強大的人工智能系統(tǒng)研究，只有確信強人工智能系統(tǒng)是積極的，風(fēng)險是可控的，才應(yīng)該繼續(xù)開發(fā)。

值得注意的是，馬斯克已在公開信上簽字，其他Stability AI首席執(zhí)行官Emad Mostaque、谷歌旗下DeepMind研究人員及 AI重量級人物Yoshua Bengio和Stuart Russell等1100多人已經(jīng)簽署，強烈呼吁暫停高級 AI開發(fā)，直到此類設(shè)計的共享安全協(xié)議由獨立專家開發(fā)、實施和審核。

是不是感覺已山雨欲來風(fēng)滿樓？實際情況可能比這更糟糕，人類可能已經(jīng)走上了一條不歸路，離產(chǎn)生意識的AGI接管地球生命演化的時代可能已經(jīng)不遠。

這封公開信開頭就直言，人工智能已對社會和人類構(gòu)成較大風(fēng)險，高級人工智能可能代表著地球上生命歷史的深刻變革。既然馬斯克等人簽署了這封公開信，那么他們實際就已經(jīng)承認人類可能已經(jīng)面臨失去控制文明的風(fēng)險。

為什么高級人工智能可能代表著地球上生命歷史的深刻變革呢？我想提出地球生命演化的三個階段。

第一個階段是生物演化。從30多億年前第一個單細胞生物誕生開始，到人類演化出智慧之前，這個階段的演化本質(zhì)上是由基因驅(qū)動的，所有生物相互掠奪能量，通過緩慢的基因突變，進化出越來越復(fù)雜的生命形式。

第二個階段是智慧演化。從幾十萬年前智人開始擁有智慧到現(xiàn)在，這個階段是由知識驅(qū)動的，智人通過880萬億個神經(jīng)元發(fā)展出語言文字，獨立于所有其他物種，讓獲得的知識代代相傳，越來越豐富，越來越復(fù)雜，最終在地球上演化出現(xiàn)代文明。

第三個階段是機器智能演化。這個階段從現(xiàn)在開始，第一階段是30多億年，第二階段是幾十萬年，那么這個階段可能會很短，甚至短得出乎所有人的意料。這個階段可能會由我們現(xiàn)在還無法知道的東西驅(qū)動，這個東西將通過無限個數(shù)的人工神經(jīng)網(wǎng)絡(luò)形成，讓所有知識連成一個系統(tǒng)的網(wǎng)絡(luò)，由所有的人工智能和機器共享。

人類的大腦結(jié)構(gòu)顯然無法容納、快速檢索和利用這些現(xiàn)在暫時還可以稱為“知識”的東西，所以選擇只有兩個，一個是被人工智能徹底邊緣化，就像尼安德特人被智人淘汰一樣；一個是通過腦機接口之類的東西，接入人工神經(jīng)網(wǎng)絡(luò)，對有機身體進行增強，融入人工智能。

無論哪種形式，我們現(xiàn)在已知的智慧形式，未來可能都將不復(fù)存在，取而代之的更可能是一種“集體意識”之類的形式，接入將會被統(tǒng)一，不接入將會在演化中消失，變成我們現(xiàn)在眼中的螞蟻?；蛘呖梢哉f，世界已經(jīng)走得不見蹤影，你只能在原地卑微地活著。

OpenAI的CEO奧特曼已經(jīng)公開承認，ChatGPT已出現(xiàn)了推理能力，但沒有人能解釋這種能力是如何出現(xiàn)的，他還承認，AI確實可能殺死人類。

除了馬斯克外，簽署這封公開信的有很多人工智能方面的頂級人物，包括圖靈獎得主、深度學(xué)習(xí)三巨頭之一約書亞·本吉奧（Yoshua Bengio），《人類簡史》作者尤瓦爾·赫拉利等人，以及大型科技企業(yè)CEO，包括蘋果的聯(lián)合創(chuàng)始人等。

不過這個簽名是在網(wǎng)上公開簽署，所以暫時還無法辨明真假，因為任何人都可以把別人的名字簽上，這一點看起來不太嚴肅。前面我說的生命演化三個階段，也只是一家之言，我正在做一個視頻闡述，朋友們可以關(guān)注。

從這幾天使用ChatGPT和Bing AI的情況來看，感覺OpenAI的團隊還在不斷調(diào)試，明顯對它們施加了更多限制，這意味著至少目前情況還是可控的。但未來會怎樣，我感到比較悲觀，因為大尺度上的演化，是沒有任何力量能夠阻止的。