GPT 是人類召喚出的邪神？或許只是焦慮。如果人類在機(jī)器中創(chuàng)造出意識，我們可能生活在模擬宇宙

通用人工智能是人類召喚出的邪神，正如克拉克所說，真神降臨，群星慢慢閉上了眼睛。有人高喊奇點(diǎn)已經(jīng)到來。今天，一千多名科學(xué)家的要求暫緩更強(qiáng)人工智能模型訓(xùn)練的公開信刷爆全網(wǎng)。

人類文明真的迎來一個重大拐點(diǎn)嗎？奇點(diǎn)臨近，末日降臨？

毀滅人類的蛋

1945 年，美國洛斯阿拉莫斯的沙漠里，一顆鐵蛋立于鐵塔之巔。一片死寂中，世界正在等待毀滅的爆發(fā)。

那是人類第一次核爆。核彈創(chuàng)造者，奧本海默，注視著這顆耗費(fèi)了無數(shù)心血的鐵蛋，想起幾千年前印度的史詩詩句：現(xiàn)在，我將變成死神，世界的毀滅者。

詭異的鐵蛋靜臥高塔頂端，不祥的毀滅力量潛伏其中。

靶場播報員倒數(shù)的聲音響起：十、九、八......

不止一個在場的人把這個聲音當(dāng)成世界毀滅的聲音。楊振寧的博士導(dǎo)師，匈牙利人泰勒，就是其中之一。

核爆前，他曾提出，核彈爆炸，有可能點(diǎn)燃地球大氣層，造成人類滅絕。

現(xiàn)在，人類又孵化出一顆蛋，再一次，創(chuàng)造這顆蛋的先知們，開始害怕自己召喚出來的東西。

五十年前的科幻小說《萊姆狂想曲》中，作家設(shè)想，超越人類的人工智能率先由軍方開發(fā)出來。

那個時代，冷戰(zhàn)鐵幕下的核末日危機(jī)讓西方世界的知識分子惶惶不安。出于軍事戰(zhàn)略目的，開發(fā)具有毀滅人類力量的人工智能，是最符合國際形勢的推測。

有人說，科幻小說從來都不能預(yù)言未來，他們的想象總是局限在時代。萊姆沒有想到，超級人工智能是資本主義商業(yè)化的產(chǎn)物。就算德國老馬設(shè)想出來的優(yōu)越性制度，也沒能舉全國之力攻堅，發(fā)展出即將碾壓人類智力的人工智能。

誰能想到資本家們再次召喚出毀滅人類的力量。

通用人工智能來臨？

最近，一封公開信發(fā)布于網(wǎng)絡(luò)，呼吁暫停更大規(guī)模人工智能模型數(shù)據(jù)訓(xùn)練，已有多達(dá) 1125 人在公開信上簽名（值得注意的是，好多簽名是偽造的，當(dāng)事人并不知情）。最前面的五人，除了兩名人工智能專家，還有首富馬斯克、蘋果創(chuàng)始人沃茲尼亞克，還有以《人類簡史》名世的尤瓦爾。后面是一大群科技界人士，有著名物理學(xué)家，有企業(yè)家，有學(xué)生。

我注意到，和沃森一道研究意識的神經(jīng)生物學(xué)家柯赫（Koch）竟然也簽名了。

公開信的要點(diǎn)如下：

1.潛在風(fēng)險：高等人工智能可能引發(fā)地球生命史深刻改變，理應(yīng)在有效監(jiān)管下試驗。

2. 競爭失控：當(dāng)前關(guān)于人工智能模型的訓(xùn)練，涉及商業(yè)競爭，已然有失控風(fēng)險。誰也不知道會訓(xùn)練出來什么怪物。

3. 文明失控：我們是否應(yīng)該發(fā)展出超過人類的人工智能？現(xiàn)有的人工智能已經(jīng)能夠取代一般人類任務(wù)。我們是否應(yīng)該更進(jìn)一步，發(fā)展出全面超越人類的人工智能？從而放棄人類文明的優(yōu)先地位，放棄對自身文明的控制？

4. 迅速叫停：暫停至少半年的人工智能模型大規(guī)模數(shù)據(jù)訓(xùn)練。如有違反，政府或其它監(jiān)管機(jī)構(gòu)應(yīng)該介入。

5. 達(dá)成共識：共同制定并實施關(guān)于人工智能研究監(jiān)管的安全協(xié)議。確保人類安全。

技術(shù)奇點(diǎn)

人們對人工智能的焦慮由來已久。

計算機(jī)控制人類，人類派出秘密特工潛入計算機(jī)基地（最好處于某個神秘孤島），輸入人類建造計算機(jī)時留下的自毀密碼，最終拯救人類。這是英國科幻小說《秘密行動》中的故事梗概。

現(xiàn)實中，最早鼓吹人類警惕人工智能的是庫茲韋爾。庫茲韋爾自稱科學(xué)家、發(fā)明家、企業(yè)家、未來學(xué)家，寫了一本《奇點(diǎn)臨近》的書，忽悠了許多國內(nèi)著名高校的計算機(jī)教授，驚為稀世之作，組織翻譯出版，在國內(nèi)頗為流行。

奇點(diǎn)是本身是物理學(xué)術(shù)語。人們通過借助數(shù)學(xué)研究物理模型，一旦所建立的物理模型，在某個點(diǎn)，尤其是廣義相對論中的時空點(diǎn)，出現(xiàn)無窮大，這時基于正常條件建立的模型開始失效，畢竟你不能從無窮大中得到任何有用的東西。這時，物理學(xué)家就會說，這里出現(xiàn)了奇點(diǎn)。奇點(diǎn)處，物理理論失效。實際上，這表明現(xiàn)有的理論不完備，存在一些不能描述的點(diǎn)。

奇點(diǎn)的出現(xiàn)，暗示理論有嚴(yán)重缺陷，而非那里真的具有無限大的密度或質(zhì)量。所以，奇點(diǎn)只是理論上的存在。人們不相信，宇宙中真的存在奇點(diǎn)。

就庫茲韋爾所言的奇點(diǎn)，是指，當(dāng)人工智能強(qiáng)大到一定程度，將超越人類智能，從而造成人類文明時空，從此以后，基于線性外推的未來預(yù)測不再有效，未來完全不可預(yù)知，或者說再沒有未來。人類歷史進(jìn)入技術(shù)奇點(diǎn)。

技術(shù)奇點(diǎn)的概念最早由數(shù)學(xué)家兼科幻作家弗諾文奇提出，經(jīng)過庫茲韋爾的包裝宣傳，成為一個商業(yè)概念。

這是販賣焦慮的典型商業(yè)套路。庫茲韋爾順勢推出奇點(diǎn)大學(xué)、奇點(diǎn)主義等一系列商業(yè)產(chǎn)品和概念，取得了相當(dāng)?shù)纳虡I(yè)影響和成功。

卡耐基梅隆大學(xué)博士王威廉曾經(jīng)在《中國計算機(jī)學(xué)會通訊》撰文指出，奇點(diǎn)理論只是一個商業(yè)包裝，而庫茲韋爾則是一個民科，主要利用“垃圾科學(xué)”商業(yè)化賺錢。實際上美國 CBS 電視臺曾報道過庫茲韋爾的伎倆。

最近鼓吹人工智能威脅最力的是首富馬斯克。馬斯克先是搞 Palbal 賺到第一桶金，然后收購德國工程師的電池專利，賣起電瓶車。發(fā)家之后，又準(zhǔn)備去火星，搞火箭。被稱為鋼鐵俠。他總是一副憂心全人類的樣子。為了整頓美國網(wǎng)絡(luò)空間，收購了推特，結(jié)果差點(diǎn)一頓瞎操作，差點(diǎn)整死了。

早在 2015 年，阿爾法狗還沒有戰(zhàn)勝人類之前，他就憂心超級人工智能會對人類造成威脅?，F(xiàn)在更是憂心忡忡牽頭弄出一個公開信。馬斯克讓我想起陽明先生著名的弟子王艮。王艮有次夢見天塌了，幸虧他雙手撐住。

如欲拯救天下蒼生，挽救人類文明，舍我其誰哉！馬斯克沒說這話。但是我替他說了。王艮可能也會這么說。不過，王艮有時會忘記，自己穿的是紙作的衣服。

我們真正應(yīng)該擔(dān)心什么？

當(dāng)被問道機(jī)器人能否消滅人類的問題時，有人工智能女王之稱的賈斯汀·卡塞爾（Justine Cassell）說：不用怕，等二十分鐘機(jī)器人就沒電了。

如你所料，這份公開信的簽名人當(dāng)中，沒有賈斯汀。不過也沒有弗諾文奇和庫茲韋爾。最近人們總是問 GPT 的創(chuàng)始人奧特曼，你是不是隨身攜帶一個按鈕，能緊急關(guān)停 ChatGPT？

實際上，人工智能學(xué)界很多人還是保持冷靜，完全不認(rèn)為人類已經(jīng)召喚出來了邪神，面臨滅亡的困境。

楊立昆甚至都不認(rèn)為 ChatGPT 就是強(qiáng)人工智能。別忘了，最先實現(xiàn)神經(jīng)網(wǎng)絡(luò)算法反向傳播的人，正是此公。

不過公開信中關(guān)于人工智能對社會的擔(dān)憂有一部分是正確的。

我們已經(jīng)見識了劍橋分析利用社交媒體操縱民意，影響選舉結(jié)果。讓西方世界擔(dān)憂引以為傲的抿住體制就此被摧毀。

比起劍橋分析使用的技術(shù)，ChatGPT 可謂是核彈級的信息戰(zhàn)武器。

我們可能淹沒在 GPT 生成的信息洪流之中，不再能依賴信息網(wǎng)絡(luò)工具。

正如《沙丘》中設(shè)想一般，人類將不得不退回信息時代之前。

我們生活在模擬宇宙？

實際上，就算是打遍人類無敵手的人工智能圍棋，最近也爆出存在弱點(diǎn)。

人類終于在圍棋上贏了AI一文中說，有人利用人工智能的弱點(diǎn)實現(xiàn)了連贏 AI 十三局的戰(zhàn)績。這是柯杰也不敢想象的。

但是如果你用這種方式來和人類棋手對弈，對方大概率會覺得你是一個剛剛掌握圍棋規(guī)則的新手，只想過來隨便玩玩。畢竟這種下法的目的太明顯了——就是想用棋子圍起來一大片區(qū)域。

也就是說，有人用小孩子踩腳趾一樣的周星馳招式，打敗了人工智能絕世高手。

顯然，現(xiàn)階段的人工智能只不過是異常強(qiáng)大的專家系統(tǒng)，距離通用人工智能還很遠(yuǎn)。

GPT 本質(zhì)上不過是語言處理系統(tǒng)，它是否真正理解自己輸出的那些文字？這是一個容易引發(fā)哲學(xué)爭議的問題，如同塞爾提出的中文屋子哲學(xué)命題一樣。

但是，很多人工智能學(xué)者相信，人類永遠(yuǎn)不可能制造出具有自我意識的人工智能。

意識和大腦的結(jié)構(gòu)深度關(guān)聯(lián)，不可能在硅基芯片上復(fù)制出來。

最最重要的是，一旦人類在計算機(jī)上實現(xiàn)了意識，也就是說，我們真正創(chuàng)造出了超級通用人工智能，創(chuàng)造了硅基生命，真正創(chuàng)世的神，那么人類極有可能生活一個模擬出來的宇宙。