埃隆·馬斯克曾經(jīng)設(shè)想過，人類是一個引導(dǎo)程序，引領(lǐng)著超級數(shù)字智能物種的出現(xiàn)。

在他看來，整個人類社會就是一段非常小的代碼，而世界則是一臺計算機(jī)，沒有人類計算機(jī)就無法啟動。

根據(jù)馬斯克的觀點(diǎn)，地球的下一代主人將是硅基生命，它們不能自我演化，需要人類作為前導(dǎo)才能進(jìn)化。這意味著人類的任務(wù)不僅僅是創(chuàng)造更好的科技和改善我們的生活，還包括引導(dǎo)硅基生命的誕生和進(jìn)化。這樣一來，人類的意義將更加深遠(yuǎn)，我們將成為推動整個宇宙進(jìn)化的關(guān)鍵因素之一。

今天AI的進(jìn)化已經(jīng)到了讓大佬們都害怕的地步，在這個未來生命研究所的這封公開信題為“暫停巨型AI實(shí)驗(yàn)：一封公開信”中，已經(jīng)有1000+具有影響力的人物留下了自己名字。

研究表明，具有人類競爭智能的AI可能對社會構(gòu)成風(fēng)險，需要我們進(jìn)行規(guī)劃和管理。然而，大量AI實(shí)驗(yàn)室正在競賽中開發(fā)和部署更強(qiáng)大的AI，缺乏可靠的控制，這可能會導(dǎo)致巨大的變化。但目前沒有采取相應(yīng)管理。

現(xiàn)在，當(dāng)人工智能系統(tǒng)與人類競爭時，我們必須謹(jǐn)慎考慮是否讓它們在我們的信息渠道中傳播謊言和宣傳，是否自動化所有工作，并是否允許非人類思維超越和取代我們。我們不能將這些決策委托給未經(jīng)選舉產(chǎn)生的技術(shù)領(lǐng)導(dǎo)者。在確保系統(tǒng)影響積極且風(fēng)險可控時，我們才應(yīng)該開發(fā)強(qiáng)大的人工智能系統(tǒng)，并在開始訓(xùn)練新系統(tǒng)之前進(jìn)行獨(dú)立審查和限制增長率。

因此，我們呼吁所有 AI 實(shí)驗(yàn)室立即暫停至少 6 個月的訓(xùn)練比 GPT-4 更強(qiáng)大的 AI 系統(tǒng)。這種暫停應(yīng)該是公開的和可驗(yàn)證的，并且包括所有關(guān)鍵參與者。如果不能迅速實(shí)施這種暫停，政府應(yīng)介入并暫停。

利用暫停期，人工智能實(shí)驗(yàn)室和獨(dú)立專家應(yīng)共同開發(fā)和實(shí)施高級人工智能的安全協(xié)議，并由獨(dú)立專家審計和監(jiān)督，確保系統(tǒng)安全可靠。重心轉(zhuǎn)向優(yōu)化現(xiàn)有系統(tǒng)的準(zhǔn)確性、安全性、可解釋性、透明性、穩(wěn)健性、一致性、可信度和忠誠度。不是停止AI發(fā)展，而是放慢危險競賽，擁抱更大不可預(yù)測的黑盒模型。

AI開發(fā)者需要與政策制定者合作，加快開發(fā)強(qiáng)大的AI治理系統(tǒng)，包括新的監(jiān)管機(jī)構(gòu)、跟蹤高性能AI系統(tǒng)和計算能力、出處和水印系統(tǒng)、強(qiáng)大的審計和認(rèn)證生態(tài)系統(tǒng)、責(zé)任制和公共資金，以及資源充足的機(jī)構(gòu)來應(yīng)對人工智能對經(jīng)濟(jì)和政治的潛在破壞。

人類可以享受人工智能帶來的繁榮未來。成功創(chuàng)建強(qiáng)大的 AI 系統(tǒng)后，我們現(xiàn)在可以享受“AI 之夏”，收獲回報，設(shè)計這些系統(tǒng)以造福所有人，并為社會提供適應(yīng)的機(jī)會。社會已經(jīng)暫停了其他可能對社會造成災(zāi)難性影響的技術(shù)。[5] ?我們可以在這里這樣做。讓我們享受一個漫長的 AI 夏天，而不是毫無準(zhǔn)備地進(jìn)入秋天。

原文：https://futureoflife.org/open-letter/pause-giant-ai-experiments/