我們呼吁所有人工智能實(shí)驗室立刻暫停訓(xùn)練比GPT-4更為強(qiáng)大的人工智能系統(tǒng)，為期至少六個月。

?

頂級人工智能實(shí)驗室公認(rèn)、由廣泛研究證實(shí)的是：能與人類競爭的人工智能系統(tǒng)可能對社會與全人類帶來重大風(fēng)險。正如阿西洛馬人工智能原則所指出的，成熟的人工智能可能是地球生命史上的一個重大轉(zhuǎn)折點(diǎn)，因此應(yīng)給予相稱的關(guān)注和資源進(jìn)行規(guī)劃與管理。近幾個月，人工智能實(shí)驗室在開發(fā)和部署愈發(fā)強(qiáng)大的數(shù)字智能方面陷入了一場失控的競賽，沒有人——甚至連開發(fā)者們都無法理解、預(yù)測和可靠地掌控這些智能。遺憾的是，即使如此，我們?nèi)匀蝗狈ψ銐虻囊?guī)劃和管理。

?

現(xiàn)代人工智能系統(tǒng)正逐漸獲得在通用任務(wù)上挑戰(zhàn)人類的能力，而我們必須捫心自問：是否應(yīng)該讓機(jī)器充斥我們的信息渠道，散播宣傳和謊言？是否應(yīng)該讓自動化消滅所有的工作，即使這些工作本身能帶來成就感？是否應(yīng)該開發(fā)最終將在數(shù)量和智力上淘汰并取代我們的智能？我們是否愿意承擔(dān)文明失控的風(fēng)險？這些問題不應(yīng)由非民選的科技巨頭決定。我們應(yīng)該僅在確信強(qiáng)大的人工智能系統(tǒng)具有積極作用且風(fēng)險可控的情況下進(jìn)行開發(fā)。這種信心必須被充分論證，并隨著系統(tǒng)潛在影響的增大而加強(qiáng)。OpenAI最近關(guān)于通用人工智能的聲明指出：有一天，對訓(xùn)練新系統(tǒng)進(jìn)行獨(dú)立審查以及限制前沿工作創(chuàng)造新模型時所用算力的增長可能會變得尤其重要。我們同意。這一天已經(jīng)到來。

?

因此，我們呼吁所有人工智能實(shí)驗室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)，為期至少六個月。暫停應(yīng)當(dāng)是公開的、可驗證的，涵蓋所有關(guān)鍵人員。如果無法迅速地達(dá)成暫停，政府應(yīng)該介入并頒布中止令。

?

人工智能實(shí)驗室和獨(dú)立專家應(yīng)利用這段時間共同制定并實(shí)施一套共享的安全協(xié)議，以指導(dǎo)先進(jìn)人工智能的設(shè)計和開發(fā)。協(xié)議應(yīng)由獨(dú)立的外部專家嚴(yán)格審查和監(jiān)督，確保遵守協(xié)議的系統(tǒng)在安全方面排除懷疑。這并不意味著暫停人工智能總體的發(fā)展，而只是從競相開發(fā)日益龐大、不可預(yù)測、具有涌現(xiàn)能力的黑箱模型的危險競賽中后退一步。

?

人工智能研究和開發(fā)應(yīng)重新關(guān)注如何使現(xiàn)有的強(qiáng)大而先進(jìn)的系統(tǒng)更準(zhǔn)確、安全、可解釋、透明、健壯、一致、可信和忠誠。

?

同時，人工智能開發(fā)者必須與政策制定者合作，大力加快建設(shè)健全的人工智能監(jiān)管體系。這至少包括：一個全新且具有充分能力的專責(zé)人工智能監(jiān)管機(jī)構(gòu)；對強(qiáng)大的人工智能系統(tǒng)和大型算力池的監(jiān)管和跟蹤；健全的審計和認(rèn)證系統(tǒng)；對人工智能造成損害的問責(zé)機(jī)制；對人工智能技術(shù)安全研究的強(qiáng)有力的公共資金支持；以及應(yīng)對人工智能帶來的巨大經(jīng)濟(jì)和政治顛覆（尤其是對民主）的資源充足的機(jī)構(gòu)。

?

借助人工智能的幫助，人類可以享受繁榮的未來。我們成功創(chuàng)造了強(qiáng)大的人工智能系統(tǒng)，因而現(xiàn)在可以享受一個碩果累累的“AI盛夏”，為所有人的明確福祉設(shè)計這些系統(tǒng)，給社會一個適應(yīng)的機(jī)會。在其他可能給社會帶來災(zāi)難性后果的技術(shù)上，人類曾經(jīng)按下過暫停鍵。我們現(xiàn)在也可以做到。讓我們享受一個持久的“AI盛夏”，而非毫無準(zhǔn)備地迎接秋天的到來。

原文及簽名地址：https://futureoflife.org/open-letter/pause-giant-ai-experiments/

截止發(fā)布，該公開信已由Yoshua Bengio?(計算機(jī)科學(xué)家，因在深度學(xué)習(xí)上的貢獻(xiàn)獲2018年圖靈獎)、Elon Musk、Steve Wozniak?(蘋果聯(lián)合創(chuàng)始人)、Julien Billot (Scale AI CEO)等逾千名計算機(jī)科學(xué)家、工程師及政商界領(lǐng)袖聯(lián)署，全部名單見原文。

本人僅進(jìn)行翻譯及轉(zhuǎn)載，內(nèi)容以原文為準(zhǔn)，相關(guān)文獻(xiàn)引用請參考原文。