2023年3月22日，生命未來(lái)研究所（Future of Life Institute，FLI）發(fā)布了一封關(guān)于暫停強(qiáng)大AI系統(tǒng)試驗(yàn)的公開(kāi)信（Pause Giant AI Experiments: An Open Letter），信中呼吁所有人工智能實(shí)驗(yàn)室立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，至少暫停6個(gè)月；并且，在暫停期間，AI實(shí)驗(yàn)室和獨(dú)立學(xué)者應(yīng)針對(duì)高級(jí)AI的設(shè)計(jì)和開(kāi)發(fā)共同制定實(shí)施一套共享安全協(xié)議。這份協(xié)議的審計(jì)和監(jiān)督應(yīng)由獨(dú)立的外部專家嚴(yán)格執(zhí)行，確保AI的安全性不超過(guò)合理的懷疑范圍。該公開(kāi)信從發(fā)布到現(xiàn)在，已有1125人在公開(kāi)信上簽名附議，簽名人數(shù)還在持續(xù)增加中。

科技創(chuàng)新，倫理先行。中國(guó)生物多樣性保護(hù)與綠色發(fā)展基金會(huì)生物與科學(xué)倫理工作委員會(huì)（綠會(huì)BASE）長(zhǎng)期以來(lái)一直密切關(guān)注國(guó)內(nèi)外科技倫理重大議題、前沿問(wèn)題、新興和典型議題的案例研究和前沿資訊，并以案說(shuō)理，持續(xù)推出《科技創(chuàng)新中倫理問(wèn)題前瞻研究》系列；積極參與全球科技倫理治理。2021年11月25日，聯(lián)合國(guó)教科文組織大會(huì)第41屆會(huì)議上正式通過(guò)的《人工智能倫理問(wèn)題建議書(shū)》中，充分采納了綠會(huì)BASE此前向聯(lián)合國(guó)教科文組織（UNESCO）就《人工智能倫理問(wèn)題建議書(shū)（草案）》提出的建議——應(yīng)將“生態(tài)環(huán)境”和“生物多樣性”因素列入。

在日常開(kāi)展國(guó)際合作和交流中，嚴(yán)格貫徹了科技倫理要求，積極防范科技倫理風(fēng)險(xiǎn)。）積極參與全球數(shù)字治理、全球環(huán)境治理。綠會(huì)加入了全球遺傳資源數(shù)字序列科學(xué)網(wǎng)絡(luò)、地球生物基因組計(jì)劃，發(fā)起生物多樣性南南大科學(xué)計(jì)劃，全程參與了2020后全球生物多樣性框架談判等工作，在多項(xiàng)全球治理中都突出了倫理先行。

此外，還發(fā)布了倫理相關(guān)全國(guó)團(tuán)體標(biāo)準(zhǔn)，如《自然攝影倫理規(guī)范》全國(guó)團(tuán)體標(biāo)準(zhǔn)(T/CGDF 00008—2020)和《ESG評(píng)價(jià)標(biāo)準(zhǔn)》全國(guó)團(tuán)體標(biāo)準(zhǔn)（T/CGDF 00011-2021）。

?

對(duì)于公開(kāi)信的詰問(wèn)：“我們是否應(yīng)該把所有工作都自動(dòng)化，包括那些有成就感的工作？我們是否該開(kāi)發(fā)機(jī)器大腦，讓它們比人腦還多，比人腦還聰明，最終淘汰我們?nèi)〈覀儯课覀兪欠駪?yīng)該冒文明失控的風(fēng)險(xiǎn)？”我們似乎還沒(méi)有做好準(zhǔn)備。對(duì)此，綠會(huì)BASE倡導(dǎo)，人工智能的發(fā)展需確保其符合科技倫理，需有助于人類社會(huì)的可持續(xù)發(fā)展，并以造福人類為追求。

現(xiàn)附上公開(kāi)信原文：

暫停巨大的人工智能實(shí)驗(yàn)：一封公開(kāi)信

?

我們呼吁所有人工智能實(shí)驗(yàn)室立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，至少暫停6個(gè)月。

?

和人類智能相近的AI系統(tǒng)會(huì)為社會(huì)和人類帶來(lái)極大風(fēng)險(xiǎn)，廣泛的研究已經(jīng)證明了這一點(diǎn)[1]，頂尖的AI實(shí)驗(yàn)室也已經(jīng)承認(rèn)[2]。正如Asilomar AI原則所指出的那樣，“高級(jí)AI可能意味著地球生命史上的深刻變革，我們應(yīng)當(dāng)投入可觀的關(guān)注和資源對(duì)其進(jìn)行規(guī)劃和管理”。不幸的是，這種規(guī)劃和管理沒(méi)人去做，而最近幾個(gè)月，AI實(shí)驗(yàn)室正在開(kāi)發(fā)和部署越來(lái)越強(qiáng)大的數(shù)字思維，這種競(jìng)爭(zhēng)逐漸失控——包括它們的創(chuàng)造者在內(nèi)，沒(méi)有人能理解、預(yù)測(cè)或可靠地控制它們。

?

如今，AI系統(tǒng)在一般任務(wù)上已經(jīng)具備了與人類競(jìng)爭(zhēng)的能力[3]，我們必須自問(wèn)：是否該讓信息渠道充斥著機(jī)器寫(xiě)就的宣傳和謊言？是否應(yīng)該把所有工作都自動(dòng)化，包括那些有成就感的工作？是否該開(kāi)發(fā)機(jī)器大腦，讓它們比人腦還多，比人腦還聰明，最終淘汰我們?nèi)〈覀?？是否?yīng)該冒文明失控的風(fēng)險(xiǎn)？這樣的決定絕不能委托給未經(jīng)選舉的技術(shù)領(lǐng)袖來(lái)做。只有當(dāng)我們確信強(qiáng)大的AI系統(tǒng)是積極的、風(fēng)險(xiǎn)是可控的，才應(yīng)該繼續(xù)這種開(kāi)發(fā)。而且AI的潛在影響越大，我們就越需要充分的理由來(lái)證明其可靠性。OpenAI最近關(guān)于人工通用智能的聲明指出，“到了某個(gè)時(shí)間節(jié)點(diǎn)，在開(kāi)始訓(xùn)練新系統(tǒng)之前可能需要進(jìn)行獨(dú)立審查，而用于新模型的計(jì)算的增長(zhǎng)速度也應(yīng)加以限制”。我們深深認(rèn)同這份聲明，而那個(gè)時(shí)間點(diǎn)就是現(xiàn)在。

?

因此，我們呼吁所有正在訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)的實(shí)驗(yàn)室立即暫停訓(xùn)練，至少暫停6個(gè)月。實(shí)驗(yàn)暫停應(yīng)該對(duì)外公開(kāi)，可以驗(yàn)證，并涵蓋所有關(guān)鍵的實(shí)驗(yàn)室。如果不能迅速實(shí)施，政府應(yīng)該介入并發(fā)布禁止令。

?

在暫停期間，AI實(shí)驗(yàn)室和獨(dú)立學(xué)者應(yīng)針對(duì)高級(jí)AI的設(shè)計(jì)和開(kāi)發(fā)共同制定實(shí)施一套共享安全協(xié)議。這份協(xié)議的審計(jì)和監(jiān)督應(yīng)由獨(dú)立的外部專家嚴(yán)格執(zhí)行，確保AI的安全性不超過(guò)合理的懷疑范圍[4]。這并不意味著我們要暫停人工智能的總體發(fā)展，而只是從目前這種會(huì)不斷涌現(xiàn)出具有新能力的、不可預(yù)測(cè)的黑匣子模型的危險(xiǎn)競(jìng)賽中退后一步。

?

人工智能的研究和開(kāi)發(fā)應(yīng)該重新聚焦于優(yōu)化最先進(jìn)的系統(tǒng)，讓它更加準(zhǔn)確、安全、可解釋、透明、穩(wěn)健、一致、值得信賴、對(duì)人類忠誠(chéng)。

?

與此同時(shí)，AI開(kāi)發(fā)人員必須與決策者合作，大力推進(jìn)強(qiáng)有力的AI治理系統(tǒng)的發(fā)展。這個(gè)系統(tǒng)至少應(yīng)包括：針對(duì)AI的新型監(jiān)管機(jī)構(gòu)；對(duì)高能力AI系統(tǒng)的監(jiān)督追蹤和大型算力池；幫助區(qū)分真實(shí)數(shù)據(jù)與AI生成的數(shù)據(jù)、并且追蹤模型泄漏的溯源和水印系統(tǒng)；強(qiáng)有力的審計(jì)和認(rèn)證生態(tài)系統(tǒng)；對(duì)AI造成的損害定責(zé)；用于技術(shù)AI安全研究的強(qiáng)大公共資金；應(yīng)對(duì)AI可能會(huì)引發(fā)的巨大經(jīng)濟(jì)和政治動(dòng)蕩（尤其是對(duì)民主的影響）的有充足資源的機(jī)構(gòu)。

?

人類可以和AI共創(chuàng)繁榮未來(lái)。我們已經(jīng)成功地創(chuàng)建了強(qiáng)大的AI系統(tǒng)，現(xiàn)在我們可以享受“AI之夏”，在這個(gè)過(guò)程中，收獲回報(bào)，設(shè)計(jì)監(jiān)管系統(tǒng)，造福所有人，并給社會(huì)一個(gè)適應(yīng)的機(jī)會(huì)。我們已經(jīng)暫停了其他可能產(chǎn)生災(zāi)難性影響的技術(shù)，對(duì)于AI我們也應(yīng)如此。

?

讓我們享受一個(gè)長(zhǎng)長(zhǎng)的AI之夏，不要毫無(wú)準(zhǔn)備地沖入秋天。

?

文/Samantha? 審/綠茵

?

相關(guān)閱讀：

響應(yīng)時(shí)代號(hào)召，中國(guó)綠發(fā)會(huì)積極開(kāi)展科技倫理工作

https://baijiahao.baidu.com/s?id=1731053433168194475

中國(guó)綠發(fā)會(huì)科技倫理工作組對(duì)《中華人民共和國(guó)藥品管理法實(shí)施條例（修訂草案征求意見(jiàn)稿）》的三點(diǎn)建議｜科技創(chuàng)新倫理問(wèn)題前瞻研究（22）

https://baijiahao.baidu.com/s?id=1735128884353321012

中國(guó)綠發(fā)會(huì)生物與科學(xué)倫理工作委員會(huì)（BASE）2022年工作總結(jié)

https://www.sohu.com/a/623592520_100001695

綠會(huì)融媒觀察：清華大學(xué)成立科技倫理委員會(huì)，設(shè)醫(yī)學(xué)、實(shí)驗(yàn)動(dòng)物、人工智能、人文社會(huì)與工程四個(gè)分委員會(huì)｜科技創(chuàng)新倫理問(wèn)題前瞻研究（73）

https://baijiahao.baidu.com/s?id=1753793866562999754

北京市交通委員會(huì)采納綠會(huì)BASE關(guān)于“個(gè)人信息保護(hù)”的建議｜科技創(chuàng)新倫理問(wèn)題前瞻研究（77）

https://baijiahao.baidu.com/s?id=1755730626388958741

科技倫理被寫(xiě)入《順義區(qū)進(jìn)一步促進(jìn)第三代等先進(jìn)半導(dǎo)體產(chǎn)業(yè)發(fā)展的若干措施》，綠會(huì)建議獲采納

http://www.cbcgdf.org/NewsShow/4854/21303.html

科技創(chuàng)新倫理問(wèn)題前瞻研究（59）｜生態(tài)文明是重點(diǎn)領(lǐng)域的“緊缺專業(yè)”，教育部發(fā)文布局人才培養(yǎng)

https://weibo.com/5327744144/MiDqc2oUn

?