一封公開信，要求“所有 AI 實(shí)驗(yàn)室立即暫停至少 6 個(gè)月”
包括伊隆馬斯克、史蒂夫沃茲尼亞克和人道技術(shù)中心的特里斯坦哈里斯在內(nèi)的 1,100 多名簽名者簽署了一封公開信，該公開信于周二晚上發(fā)布在網(wǎng)上，呼吁“所有人工智能實(shí)驗(yàn)室立即暫停至少 6 個(gè)月的培訓(xùn)比 GPT-4 更強(qiáng)大的人工智能系統(tǒng)?！?/p>
信中寫道：
當(dāng)代人工智能系統(tǒng)現(xiàn)在在一般任務(wù)上變得與人類具有競(jìng)爭(zhēng)力，[3] 我們必須捫心自問：我們是否應(yīng)該讓機(jī)器用宣傳和謊言充斥我們的信息渠道？我們應(yīng)該自動(dòng)化所有的工作，包括令人滿意的工作嗎？我們是否應(yīng)該發(fā)展最終可能超過(guò)我們、超越我們、過(guò)時(shí)并取代我們的非人類思維？我們應(yīng)該冒險(xiǎn)失去對(duì)我們文明的控制嗎？不得將此類決定委托給未經(jīng)選舉產(chǎn)生的技術(shù)領(lǐng)導(dǎo)者。只有當(dāng)我們確信它們的影響是積極的并且它們的風(fēng)險(xiǎn)是可控的時(shí)候，才應(yīng)該開發(fā)強(qiáng)大的人工智能系統(tǒng)。
這封信認(rèn)為，有一種“規(guī)劃和管理水平”“沒有發(fā)生”，相反，最近幾個(gè)月，未命名的“人工智能實(shí)驗(yàn)室”已經(jīng)“陷入了一場(chǎng)失控的開發(fā)和部署競(jìng)賽”任何人——甚至是它們的創(chuàng)造者——都無(wú)法理解、預(yù)測(cè)或可靠控制的更強(qiáng)大的數(shù)字思維?！?/p>
這封信的簽署人，其中一些是人工智能專家，表示他們要求的暫停應(yīng)該是“公開的和可驗(yàn)證的，并且包括所有關(guān)鍵參與者?！?信中說(shuō)，如果所說(shuō)的暫停“不能迅速實(shí)施，政府應(yīng)該介入并暫停”。
當(dāng)然，這封信很有趣，因?yàn)橐呀?jīng)簽名的人——包括 Meta 和谷歌的一些工程師、Stability AI 創(chuàng)始人兼首席執(zhí)行官 Emad Mostaque，以及非技術(shù)人員，包括自稱電工和美容師——以及那些誰(shuí)沒有。例如，大型語(yǔ)言模型 GPT-4 背后的組織 OpenAI 的任何人都沒有在這封信上簽名。也沒有來(lái)自 Anthropic 的人，他們的團(tuán)隊(duì)從 OpenAI 中分離出來(lái)以構(gòu)建一個(gè)“更安全的”AI 聊天機(jī)器人。
周三，OpenAI 首席執(zhí)行官 Sam Altman接受了《華爾街日?qǐng)?bào)》的采訪，稱 OpenAI 尚未開始訓(xùn)練 GPT-5。Altman 還指出，該公司在開發(fā)中一直將安全放在首位，并在 GPT-4 推出前用了六個(gè)多月的時(shí)間對(duì)其進(jìn)行了安全測(cè)試?！皬哪撤N意義上說(shuō)，這是在向合唱團(tuán)布道，”他告訴《華爾街日?qǐng)?bào)》。“我認(rèn)為，我們一直在最響亮、最強(qiáng)烈、最長(zhǎng)地討論這些問題?！?/p>
事實(shí)上，奧特曼在 1 月份與這位編輯坐下來(lái)，他認(rèn)為“現(xiàn)在開始這些 [產(chǎn)品發(fā)布] [有意義]，其中的風(fēng)險(xiǎn)仍然相對(duì)較低，而不是僅僅推出整個(gè)行業(yè)將擁有的東西沒有時(shí)間讓社會(huì)更新的歲月。”
Altman 最近與計(jì)算機(jī)科學(xué)家和受歡迎的播客 Lex Fridman 進(jìn)行了交談，并談到了他與 Musk 的關(guān)系，Musk 是 OpenAI 的聯(lián)合創(chuàng)始人，但在 2018 年以利益沖突為由離開了該組織。（來(lái)自媒體 Semafor 的最新報(bào)道稱，馬斯克在提出運(yùn)營(yíng) OpenAI 的提議遭到其他聯(lián)合創(chuàng)始人拒絕后離職，其中包括 Altman，后者于 2019 年初擔(dān)任首席執(zhí)行官一職。）
馬斯克也許是這封公開信的最不令人驚訝的簽署者，因?yàn)樗嗄陙?lái)一直在談?wù)撊斯ぶ悄馨踩?，并且最近專門針對(duì) OpenAI，這表明該公司只是空談，沒有采取行動(dòng)。弗里德曼向奧特曼詢問馬斯克最近和例行公事的推文抨擊該組織的情況。Altman 說(shuō)：“埃隆現(xiàn)在顯然在 Twitter 上用幾個(gè)不同的向量攻擊我們，我很同情他，因?yàn)槲蚁嘈潘梢岳斫狻娴暮軓?qiáng)調(diào) AGI 的安全性。我敢肯定還有其他一些動(dòng)機(jī)在發(fā)生，但這絕對(duì)是其中之一?！?/p>
也就是說(shuō)，奧特曼補(bǔ)充說(shuō)，他發(fā)現(xiàn)馬斯克的某些行為很傷人?！拔医^對(duì)是和埃隆一起長(zhǎng)大的，他是我心目中的英雄。你知道，盡管他在 Twitter 上是個(gè)混蛋，但我很高興他存在于這個(gè)世界上。但我希望他能做更多的事情，看看我們?yōu)榘堰@件事做好所做的努力?！?/p>
我們?nèi)栽谙@封信（其他人已經(jīng)將其撕成碎片）。
