29日，生命未來研究所（Future of Life Institute）公布一封公開信，呼吁全球所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。

該公開信的網(wǎng)頁截圖

截至發(fā)稿，這封信已有1125名科技領(lǐng)袖和研究人員簽名，除了億萬富翁馬斯克、“人工智能教父”的杰弗里·辛頓，和紐約大學(xué)教授加里·馬庫斯之外，還包括圖靈獎(jiǎng)得主約書亞·本希奧、 蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克、Stability AI首席執(zhí)行官埃馬德·莫斯塔克等科技界領(lǐng)袖人物。

為什么暫停？停下來干什么？

微軟的AI聊天機(jī)器人Bing對(duì)這封公開信的描述（圖片來源：網(wǎng)頁截圖）

對(duì)于暫停的原因，信中解釋為：人工智能系統(tǒng)已經(jīng)被證明可能對(duì)社會(huì)和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)，但最近相關(guān)熱潮已經(jīng)“陷入了一場(chǎng)失控的競(jìng)賽”。

在信中，他們拋出了四個(gè)問題來揭示人工智能可能帶來的風(fēng)險(xiǎn)：

• 我們是否應(yīng)該讓機(jī)器用宣傳和謊言淹沒我們的信息渠道？

• 我們是否應(yīng)該讓所有的工作自動(dòng)化，包括那些令人滿意的工作？

• 我們是否應(yīng)該發(fā)展最終可能在數(shù)量上超過我們、在智能上超越我們、能夠淘汰并取代我們的非人類思維？

• 我們應(yīng)該冒著失去對(duì)我們文明控制的風(fēng)險(xiǎn)嗎？

因此這封信呼吁，所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)至少6個(gè)月。否則各國(guó)政府應(yīng)介入并實(shí)行暫停。

在暫停期間，相關(guān)企業(yè)和科技界應(yīng)共同開發(fā)和實(shí)施一套共享安全協(xié)議，并建立相關(guān)的監(jiān)控機(jī)構(gòu)、追蹤設(shè)計(jì)和審議制度以確保安全。

AI到底有什么現(xiàn)實(shí)的威脅？

“人工智能教父”杰弗里·辛頓認(rèn)為人工智能對(duì)人類構(gòu)成威脅“并非不可想象”（圖片來源：澎湃新聞）

這封公開信提出的四個(gè)問題可以說是逐步遞進(jìn)的，而其中最現(xiàn)實(shí)的就是第一個(gè)問題。

據(jù)中新網(wǎng)援引路透社報(bào)道，歐洲刑警組織(Europol)日前也認(rèn)為，ChatGPT等人工智能可能會(huì)被濫用于網(wǎng)絡(luò)釣魚、虛假信息和網(wǎng)絡(luò)犯罪。此外，英國(guó)政府也公布了關(guān)于建立AI監(jiān)管框架的提議。

參與公開信聯(lián)署的紐約大學(xué)教授加里·馬庫斯指出，比起擔(dān)憂天網(wǎng)和機(jī)器人“接管世界”，應(yīng)該更多思考眼前的風(fēng)險(xiǎn)。包括恐怖分子在內(nèi)的犯罪分子可能對(duì)大型語言模型做什么，以及如何阻止他們。

美國(guó)作家、紐約大學(xué)教授蓋瑞·馬庫斯（資料圖片）

換句話說就是，與其擔(dān)心AI太聰明以至于毀滅人類，還不如擔(dān)心AI太笨以至于被不法分子利用。

馬庫斯認(rèn)為，許多普通人也曾在人類歷史中制造過各種各樣的災(zāi)難。所以起關(guān)鍵作用的不是智力，而是權(quán)力。而現(xiàn)在，人工智能已經(jīng)被賦予了太多的權(quán)力，比如所有信息的訪問權(quán)限，和生成品不受約束的傳播能力，所以必須要對(duì)其施加管控。

科技公司已開始進(jìn)行改進(jìn)

微軟的AI聊天機(jī)器人Bing已經(jīng)可以辨別并拒絕一些明顯的錯(cuò)誤觀點(diǎn)（圖片來源：網(wǎng)頁截圖）

對(duì)于這封公開信當(dāng)中提到的問題，科技巨頭們其實(shí)也早有預(yù)期。

早些時(shí)候，微軟開啟人工智能輔助搜索引擎Bing公開測(cè)試時(shí)，有用戶發(fā)現(xiàn)，新版Bing在部分情況下會(huì)出現(xiàn)侮辱用戶、撒謊等行為，甚至?xí)噲D引導(dǎo)用戶的情緒。

對(duì)此微軟很快進(jìn)行了調(diào)整，優(yōu)化回答的語氣以及準(zhǔn)確性；同時(shí)，官方也承認(rèn)，較長(zhǎng)時(shí)間的連續(xù)對(duì)話，很可能會(huì)導(dǎo)致新版Bing“翻車”。

網(wǎng)友發(fā)布的微軟在新版Bing中加入廣告鏈接的截圖，百度：？（圖片來源：社交媒體）

但就在最近，微軟已經(jīng)測(cè)試在新Bing中加入廣告。這種新形式的廣告是無法攔截的。這也引發(fā)了人們對(duì)于商業(yè)信息可能會(huì)進(jìn)一步滲透人工智能的擔(dān)憂。

關(guān)于人類和AI關(guān)系的思考，從技術(shù)誕生之初就沒有停過。

如今，從通過資格考試，到進(jìn)行藝術(shù)“創(chuàng)作”，AI能做的事越來越多，朝著“智能”的方向越走越遠(yuǎn)。但同時(shí)，利用AI技術(shù)進(jìn)行網(wǎng)絡(luò)詐騙勒索、傳播非法信息等犯罪行為也層出不窮。

不同于物理世界技術(shù)創(chuàng)新成果轉(zhuǎn)化的漫長(zhǎng)周期，AI技術(shù)突破往往會(huì)通過互聯(lián)網(wǎng)一夜之間散播全球。在人類未能就AI倫理、監(jiān)管等找到妥善解決之道前，這些討論和擔(dān)憂并不多余。

推特網(wǎng)友@nikola_horvath：

暫停6個(gè)月只會(huì)將問題推遲6個(gè)月。我想說，這更像是馬斯克公司想利用這種延遲來搞自己的AI與ChatGPT競(jìng)爭(zhēng)。看起來科技富豪不喜歡別人搶在他前邊哦。

推特網(wǎng)友@IanCalv63274296：

但是我用最先進(jìn)的AI做了風(fēng)險(xiǎn)評(píng)估，它告訴我說AI沒有風(fēng)險(xiǎn)?。ㄖS刺）。

推特網(wǎng)友@realadamrsweet：

很高興能看到像馬斯克這樣的技術(shù)領(lǐng)導(dǎo)者認(rèn)識(shí)到先進(jìn)的AI系統(tǒng)有潛在風(fēng)險(xiǎn)。最重要的是要進(jìn)行負(fù)責(zé)任的人工智能開發(fā)，防止對(duì)社會(huì)和人類產(chǎn)生負(fù)面影響。

推特網(wǎng)友@yao2377：

那是因?yàn)轳R斯克跟不上AI發(fā)展了。假如告訴他不要搞太空發(fā)射，誰也不知道他會(huì)說些什么。

推特網(wǎng)友@oskararnarson：

如果你覺得人工智能危險(xiǎn)...放心好了...絕對(duì)比你想得還要糟。

推特網(wǎng)友@fozberry1：

呵呵，氣候變化問題也很嚴(yán)峻啊，怎么沒見企業(yè)或者政府重視起來采取行動(dòng)呢。

推特網(wǎng)友@DeependraMSinha：

正確的警告...人類已經(jīng)為研發(fā)原子彈及相關(guān)活動(dòng)付出了沉重代價(jià)...人工智能最好不要重蹈覆轍...

推特網(wǎng)友@mungosmummy：

我們要讓這些簽署聯(lián)名信的人首先而不是最后坐在談判桌前。否則這將會(huì)讓那些不負(fù)責(zé)的人（我就是在說傳奇商人馬斯克）代替你們?nèi)ブ贫ㄒ?guī)則。

微博網(wǎng)友@軋機(jī)自動(dòng)化：汽車出來時(shí)馬車也是反對(duì)的。

微博網(wǎng)友@現(xiàn)紋 ：為什么是“六個(gè)月”？

微博網(wǎng)友@耳鼻喉科包偉晶：多年以后未來人類讀歷史，可能會(huì)將今年當(dāng)作AI元年，或?qū)⑽覀兩硖幍倪@個(gè)時(shí)代看作是人工智能新紀(jì)元。 那么，作為這一場(chǎng)巨大變革的親歷者，作為這一項(xiàng)能夠顛覆人類世界運(yùn)行規(guī)則的重大技術(shù)的見證人，我真有幸。

微博網(wǎng)友@吃士力架的靜流：這很有必要，到不是說AI會(huì)反叛或是怎么樣，而是說如果初期不靠譜的AI污染了數(shù)據(jù)源，那么以后就很難再去利用網(wǎng)絡(luò)上的數(shù)據(jù)去訓(xùn)練了。

微博網(wǎng)友@md2_：真相：OpenAI是馬斯克聯(lián)合PayPal時(shí)代的幾個(gè)哥們建立的，2018年馬斯克想踢掉哥們自己上位，被拒，馬斯克撤資退出。微軟的印度CEO接盤，投資10億美元并把當(dāng)時(shí)世界第5的超級(jí)計(jì)算機(jī)交給OpenAI，終于鑄就了GPT4的奇跡。你們猜猜馬斯克為什么現(xiàn)在跳出來反對(duì)？

微博網(wǎng)友@再不瘋狂待何時(shí)201206：早就該制止與監(jiān)督了。

微博網(wǎng)友@長(zhǎng)劍書生：他的星鏈為什么不停一停？

微博網(wǎng)友@看心情不看黃歷：非常有必要，這玩意最大的作用就是污染數(shù)據(jù)庫，顛覆人類幾年前的文明，大概十年后，培養(yǎng)出我們都無法溝通的新人類。

微博網(wǎng)友@松如_：核彈是1945年在日本爆炸過之后，1968年才出現(xiàn)的核不擴(kuò)散協(xié)議。

微博網(wǎng)友@eXtrA_章：這東西可以預(yù)見的是，比核彈還要厲害，那么就不會(huì)有人主動(dòng)停止，因?yàn)樾挪贿^其他人。

微博網(wǎng)友@周末上不了發(fā)條：翻譯一下這封信：你們不許跑了，等我追上了再說。

微博網(wǎng)友@希雬：然后你就能比別人領(lǐng)先六個(gè)月，或者追趕六個(gè)月？怎么可能有公司同意。

【英文短語】Get woke: 醒醒吧

Means you’re knowledgeable, aware, and “with it.”

意思是保持頭腦清醒，了解時(shí)事。

例句：If you think AI is right in everything, you need to get woke.?

翻譯：如果你覺得人工智能不會(huì)犯錯(cuò)，那你真是要清醒清醒了。

?

綜合：澎湃新聞、中新網(wǎng)、海外網(wǎng)等報(bào)道