近日，一封名為《暫停大規(guī)模人工智能實(shí)驗(yàn)》的公開信在網(wǎng)絡(luò)上走紅，而這封公開信中所表達(dá)的唯一內(nèi)容，便是呼吁所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)至少6個(gè)月。

商道童言（Innovationcase）留意到，種種跡象已經(jīng)表明，我們對(duì)以GPT系列模型為首的大規(guī)模語言模型的理解和控制越來越弱。數(shù)字經(jīng)濟(jì)應(yīng)用實(shí)踐專家駱仁童也在分析文章提及：這種情況讓人想到互聯(lián)網(wǎng)誕生時(shí)，“互聯(lián)網(wǎng)”也一度被視為洪水猛獸，但幸運(yùn)的是，恰當(dāng)?shù)?、及時(shí)的出現(xiàn)了底層協(xié)議和規(guī)則，在“ChatGPT即將成為新一代工業(yè)革命代表的時(shí)候，AI這個(gè)基礎(chǔ)設(shè)施好也許是時(shí)候思考這個(gè)問題了。

截至目前，這封公開信已獲得超過1270位各領(lǐng)域知名專家的簽名支持，其中包括特斯拉CEO埃隆·馬斯克、蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克、圖靈獎(jiǎng)獲得者約書亞·本吉奧、紐約大學(xué)名譽(yù)教授加里等。?

01? 請(qǐng)暫停超級(jí)人工智能研發(fā)

? 公開信稱，廣泛的研究表明，具有與人類競爭智能的人工智能系統(tǒng)對(duì)社會(huì)和人類構(gòu)成了深遠(yuǎn)的風(fēng)險(xiǎn)。 先進(jìn)的人工智能可能代表地球生命史上的深刻變革，應(yīng)該以相應(yīng)的謹(jǐn)慎和資源來規(guī)劃和管理。

? 不幸的是，這種規(guī)劃和管理并沒有發(fā)生，最近幾個(gè)月，許多人工智能實(shí)驗(yàn)室陷入了一場失控的競賽中，任何人都可以開發(fā)和部署人工智能系統(tǒng)。 而目前，一些人工智能系統(tǒng)的創(chuàng)造者無法理解、預(yù)測(cè)或控制其人工智能的數(shù)字思維。

? 我們必須捫心自問：機(jī)器是否應(yīng)該用宣傳和謊言充斥我們的信息渠道？ 所有的工作都應(yīng)該自動(dòng)化嗎？ 人工智能是否應(yīng)該發(fā)展出一種最終會(huì)超越甚至取代我們的思維？ 人工智能研究是否應(yīng)該冒著失去對(duì)文明控制的風(fēng)險(xiǎn)繼續(xù)下去？

? 此類決策不能委托給未經(jīng)選舉的技術(shù)領(lǐng)導(dǎo)者。 只有當(dāng)我們確信它們的影響是積極的并且它們的風(fēng)險(xiǎn)是可控的時(shí)候，我們才應(yīng)該開發(fā)強(qiáng)大的人工智能系統(tǒng)。 這必須有充分的理由，并且隨著對(duì)系統(tǒng)的潛在影響的大小而增加。

? 因此，公開信呼吁所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練強(qiáng)于GPT-4的人工智能系統(tǒng)至少6個(gè)月。 這種暫停應(yīng)該是公開的、可驗(yàn)證的，并涉及所有關(guān)鍵成員。 如果暫停不能很快實(shí)施，政府應(yīng)該介入并控制。

? 這并不意味著人工智能的發(fā)展應(yīng)該暫停，而是我們應(yīng)該從失控的競爭中退一步，重新將人工智能研發(fā)的重點(diǎn)放在更加準(zhǔn)確、安全、可解釋、透明、穩(wěn)健、一致和忠實(shí)而不是 而不是盲目地潛入不可預(yù)測(cè)的黑盒模型。

? 依靠人工智能，人類可以享有繁榮的未來并收獲回報(bào)，建立強(qiáng)大的人工智能系統(tǒng)可以造福于人類。 既然我們的社會(huì)已經(jīng)停止研究許多具有潛在災(zāi)難性影響的其他技術(shù)，是時(shí)候?qū)θ斯ぶ悄芨又?jǐn)慎了。 這樣做將使我們能夠享受人工智能的夏天，而不是在秋天毫無準(zhǔn)備地匆匆忙忙。

02 關(guān)鍵人物不在名單上

? 當(dāng)然，也有人在榜單上發(fā)現(xiàn)了兩位關(guān)鍵人物的“缺席”：OpenAI的奧特曼和微軟的蓋茨。 資深媒體人胡錫進(jìn)擔(dān)心，這封公開信最后只會(huì)止于主動(dòng)，“因?yàn)楝F(xiàn)在競爭太激烈了。”

? 值得注意的是，ChatGPT之父在近期的一次談話中承認(rèn)，AI推理能力的進(jìn)化原理并不明確，“唯一的辦法就是向ChatGPT提問，通過它的回答來探尋思路?！?對(duì)于“太強(qiáng)大的AGI‘可能會(huì)殺死人類’”，他沒有回避問題：有這個(gè)可能。

? 對(duì)于另一個(gè)關(guān)鍵人物：蓋茨，27日我們關(guān)注到了對(duì)超級(jí)人工智能的期待——他在推特上發(fā)起了一場關(guān)于“大腦電信號(hào)傳播速度和硅芯片電信號(hào)傳播速度”的投票，目前已經(jīng) 17422人參與。

? 無論是超級(jí)AI還是AGI，這封“停止”公開信的意義在于討論AI作為基礎(chǔ)設(shè)施應(yīng)該如何被控制和使用，而不是如何讓AI本身在智能上更像人類！

? 正如《重啟人工智能》作者加里·馬庫斯當(dāng)?shù)貢r(shí)間28日在一篇題為《人工智能風(fēng)險(xiǎn)≠一般人工智能風(fēng)險(xiǎn)》的文章中所寫，“關(guān)鍵變量不是智力，而是能力?！?他還舉了一個(gè)相當(dāng)形象的例子：一個(gè)擁有核密碼的白癡可以毀滅世界！ 他所需要的只是少量的情報(bào)和不應(yīng)該存在的過多訪問權(quán)限！

? 三天前，AI教父Hinton在“AI可能會(huì)消滅人類”這個(gè)話題上也表達(dá)了類似的觀點(diǎn)：并非不可想象。

關(guān)于此封公開信，還有一個(gè)非常耐人尋味的小插曲。在這封公開信走紅后不久，有網(wǎng)友在支持者簽名中發(fā)現(xiàn)了[Sam Altman,OpenAi,CEO]。但據(jù)筆者查詢，截止目前該公開信的簽名者名單中Sam Altman的簽名信息已被刪除。

03? 初期失控

? 自去年ChatGPT掀起聊天機(jī)器人熱潮以來，全球幾乎所有具有一定研發(fā)能力的AI機(jī)構(gòu)都近乎瘋狂地投入到這場大規(guī)模的語言模型競賽中。 而人工智能系統(tǒng)的失控，也從這一刻開始顯現(xiàn)出一些端倪。

? 最初，人工智能系統(tǒng)的問題集中在生成內(nèi)容的準(zhǔn)確性和毒性上。 作為一個(gè)典型的黑盒系統(tǒng)，聊天機(jī)器人的創(chuàng)建者和用戶都無法預(yù)測(cè)或控制聊天機(jī)器人生成的內(nèi)容。 這方面最典型的例子是，在此前的谷歌人工智能大會(huì)上，谷歌聊天機(jī)器人巴德答錯(cuò)了問題，導(dǎo)致谷歌市值一天暴跌超過1000億美元。

? 這也是大規(guī)模語言模型至今未能攻克的通病。 無論是 Bard、ChatGPT 還是其他聊天機(jī)器人，它們都會(huì)在某些時(shí)候產(chǎn)生錯(cuò)誤的答案，甚至是自我捏造的信息或惡意內(nèi)容。 當(dāng)然，對(duì)于這種不起眼的缺陷，人們通常會(huì)將問題歸咎于模型的訓(xùn)練數(shù)據(jù)。 但隨著用戶對(duì)聊天機(jī)器人的深入挖掘，越來越多可怕的問題出現(xiàn)在我們眼前。

04 從雪國列車到黑客帝國

? 然而，從另一個(gè)角度來看，人工智能系統(tǒng)的持續(xù)快速發(fā)展，又會(huì)給我們的生活帶來什么樣的變化呢？ 根據(jù)全球投資銀行高盛的研究，現(xiàn)階段人工智能驅(qū)動(dòng)的自動(dòng)化有可能危及多達(dá) 3 億個(gè)工作崗位。

? 到目前為止，科技行業(yè)已經(jīng)看到了基于大型語言模型的創(chuàng)新，例如微軟與 OpenAI 的合作。 令人印象深刻的是，大型語言模型已經(jīng)具備模仿人類語言進(jìn)行問答和寫作的能力，甚至可以生成可用于生產(chǎn)的計(jì)算機(jī)代碼。

? 據(jù)撰寫高盛研究報(bào)告的經(jīng)濟(jì)學(xué)家 Joseph Briggs 和 Devesh Kodnani 稱，高盛認(rèn)為，全球就業(yè)市場即將面臨重大顛覆，全球最大經(jīng)濟(jì)體約 3 億全職工人面臨失業(yè)風(fēng)險(xiǎn)。 失去工作。

? 從好的方面來看，在工作場所投資大型語言模型將極大地提高生產(chǎn)力。? 10 年內(nèi)，生成式人工智能可為全球 GDP 增加 7 萬億美元。 但從另一個(gè)角度來看，這將導(dǎo)致美國和歐洲約三分之二的工作被某種程度的自動(dòng)化所取代，屆時(shí)約有 63% 的人將被淘汰出單調(diào)重復(fù)的工作。

? 隨著這種趨勢(shì)的發(fā)展，我們很可能會(huì)面臨科幻電影《雪國列車》中的場景。 人工智能接管人類大部分工作后，人的上升路徑將進(jìn)一步壓縮。 一些積累了財(cái)富或擁有人工智能以外極其特殊才能的人，將繼續(xù)保持較高的社會(huì)地位和權(quán)利。 雖然無法超越人工智能能力的人將能夠享受到人工智能帶來的各種服務(wù)，但日益固化的階級(jí)可能會(huì)讓他們停留在原地。

? 再者，隨著人工智能的不斷發(fā)展，如果未來我們真的實(shí)現(xiàn)了通用人工智能最初的理想，那么在可預(yù)見的未來（Hinton預(yù)測(cè)AGI將在20年內(nèi)到來），AI將實(shí)現(xiàn)自我進(jìn)化和自主。? ，似乎《黑客帝國》中總有一場機(jī)器與人類之間的“矩陣革命”的預(yù)兆。

? 歸根結(jié)底，隨著技術(shù)不斷滲透到我們的生活中，我們必須反思我們對(duì)技術(shù)的理解，并考慮它可能對(duì)我們產(chǎn)生的影響。 就像《黑客帝國》中 Neo 和 Morpheus 最具標(biāo)志性的場景——每只手都拿著一個(gè)彩色藥丸——最終的選擇應(yīng)該是我們的。

歡迎點(diǎn)個(gè)贊分個(gè)享！更多商業(yè)觀察在商道童言（Innovationcases）！

駱仁童老師主講課程：智慧應(yīng)用 | 數(shù)字技術(shù) | 人工智能 | 數(shù)字化轉(zhuǎn)型 | 創(chuàng)新與創(chuàng)業(yè)