科技公司一致認(rèn)為人工智能(AI)未來會摧毀人類，這阻礙了對AI目前造成的社會危害的有效監(jiān)管。很少有行業(yè)領(lǐng)導(dǎo)者談?wù)撟约寒a(chǎn)品的潛在致命性，像煙草或石油公司高管就不會承認(rèn)這些事情，然而，似乎不到一周的時間，科技行業(yè)內(nèi)部人士就開始大肆宣揚AI毀滅人類的風(fēng)險。

AI末日論

今年3月，埃隆·馬斯克和其他技術(shù)專家簽署的一封公開信警告稱，強大的AI系統(tǒng)對人類構(gòu)成了巨大的威脅。幾周后，開發(fā)AI工具的先驅(qū)Geoffrey Hinton辭去了谷歌的研究職務(wù)并警告AI技術(shù)帶來的嚴(yán)重風(fēng)險。包括OpenAI和谷歌DeepMind代表在內(nèi)的500多位商業(yè)人士和專家簽署了一份僅有23字的聲明——

“減輕AI帶來的滅絕風(fēng)險，應(yīng)該與流行病和核戰(zhàn)爭等其他社會規(guī)模的風(fēng)險一起成為全球優(yōu)先事項。”

6月7日，英國政府在宣布將于今年秋天主辦首屆全球人工智能安全峰會時，提到了AI對人類生存的潛在風(fēng)險。

現(xiàn)在AI帶來的風(fēng)險

AI可能導(dǎo)致人類滅絕的觀點已經(jīng)在科技界討論了多年，但對ChatGPT工具和生成式AI的興奮現(xiàn)在使這種觀點成為了大家的主流觀點，而讓人們忽略了現(xiàn)在真正應(yīng)該關(guān)注的問題：AI系統(tǒng)和工具現(xiàn)在造成的社會危害或者未來可能造成的危害。政府和監(jiān)管機構(gòu)尤其不應(yīng)被這種說法分散注意力，必須果斷采取行動，遏制潛在的AI危害，盡管工作受到科技行業(yè)的影響，但不應(yīng)該受制于科技發(fā)展?！蹲匀弧冯s志采訪過許多AI的研究人員和倫理學(xué)專家，他們對圍繞AI的“末日論”感到沮喪。至少有兩方面的問題：

首先，AI作為全能機器引發(fā)了各國之間開發(fā)AI的競爭

，以便從中受益并控制它，這對科技公司有利：鼓勵投資，削弱了行業(yè)監(jiān)管。生產(chǎn)下一代AI軍事技術(shù)的軍備競賽已經(jīng)開始了，這增加了災(zāi)難性沖突的風(fēng)險——也許是世界末日，但不是主流“AI毀滅人類”中經(jīng)常討論的那種風(fēng)險。其次，一些同行業(yè)公司的高管和技術(shù)人員主導(dǎo)關(guān)于AI風(fēng)險和監(jiān)管的討論，而其他團(tuán)體被排除在外，紐約專注于AI社會后果的研究所所長Amba Kak表示，

簽署的公開信，本質(zhì)上是在劃定誰是這場對話中的專家

。 AI系統(tǒng)和工具有許多潛在的好處，從整合數(shù)據(jù)到輔助醫(yī)療診斷，但也

可能導(dǎo)致有傾向性的決策和人員失業(yè)，AI面部識別導(dǎo)致信息泄露

，有傾向性的AI系統(tǒng)可以使用不透明的算法來拒絕人們的福利、醫(yī)療等等，現(xiàn)在還缺乏關(guān)于這些問題的討論。

圍繞最新一代生成AI的最大擔(dān)憂之一是它可能會帶來錯誤信息

，這項技術(shù)使制作令人信服的虛假文本、照片和視頻變得更容易，破壞人們識別信息的能力，從而破壞社會穩(wěn)定。

AI監(jiān)管建議

如果科技公司真的想要避免或減少這些風(fēng)險，就必須把道德、安全和問責(zé)制放在工作的核心位置。目前，他們似乎不愿意這樣做。OpenAI對其最新的生成式AI模型GPT4進(jìn)行了“壓力測試”，促使其產(chǎn)生有害內(nèi)容，然后實施保護(hù)措施。但是，盡管該公司描述了它所做的事情，但測試的全部細(xì)節(jié)和模型訓(xùn)練的數(shù)據(jù)并沒有公開?？萍脊颈仨氈贫ㄘ?fù)責(zé)任的AI系統(tǒng)和工具開發(fā)的行業(yè)標(biāo)準(zhǔn)，并在產(chǎn)品發(fā)布前進(jìn)行嚴(yán)格的安全測試，應(yīng)該將數(shù)據(jù)完整地提交給能夠核實數(shù)據(jù)的獨立監(jiān)管機構(gòu)，就像制藥公司在藥品上市前必須向醫(yī)療機構(gòu)提交臨床試驗數(shù)據(jù)一樣。 要做到這一點，政府必須建立適當(dāng)?shù)姆珊捅O(jiān)管框架，并適用現(xiàn)有的法律。本月早些時候，歐洲議會批準(zhǔn)了《人工智能法案》，該法案將根據(jù)AI應(yīng)用的潛在風(fēng)險對AI應(yīng)用進(jìn)行監(jiān)管，例如禁止警方在公共場所使用實時面部識別技術(shù)，該法案成為歐盟成員國法律之前還有更多的障礙需要解決，也有人質(zhì)疑該法案缺乏如何執(zhí)行的細(xì)節(jié)，但它可能有助于制定AI系統(tǒng)的全球標(biāo)準(zhǔn)。關(guān)于AI風(fēng)險和法規(guī)的進(jìn)一步磋商，如即將舉行的英國峰會，必須邀請不同的人員，其中包括研究AI危害的研究人員以及曾經(jīng)或正受到該技術(shù)危害的團(tuán)體代表。

結(jié)語

討論AI毀滅人類的觀點沒什么意義，對現(xiàn)在AI引起的實際風(fēng)險的嚴(yán)肅討論以及控制風(fēng)險的行動才是最重要的。人類越早建立起與AI接觸的規(guī)則，就能越早學(xué)會與技術(shù)和諧相處。

消息來源：Nature 圖片來源：Unsplash