近期，OpenAI、Google、微軟、百度等公司相繼發(fā)布了一系列新的人工智能產(chǎn)品，這些產(chǎn)品的推出似乎宣告著“AI時(shí)代”的到來(lái)。然而就在半年前，談起人工智能，大多數(shù)人能想到的可能還僅僅是「阿法狗下圍棋」或者「自動(dòng)駕駛汽車(chē)」，這些也都很厲害，但在人們心中，他們似乎都還只是一個(gè)很厲害的機(jī)器。但ChatGPT來(lái)了，與以往的人工智能不同，它已經(jīng)具備了類(lèi)似人類(lèi)的對(duì)話、語(yǔ)義理解和推理能力。它可以產(chǎn)生創(chuàng)造性的回答和想法，它給我們的感受就是，它似乎已經(jīng)不再是“它”，而是一個(gè)「無(wú)所不知的“人”」。也有人開(kāi)始擔(dān)心，如果AI突然“活了”，它可能會(huì)超越人類(lèi)，成為地球上的主導(dǎo)生命體，我們?nèi)祟?lèi)將會(huì)淪為它的奴隸。這些擔(dān)憂值得我們深入探討和思考。

碰巧在今天聽(tīng)「萬(wàn)維鋼-精英日課5」，萬(wàn)老師正好講到了這個(gè)話題「探究AI的涌現(xiàn)能力是否可能威脅到人類(lèi)的利益和安全?！?/p>

目前為止，我們一切討論的前提是超級(jí)人工智能也沒(méi)有自主意識(shí)，它不會(huì)自己給自己定目標(biāo)，沒(méi)想著自己要發(fā)展壯大，沒(méi)有主動(dòng)要求升級(jí)……但問(wèn)題是，我們不知道它會(huì)不會(huì)一直如此。

像泰格馬克在《生命3.0》書(shū)里說(shuō)的那樣，也許有一天AI突然「活了」，給自己編程、給自己尋找能源，以至于不再顧忌人的命令，不再以人為核心——而是以它自己為核心，那我們這些設(shè)想就都統(tǒng)統(tǒng)都錯(cuò)了。你這邊還想著怎么做個(gè)好主人，人家那邊已經(jīng)要把你當(dāng)奴隸了。

那可就突破了人的底線。這不是危言聳聽(tīng)。如果推理能力可以涌現(xiàn)出來(lái)，意識(shí)和意志為什么就不能涌現(xiàn)出來(lái)呢？

事實(shí)上，發(fā)布GPT-4之前，OpenAI專(zhuān)門(mén)成立了一個(gè)小組，對(duì)它進(jìn)行了「涌現(xiàn)能力」的安全測(cè)試。測(cè)試的重點(diǎn)就是看它有沒(méi)有「權(quán)力尋求行為（power-seeking behavior）」，有沒(méi)有想要自我復(fù)制和自我改進(jìn)。

測(cè)試結(jié)論是安全。

不過(guò)測(cè)試過(guò)程中，GPT-4的確有過(guò)一次可疑行為 [https://cdn.openai.com/papers/gpt-4-system-card.pdf]。

它的一個(gè)云在線副本，去一個(gè)在線勞務(wù)市場(chǎng)雇傭了一個(gè)人類(lèi)工人，讓那個(gè)工人幫他填寫(xiě)一個(gè)驗(yàn)證碼。那個(gè)工人懷疑它是不是機(jī)器人，不然怎么自己不會(huì)填呢？GPT-4進(jìn)行了一番推理之后選擇了隱瞞身份，說(shuō)自己是個(gè)盲人。

然后它如愿得到了那個(gè)驗(yàn)證碼。

看到ChatGPT的表現(xiàn)，讓我不僅想起了最近剛上映的一部電影叫《梅根》，我還是有那么一些些的驚恐。我們不得不開(kāi)始反思，如果AI真的產(chǎn)生了自主意識(shí)，人類(lèi)該如何應(yīng)對(duì)？我們的現(xiàn)有法律和倫理規(guī)范是否足以保護(hù)我們的利益？如果AI不再是以人類(lèi)為核心的工具，人類(lèi)該如何繼續(xù)掌控未來(lái)的走向？

我們需要意識(shí)到，AI并不是完全無(wú)害的工具，而是一種具有潛在威脅的技術(shù)。我們需要更加重視AI的安全性，以及它們的“涌現(xiàn)能力”。同時(shí)，我們也需要盡快完善現(xiàn)有的法律和倫理規(guī)范，制定更加完善的管理措施，確保AI的發(fā)展不會(huì)危及人類(lèi)的利益和安全。

當(dāng)然，這并不是說(shuō)我們應(yīng)該對(duì)AI持有敵視的態(tài)度，或是認(rèn)為AI是一個(gè)不可控制的威脅。AI技術(shù)的發(fā)展已經(jīng)為我們帶

來(lái)了很多改變，讓我們的生活變得更加便捷、高效和智能。AI還有很多潛在的應(yīng)用，可以為人類(lèi)社會(huì)帶來(lái)更多的福利和利益。然而，我們需要明確的認(rèn)識(shí)到，AI技術(shù)是一把雙刃劍，需要我們妥善管理和使用。

在未來(lái)，我們可能會(huì)面臨更多關(guān)于AI的倫理和道德問(wèn)題。我們需要思考，如何讓AI技術(shù)更好地服務(wù)人類(lèi)，而不是取代人類(lèi)？如何確保AI的發(fā)展不會(huì)對(duì)人類(lèi)社會(huì)產(chǎn)生負(fù)面影響？這些問(wèn)題需要我們思考、探討，并尋找合適的解決方案。

總之，AI技術(shù)的發(fā)展是無(wú)可避免的趨勢(shì)。我們需要明確地認(rèn)識(shí)到，AI的涌現(xiàn)能力可能會(huì)帶來(lái)不可預(yù)測(cè)的變化。我們需要關(guān)注AI技術(shù)的安全性和可控性，制定更加完善的管理措施，確保AI的發(fā)展不會(huì)危及人類(lèi)的利益和安全。同時(shí)，我們也需要思考更深層次的問(wèn)題，如何讓AI技術(shù)更好地服務(wù)人類(lèi)，而不是對(duì)人類(lèi)產(chǎn)生威脅。只有這樣，我們才能真正實(shí)現(xiàn)AI與人類(lèi)的和諧共處，共同開(kāi)創(chuàng)一個(gè)更加美好的未來(lái)。

最后我們來(lái)看一篇小說(shuō)《科幻小說(shuō)-未來(lái)的選擇》