這個(gè)古老的猶太傳說(shuō)，是一個(gè)關(guān)于警世人工智能的故事

預(yù)計(jì)閱讀時(shí)間5分鐘。

人工智能很強(qiáng)大，但也很危險(xiǎn)。

拉比-洛夫和格萊姆

在古老的布拉格，有一個(gè)古老的猶太傳說(shuō)，一位名叫拉比的巫師創(chuàng)造了一種強(qiáng)大的生物：魔像。像機(jī)器人和AI（人工智能）一樣，魔像最初聽(tīng)從主人的一切命令——但最終，卻都變得非常糟糕。

這個(gè)關(guān)于人工智能，優(yōu)勢(shì)和重大劣勢(shì)的早期故事，可以給予我們很多關(guān)于現(xiàn)代人工智能系統(tǒng)的啟事，比如 ChatGPT 和 Midjourney（這兩個(gè)都是現(xiàn)在最火、最先進(jìn)的人工智能應(yīng)用，有興趣的讀者可以上網(wǎng)搜搜，絕對(duì)讓你大吃一驚）。

具體來(lái)說(shuō)，這個(gè)古老的傳說(shuō)，可以讓我們深入了解這些技術(shù)在哪些方面對(duì)人類(lèi)有益——以及它們有可能在哪些方面造成災(zāi)難。

關(guān)于古代魔像

雖然布拉格的魔像故事可能是最著名的，但魔像的故事在整個(gè)猶太文學(xué)中以不同的形式重復(fù)了數(shù)百或數(shù)千次。

“golem”一詞出現(xiàn)在猶太信仰的核心文本之一《塔木德》中。從詩(shī)歌和小說(shuō)到《辛普森一家》的一集，魔像故事的變體，在幾代人的時(shí)間里被不斷重復(fù)和重新詮釋。

盡管細(xì)節(jié)有所不同，但基本故事是相同的。拉比或猶太神秘主義者創(chuàng)造了一種人造生物，使用希伯來(lái)語(yǔ)單詞或咒語(yǔ)賦予它一種人造生命及基本水平的人工智能。

通常來(lái)說(shuō)，這樣做的目的，都有一些令人信服的原因。比如，在某些情況下，主角是需要保護(hù)他們的家園免受外部威脅，例如大屠殺?；蛘?，其他情況是，他們只是想要一個(gè)人工智能的助手來(lái)幫助他們完成繁重的工作。

這些故事中的魔像，通常被描繪成強(qiáng)大的，但最終是野蠻的。他們的勞動(dòng)速度比人快很多，但他們不是有感情、有思想的生物。

Midjourney 中的魔像插圖

本質(zhì)上，它們是人工智能機(jī)器人或自動(dòng)化機(jī)器。就像我們今天擁有的機(jī)器人一樣，魔像盲目地聽(tīng)從指令，但不會(huì)自己思考。他們足夠聰明，可以理解人類(lèi)的命令，但又不夠聰明，無(wú)法理解命令的細(xì)微差別或人類(lèi)的微妙之處。

在經(jīng)典的魔像故事中，事情往往最初進(jìn)展順利。主角從魔像中獲得了很大的好處——他們可以更快地工作，或者他們能夠保護(hù)他們的家人和社區(qū)免受威脅。

但是，在幾乎所有情況下，事情最終都會(huì)變得很糟糕。大多數(shù)故事都以主角摧毀他們的魔像而告終，因?yàn)樗兊锰珡?qiáng)大或太有威脅了。

通常來(lái)說(shuō)，他們都能成功地摧毀自己的魔像，但摧毀魔像往往伴隨著嚴(yán)重的代價(jià)。有一種說(shuō)法是，魔像的創(chuàng)造者們，如果有一天摧毀他們的魔像，那魔像就要先給他們一拳。在格林兄弟重述的一個(gè)變體中，一個(gè)被摧毀的魔像撞向了它的創(chuàng)造者，把他壓死了。

ChatGPT，今天的魔像

這個(gè)反復(fù)出現(xiàn)的古老傳說(shuō)，可以讓我們了解當(dāng)今強(qiáng)大的人工智能系統(tǒng)。

就像昔日的魔像一樣，今天的 AI 系統(tǒng)，如 Midjourney、ChatGPT 和 Stable Diffusion 都是通過(guò)模仿人類(lèi)創(chuàng)建的。

傳說(shuō)中的古代拉比，通常用粘土來(lái)創(chuàng)造他們的魔像，并賦予他們偽人類(lèi)的外表。

同樣，我們今天通過(guò)模仿人腦的工作方式，塑造了人工智能系統(tǒng)。大多數(shù)大型語(yǔ)言模型，使用模仿（但不復(fù)制）人類(lèi)神經(jīng)元功能的神經(jīng)網(wǎng)絡(luò)運(yùn)行。

就像他們古老的粘土做物一樣，這些系統(tǒng)受到人類(lèi)的啟發(fā)，但又不及人類(lèi)。

如古老的魔像一樣，這些系統(tǒng)最初被證明非常強(qiáng)大和有用。 ChatGPT 不會(huì)站出來(lái)保護(hù)你免受入侵的軍隊(duì)，但人工智能系統(tǒng)已經(jīng)融入了數(shù)千家公司的工作流程，自動(dòng)化了從文案寫(xiě)作到醫(yī)療工作的各種任務(wù)。

古代主人公制造魔像時(shí)，通常都是從歡欣鼓舞開(kāi)始的。好像我們現(xiàn)在正在做的事情，對(duì) ChatGPT 及其同類(lèi)產(chǎn)品感到無(wú)比興奮。

不過(guò)，我們最好注意，在魔像的古老故事中，事情進(jìn)展得很糟糕，而且變?cè)愕乃俣群芸臁?/p>

人類(lèi)最終意識(shí)到——但通常為時(shí)已晚——通過(guò)制造魔像，釋放到世界上的力量，最終會(huì)威脅到人類(lèi)。（電影“終結(jié)者”的天網(wǎng)也是這樣）

人工智能的反彈

我們已經(jīng)開(kāi)始在人工智能系統(tǒng)中看到這一點(diǎn)。

藝術(shù)家們反對(duì)系統(tǒng)模仿和取代人類(lèi)創(chuàng)造藝術(shù)的能力，許多公司已經(jīng)開(kāi)始禁止人工智能生成的代碼、照片和其他許多東西。

傳統(tǒng)魔像傳奇的終結(jié)，也為未來(lái)提供了一些令人毛骨悚然的預(yù)測(cè)。一旦魔像被創(chuàng)造出來(lái)，它就不會(huì)簡(jiǎn)單地消失。一旦魔像被釋放，摧毀它幾乎總是需要痛苦和犧牲。

無(wú)論以何種方式擺脫困境，將我們自己從現(xiàn)代 AI 魔像中驅(qū)散的過(guò)程都將是痛苦的。拒絕實(shí)施人工智能技術(shù)的公司或許會(huì)在人性方面獲得優(yōu)勢(shì)，但會(huì)失去這些AI系統(tǒng)的強(qiáng)大助力。

與古代魔像一樣，今天的魔像提供了一種權(quán)衡。我們可以提高效率，但可能會(huì)造成嚴(yán)重威脅——或者有可能失去我們自己的人性。

如何對(duì)待人工智能

然而，除了厄運(yùn)和毀滅之外，我們還可以從這些古老的故事中學(xué)到另一個(gè)教訓(xùn)。雖然許多魔像傳說(shuō)都以毀滅告終，但并非所有都如此。

在傳說(shuō)的最早版本中，魔像變得如此強(qiáng)大，嚇得創(chuàng)造者的敵人，被迫逃離了創(chuàng)造者的家園，并保證不再入侵。當(dāng)這種情況發(fā)生時(shí)，魔像的創(chuàng)造者會(huì)小心翼翼地禁用魔像，而不是破壞或摧毀它。

也就是說(shuō)，創(chuàng)造者將魔像留在了身邊，以防再次需要它的力量。傳說(shuō)最初的魔像，仍然藏在布拉格一座猶太教堂的閣樓里，準(zhǔn)備在當(dāng)?shù)鬲q太社區(qū)需要保護(hù)時(shí)出現(xiàn)。（有條件的小伙伴，可以去找找看看，找到記得回來(lái)告訴我）

在這個(gè)版本的魔像故事中，魔像的創(chuàng)造者將他們的創(chuàng)造物當(dāng)做工具。魔像的力量，最終幫助他們實(shí)現(xiàn)了目標(biāo)。

通過(guò)禁用他們的魔像，而不是屈服于濫用其力量的誘惑，于是，魔像的創(chuàng)造者從它的力量中受益。

當(dāng)我們使用 ChatGPT 和其他 AI 工具時(shí)，我們都可以從古代魔像故事的原始講述中吸取教訓(xùn)。

這些AI工具對(duì)我們都有很大的助力。用好了它們，可以幫助我們提高工作效率、實(shí)現(xiàn)目標(biāo)；用的不好，過(guò)度依賴(lài)它們，也許就會(huì)有一天被它們徹底取代，失去生而為人的創(chuàng)造力；甚至在極端點(diǎn)，被它們統(tǒng)治和奴役。

所以，最關(guān)鍵的，還是要學(xué)會(huì)，在適當(dāng)?shù)臅r(shí)候放下它們，學(xué)會(huì)放下，才能體會(huì)原始創(chuàng)作的快樂(lè)~

好了，今天的分享就到這里了，我是“神秘星球看看”，我們明天再見(jiàn)！