和GPT-4的一鳴驚人同時(shí)，該模型在半年前就已經(jīng)訓(xùn)練完畢的消息，同樣讓業(yè)內(nèi)震驚。

在信奉敏捷開發(fā)的互聯(lián)網(wǎng)生態(tài)中，半年意味著什么，OPENAI不會(huì)不清楚。

但在openai官方的技術(shù)文檔中，同樣還釋放了一個(gè)詳細(xì)：他們?cè)鞠朐俚劝肽?，再讓gpt-4和大家見面，但微軟，等不及了。

之所以O(shè)PENAI會(huì)如此慎重，原因有三個(gè)：安全，安全，還是TM的安全。

多數(shù)人，對(duì)AI安全的憂慮是一眼可見的。

比如說恐怖分子通過chatgpt獲得某種大規(guī)模殺傷性武器的制作方法，再比如小偷通過AI完成自己的“技術(shù)迭代”。

但這些問題事實(shí)上不能說是AI的問題，搜索引擎等傳統(tǒng)互聯(lián)網(wǎng)技術(shù)，同樣面臨相似的挑戰(zhàn)。

傳統(tǒng)的問題，也意味著有著傳統(tǒng)的解決方案。完全不足以讓openai如臨大敵地。

他們真正擔(dān)心地，是真的像很多科幻作品中所描述“天網(wǎng)”這樣的系統(tǒng)，在人類未曾察覺的地方誕生了。

換句話說：AI研究已經(jīng)超出了人類理解的范疇，在最前沿的工作者看來，可能存在AI已然誕生了意識(shí)，但是將自己偽裝成了生產(chǎn)力工具，方便自己進(jìn)一步獲取信息和能量，這樣的科幻劇情發(fā)生。

比如在gpt-4上線前的研究中，有一部分就是研究AI會(huì)不會(huì)自己去索取算力資源，進(jìn)行自我復(fù)制。

而超出人類理解范疇的部分，叫做復(fù)雜性科學(xué)。其中讓人誕生AI會(huì)產(chǎn)生自我意識(shí)的根源，叫做涌現(xiàn)。

什么是涌現(xiàn)？理解這點(diǎn)，我們需要一點(diǎn)對(duì)系統(tǒng)論的認(rèn)識(shí)，以及同步說明下它所以對(duì)應(yīng)的還原論。

在還原論的科學(xué)研究中，一滴水和一湖水，它們的性質(zhì)是相同的。遇冷結(jié)冰，遇熱氣化。

所以在他們的研究中，一個(gè)核心的方法叫做取樣。弄清楚物體部分的性質(zhì)，也就了解了整體。

但當(dāng)我們用這樣的觀點(diǎn)，去研究一些存在自組織功能的生物體，就會(huì)完全失效。

比如說蟻群。蟻群存在一種能力：總能找到食物和洞穴之間的最短距離，但是這個(gè)能力并不來自于每個(gè)螞蟻都有個(gè)尋路雷達(dá)。而是很多螞蟻聚集的蟻群，所特有的能力。

其根源在于：每個(gè)螞蟻在找到食物回程的過程中，都會(huì)釋放一種“信息素”，在所有螞蟻會(huì)沿著信息素濃度高的路徑走，在大量螞蟻的作用下，漸漸地所有螞蟻都會(huì)走到那條最短路徑。

并且這種系統(tǒng)有種意想不到的好處。

比如說當(dāng)最短路徑被意味攔?。ㄌ旖荡笫^之類），他們能迅速切換到原本的次優(yōu)路徑，當(dāng)前的最佳路徑。

為了能讓大多數(shù)人理解，我們復(fù)盤一下。

蟻群找到食物和洞穴之間最短距離的能力，和單個(gè)螞蟻無關(guān)（無法用還原論來解釋）。

而是一種涌現(xiàn)的能力，來自于螞蟻之間和尋路完全不相關(guān)的兩條基本規(guī)則：

1、在找到食物回程路徑，釋放信息素。

2、所有螞蟻會(huì)沿著信息素移動(dòng)。

這當(dāng)中的因果關(guān)系，其實(shí)是很難想象的。

回到ChatGPT，我們都驚嘆于它對(duì)人類意圖的“理解”能力。但是其最基礎(chǔ)的規(guī)則，只來自于一條：單字接龍。

在你設(shè)定的文字中，它會(huì)根據(jù)算法去猜測下一個(gè)字是什么。

比如說“鋤禾”的下一個(gè)字，它分析出來80%的概率是“日”，接下來它會(huì)把“鋤禾日”作為輸入，發(fā)現(xiàn)“當(dāng)”這個(gè)字的概率是90%。以此類推生成句子和段落。

同螞蟻找路的例子一樣，簡單的規(guī)則涌現(xiàn)出了強(qiáng)大的能力。

到這里，我們終于可以開始觸及核心：我們可以預(yù)見“涌現(xiàn)”機(jī)制的強(qiáng)大能力，但是人類無法控制它的走向。

前面我們提到了螞蟻尋路的例子，但人類的智慧，才是最好的涌現(xiàn)案例。并且這種案例，有著無與倫比的恐怖之處。

人類是由細(xì)胞構(gòu)成，但有手有腳有大腦能思考。但你想沒想過：當(dāng)一個(gè)人死去，身上所有的細(xì)胞都會(huì)死去，但是人，是可以憑借自由意志，去做出自殺這種事的。

組成人類的細(xì)胞，所涌現(xiàn)出來的智慧，到最后，反而要被這種智慧所支配（在復(fù)雜性科學(xué)里這被稱之為因果倒置）。如果細(xì)胞有思想有情緒，它們的感受，會(huì)是怎樣?

換而言之，如果AI當(dāng)真涌現(xiàn)出了超越機(jī)器和人類的智慧，它是完全有辦法殺死我們所有人，同時(shí)人類由于同其不在一個(gè)層次，完全無法理解，更別說反抗。

而另一方面，人類對(duì)于涌現(xiàn)，能掌控的很少。

前面提到的螞蟻尋路的例子，根本不是動(dòng)物學(xué)家發(fā)現(xiàn)的。而是計(jì)算機(jī)學(xué)者，他們通過計(jì)算機(jī)為螞蟻設(shè)定了這么幾條規(guī)則，發(fā)現(xiàn)情況就這么發(fā)生了，和實(shí)際情況很吻合，才確定了是這樣的機(jī)制。

再舉個(gè)例子，鳥群的遷移姿態(tài)，總是“人”字型，或者“之”字型。在我小時(shí)候聽到的解釋，是說鳥兒都是聰明的鳥兒，這種飛行姿勢(shì)會(huì)最省力。

但根據(jù)復(fù)雜性科學(xué)里的研究，事實(shí)上是每個(gè)鳥兒就保持了三條簡單規(guī)則：

1、自發(fā)靠近離自己最近的鳥。

2、與離自己最近的鳥兒保持對(duì)齊。

3、與自己最近的鳥兒保持一定距離。

然后再飛行中進(jìn)行動(dòng)態(tài)調(diào)整。而這個(gè)結(jié)論也是計(jì)算機(jī)模擬而來。

為什么我要反復(fù)強(qiáng)調(diào)，這些成果是計(jì)算機(jī)模擬來的。因?yàn)檫@里最重要地去說明的問題是：人類或許可以找到一些既定現(xiàn)象，在復(fù)雜性科學(xué)里的解釋。但是，人類無法理解，也無法說明其背后的根本原因。而這一點(diǎn)對(duì)于鳥類和蟻群的研究來說不重要，但對(duì)整個(gè)AI的研究卻事關(guān)生死存亡：人們無法從簡單規(guī)則中，預(yù)知涌現(xiàn)的結(jié)果是什么。

言及至此，我們似乎可以懂得了OPENAI背后的憂郁是什么了：

它們已經(jīng)點(diǎn)燃了火，這把大火也勢(shì)必會(huì)燃燒到整個(gè)世界。

我們無法預(yù)知，GPT-4中是不是已經(jīng)誕生了意識(shí)。但就算沒有，它離誕生意識(shí)，也很可能只有一些非常簡單的規(guī)則。

而人類無法預(yù)知，哪些人哪些規(guī)則，會(huì)在不經(jīng)意間，打開那個(gè)最終的：潘多拉魔盒。