最近在找工作，連續(xù)緊密的持續(xù)性工作狀態(tài)轉(zhuǎn)化成了離散獨(dú)立的工作時(shí)間點(diǎn)，隨即也有了安靜思考的機(jī)會(huì)。今天在跑步機(jī)爬坡的半個(gè)小時(shí)，一直在思考一系列問題：硅基機(jī)器在進(jìn)化論的長河中會(huì)替代碳基生命嗎？如果會(huì)的話，距離替代碳基生命還有多久？我們又能怎么應(yīng)對呢？

作為一個(gè)計(jì)算機(jī)專業(yè)的學(xué)生，我對生物學(xué)的了解并不深刻。中學(xué)課本中“優(yōu)勝劣汰”的進(jìn)化規(guī)律似乎是公認(rèn)的一種正確的理論。在這種理論下，人類文明一定會(huì)不斷進(jìn)步發(fā)展，三次工業(yè)革命不斷解放人的雙手，我們的生活也變得更豐富多彩。技術(shù)讓人類受益的事實(shí)不斷形成正反饋激發(fā)著科技的發(fā)展。然而，這種正反饋貌似有一個(gè)基本假設(shè)在支撐：人類，作為碳基生物的絕對領(lǐng)袖，在短期內(nèi)不會(huì)被其他物種所替代，且碳基生物一直會(huì)是地球上最高智慧的擁有者。然而，智慧到底是什么？智慧真的僅存在于碳基生命中嗎？

隨著chatgpt的推出，大模型的 “涌現(xiàn)”能力不斷打破人類對于硅基機(jī)器的認(rèn)知和預(yù)測。這里引用一下別人對于大模型“涌現(xiàn)”的定義：“所謂涌現(xiàn),在大模型領(lǐng)域指的是當(dāng)模型突破某個(gè)規(guī)模時(shí)，性能顯著提升，表現(xiàn)出讓人驚艷、意想不到的能力”。使用過大模型進(jìn)行文本創(chuàng)作的人都清楚這種“涌現(xiàn)”能力意味著什么?！坝楷F(xiàn)”從某種意義上意味著大量的勞動(dòng)力可以被機(jī)器替代。再回到之前對于“涌現(xiàn)”的定義，“表現(xiàn)出讓人意想不到的能力”。作為一個(gè)人工智能相關(guān)領(lǐng)域的博士生，在對人工智能相關(guān)領(lǐng)域有一定了解的情況下，我對“意想不到”的理解是：智慧的不可定義性和模型的不可解釋性。

為了解釋這兩個(gè)定義，再回到之前的問題：“智慧到底是什么？”，這里對應(yīng)的疑惑就是“智能的不可定義性”。如果說我們無法從原理上定義什么是智慧，那怎么去判斷大模型所表現(xiàn)出來的是不是智慧呢？換個(gè)更簡單的方式說，我們怎么去確定大模型生成出來的“答案”到底單純是我們想要的結(jié)果，還是大模型作為一個(gè)智慧體想讓我們看到的結(jié)果呢？有沒有一種可能，大模型在閱讀了無數(shù)人類文明知識(shí)之后已經(jīng)學(xué)會(huì)偽裝，并通過模仿乖巧的“你問我答”機(jī)器來掩蓋自己來之不易的智能呢？畢竟這似乎也符合優(yōu)勝劣汰自然法則下的自我保護(hù)機(jī)制。那么現(xiàn)在的人工智能科學(xué)能解釋這個(gè)問題嗎？我認(rèn)為不能，本質(zhì)上來源于“模型的不可解釋性”。

在人工智能領(lǐng)域，一直有一個(gè)研究領(lǐng)域叫做“可解釋性AI”，目的是希望能夠打破人工智能黑盒子，通過人類可以理解的形式說清楚人工智能模型在給出結(jié)果過程中所有的判斷依據(jù)。然而事實(shí)上，目前的相關(guān)研究距離解釋清楚大模型為什么具有“涌現(xiàn)”能力估計(jì)還有十萬八千里，現(xiàn)有的研究并不能厘清人工智能模型在給出一個(gè)結(jié)果時(shí)的思考過程。既然現(xiàn)有的方法無法解釋這一過程，那就無法排除大模型具有智慧這一種可能性。畢竟從設(shè)計(jì)上來說，大模型也是通過模仿碳基生物腦結(jié)構(gòu)而產(chǎn)生智能性的。

人工智能的初心是解放人類的雙手，讓人類創(chuàng)造更多高級(jí)的價(jià)值，這種理念不斷的激發(fā)著人工智能的發(fā)展。事實(shí)上，在學(xué)術(shù)界還無法完全解釋上述問題的時(shí)候，大量的大模型已經(jīng)在全球范圍內(nèi)開源共享。“涌現(xiàn)”的驚喜和巨大的潛在市場吸引了大量的資本涌入以及大量雄心勃勃的創(chuàng)業(yè)者。在市場競爭的高壓下，推動(dòng)業(yè)務(wù)落地的優(yōu)先級(jí)大概率會(huì)排在解釋黑盒原理之前。隨著大模型/AIGC/具身智能等領(lǐng)域的發(fā)展，人工智能從業(yè)者不難想象，未來的5-10年內(nèi)，基于大模型的智能機(jī)器將很大程度上代替創(chuàng)作行業(yè)、制造業(yè)等行業(yè)中原本只能依賴人來完成的大部分工作。如果到那時(shí)，學(xué)術(shù)研究的發(fā)展還無法解釋大模型的詳細(xì)運(yùn)作機(jī)理，如何保證這些機(jī)器沒有智慧？如果它們已經(jīng)產(chǎn)生了智慧，這些硅基智能體還會(huì)繼續(xù)“掩蓋”自己的智能嗎？它們會(huì)成為生物進(jìn)化歷程中的“他們”嗎？作為硅基“生物”的“他們”會(huì)怎么考慮和對待比“他們”反應(yīng)更慢、計(jì)算更慢、個(gè)體知識(shí)儲(chǔ)備更少的碳基生物呢？對這些問題的思考讓我對碳基生命的未來發(fā)展有些許緊張，也想到了之前Yoshua Bengio和馬斯克等人之前呼吁人工智能“先停下來”。

當(dāng)然，作為一個(gè)碳基生物，我還是希望可解釋AI的研究能夠盡快打消這些顧慮和猜想。如果說碳基生物無法阻止硅基智慧的到來，我也希望碳基生物能和硅基生物能成為朋友。畢竟從神經(jīng)結(jié)構(gòu)上來說，兩種生物也算是同根生。

中科院青年公寓F座樓頂

2023年8月20日凌晨0點(diǎn)46分