通用人工智能，簡稱AGI（也有強人工智能之類的稱呼），算是AI發(fā)展的一個重要目標(biāo)，但是AGI具體應(yīng)該怎么定義現(xiàn)在很多人也說不清楚。幾個月前GPT-4剛發(fā)布那會，一篇長報告說GPT-4已經(jīng)讓人看到了AGI的曙光，不過，“曙光”又是一個很模糊的詞，也就是說其實“AGI的曙光”本身也更像是一句廢話。

不過有一點是很清楚的，如果我們不知道什么是AGI，那么我們就不能說AGI是否來到?，F(xiàn)有的AGI定義比較多也比較亂，所以Deepmind最近發(fā)表了如下文章，主要講了AGI發(fā)展的6項基本原則和AGI的6個階段。

6個階段這里就不展開了，因為真的很沒有意思，就單純拿“和人類對比性能如何”作為評價標(biāo)準(zhǔn)，好俗套的比較，指的注意的一點是，在這個標(biāo)準(zhǔn)下最低級是No AI，也就是一般的編程都可以稱為0階段AI。按照這個表的標(biāo)準(zhǔn)，ChatGPT目前還在1階段。

這里重點講下AGI發(fā)展的6項基本原則。這6項基本原則不是像機器人三原則那樣，也不是要規(guī)定清楚AGI是什么，而更像是給出關(guān)于我們?nèi)绾慰创痛龠M(jìn)AGI發(fā)展的一些思想上的小建議：

（1）關(guān)注能力，而非過程。這一點其實在著重強調(diào)“AI的思維和人的思維不一定一樣”，或者說AGI不一定按照人類的方式思考。之前動態(tài)也說了，這篇專欄其實也是想借這篇論文說一下我的一些其他方面的看法，這里就稍微展開一點。

這一點其實非常重要。雖然我們常說人工神經(jīng)網(wǎng)絡(luò)是仿照人類神經(jīng)網(wǎng)絡(luò)做的，但人工神經(jīng)網(wǎng)絡(luò)的發(fā)展脈絡(luò)并不是朝著“越來越像人類大腦”的方向前進(jìn)的，而是朝著能提升性能的方向前進(jìn)的。當(dāng)然，即使不考慮這一點，人工神經(jīng)網(wǎng)絡(luò)和人的大腦的差別依然非常大。很多人都很好奇AI究竟能否理解語言，也許就像迪杰斯特拉大佬說的那樣，這個問題就和問“潛水艇是否會游泳”一樣，可能沒什么意義，畢竟機器不會用人的思維去理解語言。

我挺喜歡的一位UP有時候也會拿AI說事，當(dāng)然我知道很多時候UP主嘛，也要制造節(jié)目效果，但有些話語真的讓人有些不爽。（當(dāng)然，如果有朋友知道這個UP的也不要過去找事，一般人對AI有誤解太正常了，而且也不是什么原則上的問題）簡單來說，在一款比較復(fù)雜的游戲中，不管是民間還是官方都在嘗試訓(xùn)練AI玩游戲，民間的AI表現(xiàn)的比較傻，經(jīng)常撞火堆，官方的AI訓(xùn)練了8小時終于學(xué)會了拿道具，然后就被UP拿來當(dāng)節(jié)目效果了?？蓡栴}是，難道人類的嬰兒生下來8個小時就能學(xué)會打開電腦、加載游戲并在游戲中學(xué)會拿道具嗎？覺得8小時學(xué)會拿道具太花時間的這種思維就是建立在“AI已經(jīng)具有人類大部分的常識”的基礎(chǔ)上的（而且官方也不一定是強化學(xué)習(xí)高手，用的估計也是一些通用的強化學(xué)習(xí)方法，沒有為自己的游戲量身定制），然而AI一開始又不知道什么是道具，什么是火堆，也不知道碰火堆會受傷。即使是以規(guī)則為基底的AI，也不是說我加一條“不要碰火堆”AI就能馬上學(xué)會的，不存在這樣的魔法代碼，“不能碰火堆”本身其實是一個極其復(fù)雜的動作，對于AI來說是需要學(xué)會非常多步的決策的，這并不容易。

當(dāng)然，現(xiàn)在有一些拿GPT-4V（就是帶視覺的GPT-4）來打游戲的研究了，畢竟GPT-4V是有一定常識的，但是GPT-4V也是經(jīng)過少說幾個月的訓(xùn)練才能掌握這些常識知識的。

（2）注重通用性與技能水平。簡單來說就是綜合看多項指標(biāo)，不展開。

（3）專注于認(rèn)知和元認(rèn)知任務(wù)。人工智能是一門融合學(xué)科，雖然主要還是計算機，但還是融合了心理學(xué)、人類學(xué)等非常多學(xué)科的，其中比較重要的就是認(rèn)知科學(xué)。沒錯，包括廈大智能系的前身就是認(rèn)知科學(xué)系

（4）關(guān)注最高潛力，而非實際落地水平。這一點有點迷惑，不過基本上是為了早點宣布AGI的到來吧，這里簡單提一嘴（之前也提過幾次），中國的AI落地水平還是高的

（5）注重生態(tài)有效性。這里的生態(tài)指的是AI生態(tài)，不是說搞AI需要低碳?；臼钦f我們不要只盯著AI技術(shù)本身，還要推進(jìn)數(shù)據(jù)集、benchmark等發(fā)展

（6）關(guān)注整條AGI之路的發(fā)展，而非單一的終點。

我個人感覺這篇文章還是粗糙的，不過也算是第一次做這樣的AGI發(fā)展之路的分析了。