AGI 即Artificial general intelligence（通用人工智能），ChatGPT

（全名：Chat Generative Pre-trained Transformer）

是由OpenAI開發(fā)的一個人工智能聊天機器人程序，Generative AI 指生成式人工智能，是一個廣泛的標(biāo)簽，可用于描述任何一類人工智能。 作為一個計算機專業(yè)的畢業(yè)生，我第一次聽說GPT已經(jīng)是比較晚的時候了。2020年的7月份，GPT-3橫空出世，我一個老同學(xué)興奮地發(fā)了個朋友圈：“

請注意，現(xiàn)在站在你面前的是互聯(lián)網(wǎng)原子彈、人工智能界的卡麗熙、算力吞噬者、黃仁勛的新 KPI、下崗工人制造機、幼年期的天網(wǎng)——最先進的AI語言模型GPT-3。

” 我隨手評論三個字：拉倒吧。 今天沒有人敢小看ChatGPT，就連無數(shù)對“先進”抱有迷思的程序員們，也被當(dāng)頭棒喝：

口碑并不來自于絕對先進，而是來自于超出預(yù)期。

與之前很多被過度炒作的熱門技術(shù)不同，Generative AI的繁榮伴隨著真實市場的實際收益，以及來自真實公司的真正吸引力。Stable Diffusion和ChatGPT等模型正在創(chuàng)造用戶增長的歷史新紀(jì)錄，多個應(yīng)用程序在推出后不到一年的時間就達到了1億美元的年化收入。對照表明，

人工智能模型在有些領(lǐng)域中的表現(xiàn)已經(jīng)優(yōu)于人類多個數(shù)量級

。 秦國能夠統(tǒng)一六國，最重要的原因之一是“弩”的存在。其實弩作為一個武器好像沒那么好用，射程沒有特別遠，殺傷力跟弓箭也差不太多，但是弩跟弓相比，有一個最大的特點，就是不需要力量訓(xùn)練。其實拉弓需要的核心力量是非常大的，所以古代那些拉弓射箭的士兵都非常健壯；但是弩是用機械的力量把弦上上去，然后用扳機來發(fā)射，普通人就能操作，大大降低了成為一個戰(zhàn)士的門檻，有些學(xué)者把它解釋為“扳機效應(yīng)”。

ChatGPT不是一顆互聯(lián)網(wǎng)原子彈，而是給了每個普通人一把“弩”。

一顆原子彈再厲害，其最大作用還是藏在發(fā)射井里；而弩的出現(xiàn)，意味著一切逆流都將是插曲。隨著身邊越來越多的朋友都在開始圍繞ChatGPT進行創(chuàng)業(yè)和投資，

我很想搞清楚，當(dāng)他們都在說投資AGI，投資ChatGPT相關(guān)產(chǎn)品，他們具體投資什么？

相對確定的信息

（部分摘錄）

01

我們不能貿(mào)然把ChatGPT當(dāng)通用智能

（認(rèn)為有智慧）

，

（不管怎么定義智慧）

它本質(zhì)就是語言模型，不是邏輯或者計算模型，

它的最強項還是語言的理解、組織和輸出，可以理解成是翻譯官

（它是個“文科生or文字工作者”）

。

開頭提到的GPT-3就是一個針對語言的模型，期間它做了兩個關(guān)鍵變型，一是WebGPT，搭建基于文字的頁面瀏覽環(huán)境，教GPT-3上網(wǎng)查詢，在生成結(jié)果的同時生成引用來源，相對GPT-3大幅提升生成內(nèi)容信息量和事實性；二是InstructGPT，基于用戶反饋的強化學(xué)習(xí)RLHF，將語言模型的輸出與用戶的意圖非常好地align

（對齊/相關(guān)）

起來，這是InstructGPT的核心所在。 ChatGPT恰恰是建立在InstructGPT基礎(chǔ)之上，使用基于人類反饋的監(jiān)督學(xué)習(xí)和強化學(xué)習(xí)在GPT-3.5之上進行了微調(diào)的產(chǎn)物。

（這部分信息很枯燥，但我認(rèn)為很關(guān)鍵，知道技術(shù)路徑有利于了解邊界和瓶頸）

02

大模型不是一種新技術(shù)，但代表了一個新的技術(shù)范式。

我們可以做個比喻，它其實代表著從以前“大煉模型”

（各自研發(fā)專用小模型）

，到“煉大模型”

（研發(fā)超大規(guī)模通用智能模型）

的一個轉(zhuǎn)變。這個轉(zhuǎn)變有很重要的意義：通過這種比較先進的算法架構(gòu)，盡量整合可能多的數(shù)據(jù)，匯集大量算力，集約化的訓(xùn)練模式，從而供大量用戶使用。 但從某種意義上來說，它是從小農(nóng)經(jīng)濟到大規(guī)模生產(chǎn)的一個很重要的變化，就像當(dāng)初電網(wǎng)的變革一樣，此前自己發(fā)電，而今天要用AI，就不需要再做模型了，而是用已有的大模型，以一種服務(wù)方式提供給用戶。這很可能會改變信息產(chǎn)業(yè)的格局，改變以前作坊式AI開發(fā)模式，把AI應(yīng)用帶入基于互聯(lián)網(wǎng)、云計算的大規(guī)模智能云階段。

（以上摘錄自張宏江教授講話）

03

對創(chuàng)業(yè)者友好的的地方是：

如當(dāng)初電網(wǎng)的變革一樣，此前自己發(fā)電，今天要用 AI，就不需要再做模型了，而是用已有的大模型，以一種服務(wù)方式提供給用戶。 重點結(jié)合技術(shù)和產(chǎn)業(yè)的雙重優(yōu)勢，通過微調(diào)方式

能夠

把大模型能力有效轉(zhuǎn)移到各種不同的應(yīng)用場景中間，

不再需要自己重新從零開始做模型，從而大大降低開發(fā)成本，使得它的應(yīng)用會變得更加迅速、更加有效。

04

問題也很明顯：

許多應(yīng)用程序也相對沒有差異化，因為它們依賴于類似甚至相同的底層大模型，并且沒有發(fā)現(xiàn)競爭對手難以復(fù)制的明顯網(wǎng)絡(luò)效應(yīng)或數(shù)據(jù)/工作流。

下面分應(yīng)用、模型、基礎(chǔ)設(shè)施三個層面展開說說

Applications（應(yīng)用）

：將生成的AI模型集成到面向用戶的產(chǎn)品中的應(yīng)用程序，運行自己的模型管道

（“端到端應(yīng)用程序”）

或依賴第三方API。 ●

垂直整合（“產(chǎn)品及模型”）。

細分領(lǐng)域從頭開始訓(xùn)練以建立防御能力，但這是以更高的資本要求和更不靈活的產(chǎn)品團隊為代價的。 e.g： [Novel AI]

（https://novelai.net/）

可以幫助作者生成動漫角色； [Make a Video]?

(https://makeavideo.studio/)

可以直接生成小視頻。 ●

重能力而非產(chǎn)品。

?Generative AI在用戶已經(jīng)工作的地方集成AI，是全新的產(chǎn)品設(shè)計思路，因為UI通常只是一個文本框，可以兼容桌面應(yīng)用程序、移動應(yīng)用程序、Figma/Photoshop插件、Chrome擴展程序、Discord機器人甚至是傳統(tǒng)客服中心。但是否延續(xù)移動互聯(lián)網(wǎng)時代的邏輯，也就是往往最大的公司直接面向終端用戶的應(yīng)用程序？還無法定論。 ●

通過炒作周期和區(qū)域進行管理。

新鮮感和炒作過后，留存率是否會提升？相關(guān)政策和法規(guī)在不同國家地區(qū)是否存在不同路徑？這些問題對應(yīng)用程序公司具有重要意義，包括何時加速籌款、如何積極地投資于客戶獲取、優(yōu)先考慮哪些用戶細分、以及何時宣布產(chǎn)品市場契合度。

Models（模型）：

為AI產(chǎn)品提供動力的模型，可以作為專有API或開源檢查點提供高達數(shù)千萬或數(shù)億美元的大規(guī)模模型訓(xùn)練費用。專有產(chǎn)品交互數(shù)據(jù)和稀缺的AI人才，注定是高資本和科技巨頭的競爭核心。 ●

開源：

Stable Diffusion的例子表明，如果開源模型達到足夠的性能水平和社區(qū)支持，那么專有替代品可能會發(fā)現(xiàn)難以競爭。 ●

API 接口服務(wù)：

對專有API

（例如來自 OpenAI）

的需求正在迅速增長。OpenAI有潛力成為一項龐大的業(yè)務(wù)，隨著越來越多的殺手級應(yīng)用程序的構(gòu)建，它在所有NLP類別的收入中占據(jù)很大一部分——特別是如果它們順利集成到Microsoft的產(chǎn)品組合中。 ●

托管或訓(xùn)練服務(wù)：

包括垂直性訓(xùn)練、大模型運營管理訓(xùn)練等。在美國公司

Hugging Face

發(fā)展比較快，專門做大模型的訓(xùn)練和推廣，尤其是一些開源的推廣。

Infrastructure（基礎(chǔ)設(shè)施）：

為Generative AI運行訓(xùn)練和推理工作負(fù)載的基礎(chǔ)設(shè)施供應(yīng)商

（即云平臺和硬件制造商）。

● Generative AI幾乎所有時候都運行在基于云托管的GPU（或TPU）環(huán)境中。因此，

生成人工智能市場的大量資金最終流向了基礎(chǔ)設(shè)施公司。

據(jù)國外媒體統(tǒng)計，今天生成人工智能總收入的10-20%流向了云提供商。 ●

最重要的是，訓(xùn)練自己模型的初創(chuàng)公司已經(jīng)籌集了數(shù)十億美元的風(fēng)險投資——其中大部分

（早期高達 80-90%）

通常也用于云提供商。許多上市科技公司每年花費數(shù)億美元用于模型培訓(xùn)，要么與外部云提供商合作，要么直接與硬件制造商合作。 主要是三大云：亞馬遜網(wǎng)絡(luò)服務(wù)

?(AWS)

、谷歌云平臺

(GCP)?

和Microsoft Azure。Nvidia是當(dāng)前最大贏家，因為他們提供了稀缺硬件

（例如 Nvidia A100 和 H100 GPU）

，本質(zhì)上得益于他通過數(shù)十年來對GPU架構(gòu)的投資、強大的軟件生態(tài)系統(tǒng)以及在學(xué)術(shù)界的深入使用，他們圍繞這項業(yè)務(wù)建立了強大的護城河。 ●

也有一些初創(chuàng)公司如Coreweave和Lambda Labs，憑借專門針對大型模型開發(fā)人員的解決方案迅速成長。他們在成本、可用性和個性化支持方面展開競爭。 ●

由于大多數(shù)AI工作負(fù)載是無狀態(tài)的，因為模型推理不需要附加的數(shù)據(jù)庫或存儲

（模型權(quán)重本身除外）

。這意味著AI工作負(fù)載可能比傳統(tǒng)應(yīng)用程序工作負(fù)載更易于跨云移植。在這種情況下，客戶更容易流動，給新入場的設(shè)施提供商創(chuàng)造了一點機會。

不確定、有疑問的信息

（部分摘錄）

根據(jù)可用數(shù)據(jù)，尚不清楚生成式AI是否會出現(xiàn)長期的、贏者通吃的動態(tài)。

01

今天，生成式人工智能似乎沒有任何系統(tǒng)性的護城河。

作為一階近似，應(yīng)用程序缺乏很強的產(chǎn)品差異化，因為它們使用相似的模型；模型面臨不明確的長期差異，因為它們是在具有相似架構(gòu)的相似數(shù)據(jù)集上訓(xùn)練的；云提供商缺乏深度的技術(shù)差異化，因為他們運行相同的GPU；甚至硬件公司也在同一家工廠生產(chǎn)芯片。當(dāng)然，還有標(biāo)準(zhǔn)的護城河：規(guī)模護城河

（“我擁有或可以籌集到比你更多的錢！”）

、供應(yīng)鏈護城河

（“我有GPU，你沒有！”）

、生態(tài)系統(tǒng)護城河

（“每個人都已經(jīng)在使用我的軟件了！”）

、算法護城河

（“我們比你聰明！”）

、分銷護城河

（“我已經(jīng)有一個銷售團隊和比你更多的客戶！”）

和數(shù)據(jù)管道護城河

（“我在互聯(lián)網(wǎng)上的爬行比你還多！”）

。 但從長遠來看，這些護城河都不會持久。

現(xiàn)在判斷強大、直接的網(wǎng)絡(luò)效應(yīng)是否在堆棧的任何層中占據(jù)主導(dǎo)地位還為時過早

。

02

例如，如果最終產(chǎn)品的主要差異化是AI本身，那么垂直化

（即將面向用戶的應(yīng)用程序與本土模型緊密耦合）

很可能會勝出。而如果AI是更大的長尾特征集的一部分，那么它更有可能發(fā)生水平化。 當(dāng)然，隨著時間的推移，我們還應(yīng)該看到更多傳統(tǒng)護城河的建立——我們甚至可能會看到新型護城河站穩(wěn)腳跟。

03

維特根斯坦說：“

語言的邊界就是思想的邊界

”。人類的邏輯是建立在語言的基礎(chǔ)之上的，

賭大語言模型LLM是通往AGI的最佳路徑正是OpenAI到目前為止勝出的原因。

出門問問CEO李志飛說：“模型學(xué)會了非常底層的結(jié)構(gòu)和機制。萬物都是自然產(chǎn)生的，語言也好，生物結(jié)構(gòu)也好，它一定符合某種我們目前難以解釋的規(guī)律。模型經(jīng)過互聯(lián)網(wǎng)上所有的數(shù)據(jù)訓(xùn)練之后，它也獲得了某種屬于自己的解讀方式?！?這種說法我很期待，但并不確定，

如果現(xiàn)實世界有一種語言，這種語言只可能是數(shù)學(xué)，但ChatGPT明顯是一個文科教授+理科小白。

引入的兩個新視角

1. ChatGPT是一場價值鏈解綁的新革命

Ben Thompson在其文章《The AI Unbundling》中提到一個觀點：

創(chuàng)意的價值鏈一直在被解綁。

當(dāng)我們希望一個創(chuàng)意最終被消費時，大抵經(jīng)歷了以下步驟：

● Creation?

（創(chuàng)意）

Substantiation?

（實現(xiàn)）

Duplication

（復(fù)制）

Distribution

（分發(fā)）

Consumption

（消費）

如果從媒介的進化來看，這個過程是在不斷被解綁： ● 書寫之前，內(nèi)容從創(chuàng)造到消費必須是即時的。一個優(yōu)秀的說書人要同時兼?zhèn)溆袆?chuàng)造力、好的記憶力、適當(dāng)?shù)拿麣?、足夠的體力以及聽眾的配合，才能讓創(chuàng)意被消費掉。 ●

書寫解決了內(nèi)容留存問題。內(nèi)容的創(chuàng)造和消費，可以異步進行。 ●

古登堡的印刷術(shù)解決了復(fù)制問題，讓人們可以大規(guī)模地復(fù)制與傳播內(nèi)容，宗教革命和文藝復(fù)興也因此而誕生?，F(xiàn)在創(chuàng)作的人只需要關(guān)注創(chuàng)意和實現(xiàn)，而復(fù)制和分發(fā)誕生了傳媒行業(yè)，價值鏈在進一步解綁。 ●

互聯(lián)網(wǎng)讓分發(fā)不再依賴于傳統(tǒng)物理媒介，打破了效率瓶頸，讓信息傳遞成本幾乎降至免費。 ●

現(xiàn)在還剩一個綁定的部分，即想法到創(chuàng)造的現(xiàn)實。而AI正在打破這個綁定。比如一個小說家，可以不需要再經(jīng)過十幾年的訓(xùn)練，就可以為自己的小說配上插圖。而那些有創(chuàng)意的人，將會不再需要依賴其他人幫忙，就能直接實現(xiàn)自己的想法。 當(dāng)價值鏈上的各個環(huán)節(jié)每次被打破時，對應(yīng)的商業(yè)模式也會被重塑，供給方和需求方的訴求也會發(fā)生變化。

ChatGPT可以讓所有知識勞動者做一次個體的數(shù)字化轉(zhuǎn)型。

個體需要開始解綁自己的“工作”，拆解成不同的“任務(wù)”，對應(yīng)不同的“技能”，然后在不同技能上使用不同的AI來替換或支持，重新設(shè)計工作流，達到強化自己的效果。

這是最壞的時代

，因為必然有大量的就業(yè)崗位消失；

這也是最好的時代

，因為對用好AI的少數(shù)人來說，“組團隊”只需要過去10%的資本量。

2. Generative AI是個超級UI（接口）

昨天

（2023年2月15日）

百姓網(wǎng)建碩參加我們高山書院內(nèi)部的一個討論，他提到說ChatGPT給他帶來的興奮感，和90年代第一次看到網(wǎng)景瀏覽器

（Netscape Navigator）

一樣，通過這個窗口看到了新的世界、新的時代。而在此之前只能用語言和命令，能玩轉(zhuǎn)的就是高級人才了，反正普通人是上不了的，太過于復(fù)雜。 我們與任何系統(tǒng)之間都有一個“界面”，也可以稱為“接口”，通過這個接口將系統(tǒng)內(nèi)部的結(jié)構(gòu)信息傳達給用戶；這個接口有時候是抽象的，也可以是具象的人，比如律師、醫(yī)生、財務(wù)顧問等，都是鏈接

我們與

另一個復(fù)雜系統(tǒng)的接口。

一個好的接口能提高用戶的使用效率與頻次，繼而催生出一個高效流動的市場

（如鏈家、多抓魚、TableAu）

。復(fù)雜系統(tǒng)的接口特別稀缺，所以往往非常昂貴。 我的另一位朋友任鑫，他覺得Midjourney是最好的產(chǎn)品，因為僅通過一個對話框，輸入一些提示詞就能得到遠超預(yù)期的計算機繪畫作品。從web到移動端，那些曾經(jīng)被奉為圭臬的交互設(shè)計原則都將回歸到一個對話框，并且從形態(tài)來講，它不再是一個靜態(tài)的東西。 這個對話窗口背后，是大模型跟數(shù)據(jù)，是業(yè)務(wù)高度融合，是動態(tài)迭代發(fā)展的一個存在，它是個service，下面不停地變，不停地融合。 這不得不讓我想起首晟教授提到的那個第一性原理：“分久必合 合久必分”。

ChatGPT讓普通人第一次可以使用自然語言，通過這種跨越所有交互與數(shù)據(jù)操作之上的通用界面，對信息世界“編程”，并且獲得自己所需要的能力。

這是一次“接口”的革命，它無處不在，而且非常廉價。

因為利用弩這種不需要核心力量訓(xùn)練的武器，就可以非常迅速、有效地把大部分普通人變成士兵。由此，秦國就最早地發(fā)展了一種“動員技術(shù)”。我們中國人有一句俗話叫“街坊四鄰”，為什么是四鄰呢？因為古代的基本社會組織是“五人為一伍”，除了你之外還有四家，這四家叫四鄰。 這個跟商鞅變法結(jié)合在一塊兒就更厲害了。商鞅變法推行耕戰(zhàn)制：你平常沒事干的時候就種地，該打仗的時候就打仗。如果沒有努，這些種田的普通人上了戰(zhàn)場也沒什么用。 弩這種兵器并不是秦國最早使用，而是韓國最早使用，但是秦國的制度用得最好。當(dāng)戰(zhàn)國時代開始的時候，這個技術(shù)進步使得老百姓都能參與到戰(zhàn)爭中去。所以并不是說這個技術(shù)是秦國獨有的，而是秦國的政治制度和這個技術(shù)結(jié)合得好。