Index Ventures ③:基礎模型最終將成為所有AI驅動軟件的基石

?? ?欄目簡介?
如果說之前推出的【論文速讀】是領讀頂會嚴謹的實證研究論文,那么【好文譯遞】則想傳遞觀點性、發(fā)散性的議論文章,只是靜靜地完整呈現譯文,任您自由地品讀和思考。

????編者按?
—
2022年12月13日,Index Ventures?發(fā)布了《The AI Platform Shift》系列文章,四篇文章分別從軟件價值鏈、軟件應用、基礎模型和機器學習四個不同角度,較全面地闡述了 Index 團隊對AI未來趨勢的洞察和判斷,對于業(yè)界具有較高的參考價值。我們已經編譯了系列文章的前兩篇,本期是第三篇《Foundation Models Will Eventually be the Basis of all AI-Powered Software》的編譯,原文作者是Mike Volpi。下期我們會推出最后一篇的譯文,歡迎繼續(xù)關注~

?? 原文中譯?
基礎模型最終將成為所有AI驅動軟件的基石
—

基礎模型將包含所有具體應用做出決策所依據的情境。
ML 領域的最新熱詞之一是?基礎模型(foundation model)。基礎模型是沒有特定用途的、直接在大量數據集上“預訓練”的大型人工神經網絡。例如流行的OpenAI的GPT-3,它只被訓練用于根據給定文本預測文檔的下一段文本。但是,基礎模型可以通過在較小的手動標記數據集上進行“微調”來執(zhí)行特定任務,比如客服回答客戶問題。
基礎模型帶來了接近人類表現水平的通用技能。大多數 AI 模型都是根據特定任務的數據進行訓練的,比如機械臂被訓練來撿東西,自動駕駛汽車被訓練來駕駛。而基礎模型納入了來自整個互聯網的巨量數據,某些部分的數據甚至是過度且令人討厭的,但它包含了人類幾千年學到的大部分內容。我們 Index 的一個理論是:幾乎任何AI應用都可以從基礎模型的基礎使用中受益。
一些人工任務看起來發(fā)揮空間有限,比如開車、倉庫裝箱或者客服,但我們經常將從生活中別處獲得的領悟應用于此。在特定任務上訓練的機器沒有這樣的知識廣度,這就是為什么機器人不知道如何處理傳送帶上的貓,這也是為什么自動駕駛汽車遇到不合理的交通路錐只會停下來。人類可以根據對動物和空間結構的了解,將這些事件放到具體情境中思考,解決掉問題然后繼續(xù)推進,這正是我們的“超能力”。
我們相信,隨著時間的推移,工程師們將越來越多地從預先訓練好的基礎模型開始,再在垂類的任務上對其進行微調。基礎模型不會讓特定的AI模型變得“類人化”,但使用基礎模型將有助于模型理解最不尋常的情況,并幫助它們在這些情況下對策?;谌祟愸{駛員的行為來理解他們的情緒,將有助于自動駕駛汽車導航;理解一只偷偷溜進倉庫的貓不該出現在傳送帶上,將有助于機器人處理混亂狀況。對于幾乎所有的AI模型來說,最困難的情況就是這種從未見過的小概率“長尾”事件。
Aidan Gomez,Cohere的聯合創(chuàng)始人,在與人合著的一篇開創(chuàng)性論文中介紹了?許多基礎模型的底層架構“transformer”。我們在 2021年領投了該公司的A輪融資,因為我們認為會有一小批服務供應商像十年前的云計算巨頭一樣涌現,這些服務供應商將解決模型開發(fā)、管理和托管等常常令公司難以負擔的任務。
在基礎模型能像人類一樣真正理解事物意義之前,我們還有很長的路要走。但基礎模型正在以驚人的速度進步,在不久的將來,它們的智能將接近我們人類應對任務的知識能力。
*聲明:原文來自 Index Ventures 官網,如有侵權,可提議撤稿

?? ?好文征集?
歡迎大家添加 OpenBMB 微信,即可進入大模型社群交流文章,也可分享推薦更多AI領域的好文!文章時效不限,既可以是討論密集的的熱點時文,也可以是歷久彌香的經典前文~

? 傳送門 |官方網站?
?? https://www.openbmb.org
? 傳送門 |GitHub 主頁?
??? https://github.com/OpenBMB
?? 加社群/ 提建議/ 有疑問?
請找 OpenBMB 萬能小助手(上方二維碼)

?? 關注我們
微信搜索關注 “OpenBMB開源社區(qū)”
后臺回復“CPM-Live” 即可加入CPM-Live加油群
還可獲取更多大模型干貨知識和前沿資訊!?

