特斯拉AI Day秀炸,詳解全球頂級超級計算機Dojo
北京時間8月20日,特斯拉在美國成功舉辦AI Day活動。特斯拉CEO伊隆·馬斯克、人工智能部門總監(jiān)Andrej Karpathy等多位工程師現(xiàn)身會場,公布了特斯拉純視覺方案FSD的進展、神經(jīng)網(wǎng)絡(luò)自動駕駛訓(xùn)練、D1芯片、Dojo超級計算機等重磅信息,帶來一場世界前沿的科技盛宴。

堅持視覺感知 用AI神經(jīng)網(wǎng)絡(luò)技術(shù)提升輔助駕駛能力
特斯拉的純視覺傳感器方案的實現(xiàn),離不開多任務(wù)學(xué)習(xí)HydraNets神經(jīng)網(wǎng)絡(luò)架構(gòu)。每輛特斯拉汽車擁有8個環(huán)繞車身、覆蓋周圍360°的攝像頭,來獲取交通信號燈、信號牌、匝道、路緣等周邊信息,為神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)提供了絕佳條件。
Andrej說:“我們希望能夠打造一個類似動物視覺皮層的神經(jīng)網(wǎng)絡(luò)連接,模擬大腦信息輸入和輸出的過程。就像光線進入到視網(wǎng)膜當(dāng)中,我們希望通過攝像頭來模擬這個過程?!?/p>
多任務(wù)學(xué)習(xí)HydraNets神經(jīng)網(wǎng)絡(luò)架構(gòu)可以將8個攝像頭獲取的畫面拼接起來,并完美平衡視頻畫面的延遲和精準(zhǔn)度。通過人工或自動標(biāo)注車道、車輛、信號燈、障礙物等環(huán)境和動靜物體,系統(tǒng)會逐幀分析視頻畫面,了解物體的縱深、速度等信息,再將這些數(shù)據(jù)交給車隊學(xué)習(xí)。
但是在這個過程中,特斯拉發(fā)現(xiàn)了幾個問題:這些參數(shù)和空間追蹤是很難通過C++這個基礎(chǔ)架構(gòu)實現(xiàn)拼接的;有一些空間數(shù)據(jù)的輸出質(zhì)量不高;不同攝像頭獲取的物體信息不同,拼合時很難進行整體把握。
為解決這些問題,特斯拉開發(fā)了“矢量空間”(Vector Space)技術(shù),同時兼具了非凸優(yōu)化算法(Non-convex)、高維度兩大優(yōu)勢。該技術(shù)可以通過8個攝像頭輸入的數(shù)據(jù)為基礎(chǔ)繪制3D鳥瞰視圖,形成4D的空間和時間標(biāo)簽的“路網(wǎng)”以呈現(xiàn)道路等信息,幫助車輛把握駕駛環(huán)境,更精準(zhǔn)的尋找最優(yōu)駕駛路徑。

有了海量、精準(zhǔn)的視頻數(shù)據(jù),特斯拉還需要創(chuàng)造一個強大的神經(jīng)網(wǎng)絡(luò),并對網(wǎng)絡(luò)進行特殊的布局,使這些數(shù)據(jù)能在一個總的主干網(wǎng)絡(luò)上進行整合和重新分析。因此,特斯拉“高樓平地起”,自主研發(fā)了基于神經(jīng)網(wǎng)絡(luò)的訓(xùn)練方式。
特斯拉擁有一支由世界各地人才組成的數(shù)據(jù)標(biāo)注團隊,規(guī)模在1000人左右。團隊每天對視頻數(shù)據(jù)中的物體在“矢量空間”中進行標(biāo)注,在善于把握細節(jié)的人工標(biāo)注和效率更高的自動標(biāo)注配合下,只需要標(biāo)注一次,“矢量空間”就能自動標(biāo)注所有攝像頭的多幀畫面。這為特斯拉帶來了上百億級的有效且多樣化的原生數(shù)據(jù),而這些數(shù)據(jù)都會用于神經(jīng)網(wǎng)絡(luò)培訓(xùn)。

同時,特斯拉還開發(fā)了“仿真場景技術(shù)”,可以模擬現(xiàn)實中不太常見的“邊緣場景”用于自動駕駛培訓(xùn)。在仿真場景中,特斯拉工程師可以提供不同的環(huán)境以及其他參數(shù)(障礙物、碰撞、舒適度等),極大提升了訓(xùn)練效率。

由此,特斯拉FSD系統(tǒng)已可以實現(xiàn)每1.5毫秒2500次搜索的超高效率,預(yù)測可能出現(xiàn)的各種情況,并在其中找到最安全、最舒適、最快速的自動駕駛路徑。
“工程學(xué)的創(chuàng)舉”——D1芯片與Dojo超級計算機
當(dāng)下,隨著所需處理的數(shù)據(jù)開始指數(shù)級增長,特斯拉也在提高訓(xùn)練神經(jīng)網(wǎng)絡(luò)的算力,因此,便有了特斯拉Dojo超級計算機。
特斯拉的目標(biāo)是實現(xiàn)人工智能訓(xùn)練的超高算力,同時還要擴展帶寬、減少延遲、節(jié)省成本。這就要求Dojo超級計算機的布局,要實現(xiàn)空間和時間的最佳平衡。
組成Dojo超級計算機的關(guān)鍵單元,是特斯拉自主研發(fā)的神經(jīng)網(wǎng)絡(luò)訓(xùn)練芯片——D1芯片。D1芯片采用分布式結(jié)構(gòu)和7納米工藝,搭載500億個晶體管、354個訓(xùn)練節(jié)點,僅內(nèi)部的電路就長達17.7公里,實現(xiàn)了超強算力和超高帶寬。


Dojo超級計算機的單個訓(xùn)練模塊由25個D1芯片組成。由于每個D1芯片之間都是無縫連接在一起,相鄰芯片之間的延遲極低,訓(xùn)練模塊最大程度上實現(xiàn)了帶寬的保留,配合特斯拉自創(chuàng)的高帶寬、低延遲的連接器;在不到1立方英尺的體積下,算力高達9PFLOPs(9千萬億次),I/O帶寬高達36TB/s。


得益于訓(xùn)練模塊的獨立運行能力和無限鏈接能力,由其組成的Dojo超級計算機的性能拓展在理論上無上限,是個不折不扣的“性能野獸”。實際應(yīng)用中,特斯拉將以120個訓(xùn)練模塊組裝成ExaPOD,它是世界上首屈一指的人工智能訓(xùn)練計算機。與業(yè)內(nèi)其他產(chǎn)品相比,同成本下它的性能提升4倍,同能耗下性能提高1.3倍,占用空間節(jié)省5倍。


與強大硬件相匹配的,是特斯拉針對性開發(fā)的分布式系統(tǒng)——DPU(Dojo Processing Unit)。DPU是一個可視化交互軟件,可以隨時根據(jù)要求調(diào)整規(guī)模,高效地處理和計算,進行數(shù)據(jù)建模、存儲分配、優(yōu)化布局、分區(qū)拓展等任務(wù)。
不久后,特斯拉即將開始Dojo超級計算機的首批組裝,并從整個超級計算機到芯片、系統(tǒng),進行更進一步的完善。
除了備受期待的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)與Dojo超級計算機,在活動末尾,馬斯克在談到AI發(fā)展方向時,還出乎所有人意料地拋出了“Tesla Bot”。Tesla Bot高1.72米,重56.6千克,臉上的屏幕可顯示信息,擁有人類水平的雙手,并有力反饋感應(yīng),以實現(xiàn)平衡和敏捷的動作。
馬斯克表示,Tesla Bot將利用Dojo超級計算機的訓(xùn)練機制來改進功能,并補充道:“未來勞動力不會短缺,但體力勞動只是一種選擇。Tesla Bot可以執(zhí)行一些危險性、重復(fù)性、枯燥的任務(wù)?!盩esla Bot或?qū)⒃诿髂晖瞥鍪讉€原型機。


對于人工智能技術(shù),馬斯克顯然還有更遠大的追求。這種追求,寄托在他開場白中“我們遭遇了一點技術(shù)問題,希望以后可以用AI來解決”的調(diào)侃,更在于活動結(jié)尾時他許下的“我們會進一步在整個人類世界里暢游”的承諾。