Python從零到就業(yè)全棧500課(編程+爬蟲+數(shù)據(jù)+自動化+前后端+算法)

download：https://www.zxit666.com/6347/

在2023年第四屆中國數(shù)據(jù)中心綠色能源大會上，由CDCC、益企研討院、中國智能計算產(chǎn)業(yè)聯(lián)盟結(jié)合打造的“算力經(jīng)濟 算網(wǎng)交融”專場備受關(guān)注。來自不同范疇的專家、生態(tài)同伴、用戶共同討論以算力為中心消費要素的算力根底設備的革新與開展。

大模型需求大算力，當算力和網(wǎng)絡的開展呈現(xiàn)一體共生之勢時，從算網(wǎng)協(xié)同到算網(wǎng)交融，業(yè)務需求的變化會經(jīng)過CPU、GPU、存儲等IT設備傳導到網(wǎng)絡架構(gòu)層面，即數(shù)據(jù)中心作為根底設備也會相應的產(chǎn)生自上而下的變化，英偉達網(wǎng)絡亞太區(qū)高級總監(jiān)宋慶春受邀列席本次論壇并細致分享了“大模型時期的NVIDIA網(wǎng)絡計算”。

以下內(nèi)容依據(jù)現(xiàn)場演講整理：

說到大模型，首先就要提一下ChatGPT。今年ChatGPT的呈現(xiàn)標志著大模型時期曾經(jīng)降臨了，所以ChatGPT出來以后在全世界掀起了大模型熱潮。在這個熱潮中最火的幾家公司，一個是OpenAI，一個是微軟，還有一個公司是Facebook，就是Meta。OpenAI在鍛煉它的GPT3的時分，用了幾千顆NVIDIA的GPU，花了兩年時間最終鍛煉出ChatGPT這么一個歷史性的模型。在ChatGPT出來以后，OpenAI并沒有停下來他們的腳步，不斷在持續(xù)鍛煉它的GPT4，以至也在研討他們的GPT5。OpenAI和微軟協(xié)作得十分嚴密，如今它本人的算力遠遠不夠了，用的就是微軟的Azure公有云來鍛煉它的新模型。

Meta也在用微軟的公有云來鍛煉它的大模型，叫OPT。還有在元宇宙應用中的各種模型。Meta除了本人建了多個超越萬卡的集群以外，也在用微軟的云在鍛煉它的模型。

為什么大家都在選擇微軟的Azure云來鍛煉他們的大模型呢？用微軟的CTO一句話來講，在微軟的Azure云上有三個關(guān)鍵技術(shù)，能確保Azure的AI云能提供全世界最好的大模型的鍛煉性能。在這里其中有兩個要素跟網(wǎng)絡相關(guān)，一個是NVIDIA的NVLink網(wǎng)絡，一個就是NVIDIA的InfiniBand網(wǎng)絡。所以今天我們的重心會放在網(wǎng)絡上來停止討論。

在幾周前的Computex2023上，NVIDIA的CEO黃仁勛提出了將來數(shù)據(jù)中心市場的走向，數(shù)據(jù)中心正在往云的方向轉(zhuǎn)型。將來數(shù)據(jù)中心會走向三個方向：第一個是傳統(tǒng)的云，由于我們有很多傳統(tǒng)業(yè)務需求傳統(tǒng)的云來提供效勞；第二個是生成式AI云，由于如今AI業(yè)務變得越來越多，我們的生活曾經(jīng)離不開AI了，為我們的用戶提供AI云的效勞，需求有十分強大的算力平臺，在這個算力平臺里就會包括計算平臺，包括通訊平臺，所以生成式AI云也是將來的開展趨向；還有一個更大的云的趨向，這個云就是將來的AI工廠，大模型的呈現(xiàn)標志著AI會往超大范圍的場景上變化。

ChatGPT呈現(xiàn)之前，大家對AI有一定理解的話，會看到AI有很多不同的分支，我們有基于計算視覺（Computing Vision，CV）的，有基于NLP自然言語處置的，還有特地針對多媒體的，模型的分支很多。但是當以GPT為代表的多模態(tài)的大模型呈現(xiàn)以后，模型逐步走向統(tǒng)一。當模型走向統(tǒng)一之后，將來提供鍛煉效勞的平臺，其實會變成十分單純、但是十分強大，有很大很大算力的平臺。這個平臺我們就叫它AI云，由于它跟傳統(tǒng)的云和數(shù)據(jù)中心的目的完整不一樣的，它追求的就是很單純的幾個模型，或許是一個，或許是有限的幾個，但是我要讓這個模型的性能發(fā)揮到淋漓盡致。所以在這里需求有最強的計算平臺，像最強的GPU，也需求最強的網(wǎng)絡平臺。