A100 A800 40GB顯存 80GB顯存 PCIE 版和 SXM 版

H100 H800 80GB顯存 PCIE 版、 SXM 版 NVL版

DGX HGX 到底是怎么一回事？

這些是不是讓人分不清楚？今天通過一下參數(shù)對比，帶大一文看懂英偉達(dá)A100、A800、H100、H800各個(gè)版本

看完后我們再探討該如何選擇？

A800 NVLink 8卡模組 A100 超微NV服務(wù)器 A100 PCIE 單卡

H800超微NV服務(wù)器 H100 超微NV服務(wù)器 H100 PCIE 單卡

GH200 超級服務(wù)器

NVIDIA DGX 與 NVIDIA HGX 有什么區(qū)別??

去年10月7日，美國出臺了對華半導(dǎo)體出口限制新規(guī)，其中就包括了對于高性能計(jì)算芯片對中國大陸的出口限制。并且以NVIDIA的A100芯片的性能指標(biāo)作為限制標(biāo)準(zhǔn)。即同時(shí)滿足以下兩個(gè)條件的即為受管制的高性能計(jì)算芯片：

（1）芯片的I/O帶寬傳輸速率大于或等于600 Gbyte/s；

（2）“數(shù)字處理單元 原始計(jì)算單元”每次操作的比特長度乘以TOPS 計(jì)算出的的算力之和大于或等于4800TOPS。這也使得NVIDIA A100/H100系列、AMD MI200/300系列AI芯片無法對華出口。

隨后NVIDIA為了在遵守美國限制規(guī)則的前提下，同時(shí)滿足中國客戶的需求，在11月8日宣布將推出符合美國新規(guī)的A100的替代產(chǎn)品A800，并且將會在今年三季度投產(chǎn)。從官方公布的參數(shù)來看，A800主要是將NVLink的傳輸速率由A100的600GB/s降至了400GB/s，其他參數(shù)與A100基本一致。

今年3月，英偉達(dá)發(fā)布了新一代基于4nm工藝，擁有800億個(gè)晶體管、18432個(gè)核心的H100 GPU。同樣，NVIDIA也推出了針對中國市場的特供版H800。NVIDIA 在給路透社的一份聲明中表示：“我們的 800 系列產(chǎn)品符合出口管制法規(guī)?！甭吠干鐖?bào)道稱，H800 的芯片間數(shù)據(jù)傳輸速度是 H100 的一半。據(jù)稱800系列產(chǎn)品已被阿里巴巴、百度和騰訊的云部門采用。

由于自去年底以來，隨著以ChatGPT為代表的生成式AI的持續(xù)火爆，使得生成式AI市場對于基于高性能GPU的AI芯片需求暴漲。其中，性能強(qiáng)大的NVIDIA AI芯片更是備受市場追捧，在市場上居于壟斷地位，相比之下AMD的AI芯片市場份額較小。

據(jù)統(tǒng)計(jì)NVIDIA當(dāng)前在售的AI加速卡至少有9款型號，其中高性能的有4款，分別是V100、A800、A100及H100。價(jià)格方面，V100加速卡至少10000美元，按當(dāng)前的匯率，約合6.9萬元人民幣；A800售價(jià)12000美元，約合人民幣8.7萬元，市場一度炒高到10萬元人民幣；A100售價(jià)在1.5萬美元，約合人民幣10.8萬元；H100加速卡是NVIDIA當(dāng)前最強(qiáng)的，售價(jià)3.65萬美元，約合26.4萬元人民幣。

消息顯示，由于市場需求暴漲，導(dǎo)致英偉達(dá)面向中國市場推出的替代版本A800和H800的市場價(jià)格比原始廠商建議零售價(jià)高出了40%，并且新訂單交期可能延長到了12月份。

此前的爆料也顯示，互聯(lián)網(wǎng)大廠字節(jié)跳動累計(jì)已經(jīng)訂購價(jià)值約 10 億美元的NVIDIA GPU，大約為 10 萬片的 A100 和 H800，其中A100 應(yīng)為 2022 年 8 月美國政府下令前所訂購。

但是，據(jù)《華爾街日報(bào)》的最新報(bào)道稱，美國商務(wù)部正在考慮的新限制措施可能將禁止對華銷售沒有美國特殊出口許可證的NVIDIA A800芯片。那么這也就意味著H800系列也將會被限制。

目前中國國內(nèi)雖然有不少國產(chǎn)GPU加速芯片及AI芯片廠商，比如壁仞科技、沐熙集成電路、摩爾線程、海光信息、寒武紀(jì)等，但是在整體的性能上與NVIDIA和AMD仍有較大差距，無法替代這部分的市場需求。

雖然對于這些國產(chǎn)AI芯片廠商來說，美國的新的AI芯片限制政策是一個(gè)利好消息，但是對于國內(nèi)依賴于高性能AI芯片提供AI硬件的廠商、以及提供AI服務(wù)的互聯(lián)網(wǎng)廠商及一些AI技術(shù)廠商來說則是一個(gè)利空，畢竟如果缺少了強(qiáng)大的AI芯片的支撐，那么其AI技術(shù)的發(fā)展及所能夠提供的AI服務(wù)也將受到負(fù)面影響。

英偉達(dá)GPU目前處于供方市場，供需失衡嚴(yán)重，且市面同類可以替代產(chǎn)品不強(qiáng)，這也讓英偉達(dá)稱為“AI世界的中心”

A800顯卡已經(jīng)從一周前的9萬多元漲到了13萬元，漲幅大約30%，而服務(wù)器現(xiàn)貨更是從120萬漲到了140萬元左右。

據(jù)報(bào)道稱，百度、字節(jié)跳動、騰訊和阿里巴巴四家公司合計(jì)向英偉達(dá)訂購了價(jià)值50億美元的AI芯片。其中，今年英偉達(dá)將合計(jì)發(fā)貨約10萬塊A800芯片，價(jià)值10億美元，另外價(jià)值40億美元的芯片都將明年交付。

關(guān)于選購GPU

中國大陸市場GPU通常分為國行和OEM不同類型：國行每家價(jià)格差距不會太大；OEM每個(gè)類型各家價(jià)格會有一定差距；市場通常會用OEM的產(chǎn)品和國行的競爭，這兩者產(chǎn)品都可以選擇，建議選擇國行。

除此之外，以A100 40GB為例，不僅分為 PCIE 版和 SXM 版，由于斷供受阻，市面上也存在拆舊卡和改組卡的情況，價(jià)格差異也很大。

拆舊的產(chǎn)品主要看成色、使用時(shí)間、生產(chǎn)時(shí)間、出力等綜合來確定價(jià)格，價(jià)格差距比較大，同時(shí)對比國行價(jià)格也低很多。

筆者就遇到用戶前期調(diào)研到拆舊卡，來跟筆者國行卡比較的情況，用戶會覺得筆者的價(jià)格非常高，沒有誠意。實(shí)際筆者從事科研服務(wù)器細(xì)分領(lǐng)域，自主科研服務(wù)器品牌，生產(chǎn)采用全新第一品牌部件，這樣對比是很不公平。

如用戶就是追求價(jià)格，指定要求拆舊和改組，也可以為用戶提供。

A100\H100在中國大陸基本上越來越少，A800目前也在位H800讓路，如果確實(shí)需要A100\A800\H100\H800GPU，建議就不用挑剔了，HGX 和 PCIE 版對大部分使用者來說區(qū)別不是很大，有貨就可以下手了。

無論如何，選擇正規(guī)品牌廠商合作，在目前供需失衡不正常的市場情況下，市面大部分商家是無法供應(yīng)的，甚至提供不屬實(shí)的信息，如果是科研服務(wù)器的話首選風(fēng)虎云龍科研服務(wù)器，入圍政采，品質(zhì)和售后服務(wù)都有保障。

歡迎交流 陳經(jīng)理【173-1639-1579】

多年來一直專注于科學(xué)計(jì)算服務(wù)器，入圍政采平臺，H100、A100、H800、A800、RTX6000 Ada，單臺雙路192核心服務(wù)器有售.