最美情侣中文字幕电影,在线麻豆精品传媒,在线网站高清黄,久久黄色视频

歡迎光臨散文網(wǎng) 會(huì)員登陸 & 注冊(cè)

買不到 H100 GPU? NVIDIA 推租賃 DGX Cloud 提供人工智能算力

2023-07-31 12:21 作者:愛分享的Tony老師  | 我要投稿


外電報(bào)導(dǎo),英偉達(dá)(NVIDIA)現(xiàn)在正在向那些渴望使用其硬件和軟件的對(duì)象,出租其自主研發(fā)的人工智能解決方案。 這個(gè)被稱之為DGX Cloud的云計(jì)算服務(wù)將內(nèi)含其高性能人工智能硬件,包括目前供不應(yīng)求的H100和A100GPU算力。 用戶將能夠通過(guò)英偉達(dá)自己的云基礎(chǔ)設(shè)施或甲骨文(Oracle)的云計(jì)算服務(wù)來(lái)租用該系統(tǒng)。

報(bào)道引用英偉達(dá)DGX平臺(tái)總監(jiān)Tony Paikeday的說(shuō)法指出,DGX Cloud在全球都可租用,但受美國(guó)出口管制的地區(qū)除外。 而該云計(jì)算服務(wù)將在英偉達(dá)的云計(jì)算基礎(chǔ)設(shè)施中提供,其中包括位于美國(guó)和英國(guó)的DGX系統(tǒng),而DGX Cloud也將通過(guò)甲骨文云計(jì)算服務(wù)來(lái)提供。

英偉達(dá)在3月份的 GTC 會(huì)議上首次宣布了DGX云計(jì)算服務(wù),隨后宣布退出該服務(wù)。 日前正式宣布提供該項(xiàng)服務(wù),這是繼該公司發(fā)布一系列云端人工智能服務(wù)之后所宣布的最新計(jì)劃。 而對(duì)此,競(jìng)爭(zhēng)對(duì)手Cerebras Systems正在中東云提供商G42中運(yùn)行的云計(jì)算服務(wù)中安裝人工智能系統(tǒng),該系統(tǒng)將提供36 exaflops的算力性能。 另外,特斯拉(TESLA)也宣布,開始生產(chǎn) Dojo 超級(jí)電腦。 該超級(jí)計(jì)算機(jī)將搭載其自主研發(fā)的D1芯片,到2024年年底可提供100 exaflops的算力性能。

報(bào)道指出,DGX Cloud 的租賃計(jì)劃包括使用英偉達(dá)的云端人工智能系統(tǒng),該系統(tǒng)的每個(gè)服務(wù)器都有H100 或 A100 GPU 和 640GB GPU 內(nèi)存,公司可以在其上運(yùn)行 AI 應(yīng)用程序。 英偉達(dá)推出該服務(wù)的目標(biāo)是像工廠一樣運(yùn)行其人工智能基礎(chǔ)設(shè)施,在輸入數(shù)據(jù)作為原材料之后,輸出的數(shù)據(jù)是用戶可以投入使用的可用信息,當(dāng)中客戶不用擔(dān)心中間的軟件和硬件效能。

Paikeday 強(qiáng)調(diào),DGX Cloud 滿足了一項(xiàng)關(guān)鍵需求,也就是用于大型復(fù)雜生成人工智能訓(xùn)練模型的多節(jié)點(diǎn)訓(xùn)練專用計(jì)算。 如此,企業(yè)還將獲得深厚的技術(shù)專業(yè)知識(shí),來(lái)進(jìn)一步部署和運(yùn)營(yíng)支持此類工作的環(huán)境。 而DGX Cloud的的租賃價(jià)格為每月每個(gè)應(yīng)用36,999美元,這個(gè)價(jià)格大約是 Microsoft Azure ND96asr 價(jià)格的兩倍。 Microsoft Azure ND96asr配備8個(gè)Nvidia A100GPU、96個(gè)CPU內(nèi)核和900GB RAM,每月費(fèi)用為19,854美元。 而DGX Cloud 的基本價(jià)格包括 AI Enterprise 軟件,該軟件提供對(duì)大型語(yǔ)言模型和工具的使用來(lái)開發(fā) AI 應(yīng)用程序。

另外,DGX Cloud 的租賃包括一個(gè)名為 Base Command Platform 的軟件界面,以便公司管理和監(jiān)控 DGX Cloud 使用工作。 Oracle Cloud 擁有多達(dá)512個(gè)英偉達(dá) GPU 的群集,具有每秒 200 GB 的 RDMA 網(wǎng)絡(luò),并支持多個(gè)系統(tǒng)(例如 Lustre)。 而相較于DGX Cloud,雖然當(dāng)前大型云計(jì)算服務(wù)供應(yīng)商都有建置英偉達(dá)H100和A100 GPU,但與DGX Cloud不同,他們僅用于自行訓(xùn)練人工智能模型,并不提供客戶來(lái)使用。

其中,Google 在 2023 年早些時(shí)候發(fā)布了配備 26,000 個(gè) Nvidia H100 Hopper GPU 的 A3 超級(jí)電腦,其設(shè)置類似于英偉達(dá)的 DGX Superpod,跨越 127 個(gè) DGX 節(jié)點(diǎn),每個(gè)節(jié)點(diǎn)配備 8 個(gè) H100 GPU。 至于亞馬遜AWS EC2 UltraClusters系統(tǒng),也是采用H100GPU。

事實(shí)上,人們對(duì)英偉達(dá)的人工智能硬件產(chǎn)生渴望的原因,在于人們急于生成式人工智能來(lái)進(jìn)行各項(xiàng)發(fā)展。 OpenAI 的 ChatGPT 以聊天機(jī)器人的形式展示了人工智能的強(qiáng)大能力,到現(xiàn)在包括醫(yī)療保健、保險(xiǎn)和金融在內(nèi)的市場(chǎng)正在出現(xiàn)新的應(yīng)用。 因此,Paikeday指出,英偉達(dá)希望DGX Cloud能夠吸引新的生成式人工智能應(yīng)用客戶和工作到我們及合作伙伴的云中。



買不到 H100 GPU? NVIDIA 推租賃 DGX Cloud 提供人工智能算力的評(píng)論 (共 條)

分享到微博請(qǐng)遵守國(guó)家法律
南郑县| 江华| 金溪县| 游戏| 吴忠市| 陕西省| 延安市| 卓尼县| 武冈市| 抚州市| 安新县| 青神县| 秭归县| 武平县| 方山县| 昂仁县| 冷水江市| 电白县| 昌图县| 泸西县| 武城县| 阿克苏市| 韶山市| 南皮县| 广东省| 独山县| 乌拉特后旗| 奉化市| 双柏县| 桐城市| 都江堰市| 南阳市| 吉木乃县| 利津县| 呼玛县| 岳阳市| 宣汉县| 南投县| 河西区| 孙吴县| 赣州市|