最美情侣中文字幕电影,在线麻豆精品传媒,在线网站高清黄,久久黄色视频

歡迎光臨散文網(wǎng) 會(huì)員登陸 & 注冊(cè)

英偉達(dá) GH200 登場(chǎng),黃仁勛:AI 模型執(zhí)行成本將大降

2023-08-09 14:38 作者:愛分享的Tony老師  | 我要投稿


為抵御超微(AMD)、Google 及亞馬遜(Amazon.com)在人工智能(AI)硬件領(lǐng)域的競(jìng)爭(zhēng),英偉達(dá)(Nvidia Corp.)新推了專門用來執(zhí)行 AI 模型的全新芯片,并表示執(zhí)行大型語言模型(LLMs)的成本將「顯著降低」。

CNBC、MarketWatch等外電報(bào)導(dǎo),英偉達(dá)執(zhí)行長(zhǎng)黃仁勛(Jensen Huang)8日在2023年繪圖盛會(huì)「SIGGRAPH」(Special Interest Group on Computer Graphics and Interactive Techniques)發(fā)表次世代超級(jí)芯片「DGX GH200 Grace Hopper Superchip」,主要應(yīng)用于大型內(nèi)存生成式AI模型,例如OpenAI的AI聊天機(jī)器人「ChatGPT」。

GH200的Hopper繪圖處理器(GPU)與英偉達(dá)目前最高階AI芯片H100相同,但結(jié)合72核心的ARM架構(gòu)Grace中央處理器(CPU),并搭配141 GB HBM3內(nèi)存及每秒5 TB帶寬。 另外,NVLink-dual GH200系統(tǒng)內(nèi)置兩顆GH200,可將容量擴(kuò)充3.5倍、帶寬增加三倍。

黃仁勛8日表示,這款升級(jí)過后的處理器專門應(yīng)用于全世界最大數(shù)據(jù)中心的水平式擴(kuò)充(scale-out)作業(yè)。

GH200預(yù)定2024年第二季上市,但英偉達(dá)并未說明定價(jià)。 黃仁勛僅指出,GH200可讓大型語言模型的推論成本顯著下降。

AI模型的工作過程可分為兩部分:訓(xùn)練與推論(inference)。

首先,AI模型會(huì)以大量數(shù)據(jù)訓(xùn)練,過程可能花上數(shù)月,有時(shí)需要上千顆GPU,例如英偉達(dá)的H100及A100芯片。 之后,AI模型將被軟件用來預(yù)測(cè)或產(chǎn)生內(nèi)容,這個(gè)過程稱做推論。 如同訓(xùn)練,推論過程相當(dāng)昂貴,軟件每次產(chǎn)生文字或內(nèi)容都需要許多算力。 然而,AI模型只有在更新時(shí)才需要訓(xùn)練,推論卻會(huì)持續(xù)不斷發(fā)生。

英偉達(dá)副總裁Ian Buck 8日在電話會(huì)議表示,最新的GH200專為推論設(shè)計(jì),因?yàn)檫@個(gè)程序需要更多內(nèi)存容量,可讓更大型的AI模型置入單一系統(tǒng)。

Buck指出,存儲(chǔ)器容量加大,可讓AI模型常駐單一GPU,執(zhí)行時(shí)不再需要多個(gè)系統(tǒng)或多顆GPU來配合。

輝達(dá)8日股價(jià)終場(chǎng)下跌1.66%、收446.64美元;盤中一度在新產(chǎn)品發(fā)表后下挫最多3%。



英偉達(dá) GH200 登場(chǎng),黃仁勛:AI 模型執(zhí)行成本將大降的評(píng)論 (共 條)

分享到微博請(qǐng)遵守國(guó)家法律
区。| 嵩明县| 平山县| 花垣县| 类乌齐县| 宁强县| 涡阳县| 通榆县| 随州市| 灵山县| 搜索| 内黄县| 紫金县| 辽阳市| 福贡县| 泗洪县| 凤台县| 黑水县| 镇康县| 泸定县| 亚东县| 永仁县| 合作市| 江华| 黔西县| 龙口市| 通州市| 松原市| 肥城市| 汾西县| 罗源县| 基隆市| 文山县| 靖宇县| 博罗县| 达拉特旗| 定襄县| 克东县| 剑阁县| 罗田县| 仪征市|