H100 超微NV服務器 英偉達 NVIDIA 提供前所未有的加速,為世界各地的計算機提供動力
NVIDIA?H100張量核心GPU提供前所未有的加速,為世界各地的計算機提供動力
用于人工智能、數(shù)據(jù)分析和高性能的最高性能彈性數(shù)據(jù)中心
計算(HPC)應用。NVIDIA H100張量核心技術支持廣泛的
數(shù)學精度,為每個計算工作負載提供單個加速器。NVIDIA H100
PCIe支持雙精度(FP64)、單精度(FP32)、半精度(FP16)和
整數(shù)(INT8)計算任務。
面向主流服務器的NVIDIA H100 Tensor Core圖形處理單元(gpu)問世
NVIDIA AI企業(yè)版5年軟件訂閱,包括企業(yè)支持,
以最高的性能簡化人工智能的采用。這確保了組織可以訪問
到構建H100加速人工智能工作流所需的人工智能框架和工具,例如
會話AI、推薦引擎、視覺AI等等。
NVIDIA H100卡是一款基于NVIDIA標準的雙槽10.5英寸PCI Express Gen5卡
料斗?架構。它使用被動散熱片進行冷卻,這需要系統(tǒng)氣流
在卡的熱限制范圍內(nèi)正確操作卡。NVIDIA H100 PCIe運行
不受約束地達到350w的最大熱設計功率(TDP)水平來加速
需要最快的計算速度和最高的數(shù)據(jù)吞吐量的應用程序。的
NVIDIA H100 PCIe首次推出全球最高的PCIe卡內(nèi)存帶寬(超過2000)
gb / s (GBps)。這加快了解決方案的時間為最大的模型和大多數(shù)
海量數(shù)據(jù)集。
NVIDIA H100 PCIe卡具有多實例GPU (Multi-Instance GPU)功能。這可以用來
將GPU劃分為多達七個硬件隔離的GPU實例,提供統(tǒng)一的
使彈性數(shù)據(jù)中心能夠動態(tài)調(diào)整以適應不斷變化的工作負載需求的平臺。
此外,還可以分配適當大小的資源,從最小到最大的多gpu
就業(yè)機會。NVIDIA H100的多功能性意味著IT經(jīng)理可以最大限度地發(fā)揮每個GPU的效用
他們的數(shù)據(jù)中心。
NVIDIA H100 PCIe卡使用三個NVIDIA?NVLink?橋。它們和橋一樣
使用NVIDIA A100 PCIe卡。這允許連接兩個NVIDIA H100 PCIe卡
提供900gb /s的雙向帶寬或5倍于PCIe Gen5的帶寬,使帶寬最大化
大工作負載下的應用程序性能。
符合條件的H100服務器列表待定。