2023年8月，英偉達日前發(fā)布了全新的 NVIDIA L40S GPU，以及搭載該 GPU 的 OVX 服務(wù)器系統(tǒng)，這款計算加速顯卡可以用于圖形渲染、人工智能大模型訓(xùn)練和推理、三維設(shè)計和視頻處理等用途，AI 運算性能高于 A100 GPU。由于這款加速卡不支持 NVLink，且沒有選擇采用 HBM 顯存，而是采用 GDDR6 ECC 顯存，因此 L40S 相比 A100、H100 更加適用于邊緣運算。

據(jù)悉，這款 L40S GPU 搭配最新發(fā)布的 OVX 服務(wù)器，可適用于 AI 大模型訓(xùn)練和推理、三維設(shè)計、可視化、視頻處理、工業(yè)數(shù)字化等多種用途，相比 A100 GPU，這套“相得益彰”的 L40S 系統(tǒng)能夠“增強生成式 AI、圖形和視頻處理能力，并滿足不斷增長的算力需求”。

L40S GPU 是英偉達此前 L40 GPU 的升級版本，配備 48GB GDDR6 ECC 顯存，該 GPU 基于 Ada Lovelace 架構(gòu)，搭載第四代 Tensor Core 和 FP8 轉(zhuǎn)換引擎，運算速度是上一代的 5 倍。但依然不支持 NVLink。

英偉達聲稱，L40S 的生成式 AI 推理性能比 A100 高 1.2 倍，訓(xùn)練性能高 1.7 倍，英偉達表示，對于“具有數(shù)十億個參數(shù)和多種數(shù)據(jù)模式的復(fù)雜 AI 工作而言”，L40S 的效能更加突出。

英偉達表示，英偉達 L40S GPU 將在今年秋季上市，每臺英偉達 OVX 服務(wù)器系統(tǒng)最多可搭載 8 個 L40S 加速卡，不過英偉達并沒有透露該 GPU 的定價。

英偉達同時表示，華碩、戴爾、技嘉、HPE、聯(lián)想、QCT 和美超微等廠商，將“很快推出”搭載 L40S GPU 的 OVX 服務(wù)器系統(tǒng)。

功能強大的通用型 GPU

NVIDIA L40S GPU 可為您提供突破性的多工作負載性能體驗。 精心設(shè)計的 L40S GPU 將強大的 AI 計算性能與出色的圖形和媒體加速功能相結(jié)合，旨在為新一代數(shù)據(jù)中心工作負載提供支持。從生成式 AI 和大型語言模型（LLM）推理與訓(xùn)練，到 3D 圖形、渲染和視頻，都能應(yīng)對自如。

多年來一直專注于科學計算服務(wù)器，入圍政采平臺，H100、A100、H800、A800、RTX6000 Ada，單臺雙路192核心服務(wù)器等。