AMD 發(fā)布針對(duì) AI 優(yōu)化的 ROCm 5.6
近日,AMD?發(fā)布了新的?AMD ROCm 5.6?開放軟件平臺(tái)?,AMD AI群組高級(jí)副總裁?Vamsi Boppana?在博客(https://community.amd.com/t5/rocm/new-rocm-5-6-release-brings-enhancements-and-optimizations-for/ba-p/614745/jump-to/first-unread-message)中重點(diǎn)介紹了?ROCm 5.6?的一些新功能。
對(duì)于?AI?和?LLM?工作負(fù)載,ROCm 5.6?帶來了:
·?將?Hugging Face?單元測(cè)試套件集成到?ROCm QA?中
·?PyTorch 2.0?感應(yīng)器模式下對(duì)?OpenAI Triton?的增量支持
·?通過?ROCm?對(duì)?PyTorch、TensorFlow?和?JAX?提供?OpenXLA?支持,支持更廣泛的社區(qū)。?
對(duì)于?HPC?應(yīng)用程序,ROCm 5.6?引入了對(duì)?FFT、BLAS?和求解器等多個(gè)數(shù)學(xué)庫的改進(jìn),這些數(shù)學(xué)庫構(gòu)成了?HPC?應(yīng)用程序的基礎(chǔ),并增強(qiáng)了?ROCm?開發(fā)和部署工具,包括安裝、ROCgdb(CPU-GPU?集成調(diào)試器)、ROCm?分析器?和文檔。
在接下來的幾個(gè)月中,AMD?還將進(jìn)一步優(yōu)化框架和后端編譯器,以實(shí)現(xiàn)更佳性能,其中包括?MLIR?基礎(chǔ)設(shè)施改進(jìn),鞏固?AMD?對(duì)?OpenAI Triton?和?OpenXLA?編譯器的支持。?客戶還可以在?Hugging Face?的?AMD?中心內(nèi)期待更多針對(duì)AMD?解決方案優(yōu)化的開源?AI?模型。
此外,AMD?透露,今年晚些時(shí)候,對(duì)AMD ROCm?的正式支持將開始在部分基于?AMD RDNA 3?的?GPU?上推出。Linux?上對(duì)基于?RDNA 3?的?GPU?的正式支持計(jì)劃于今年秋季開始推出,首先是?48GB Radeon PRO W7900?和?24GB Radeon RX 7900 XTX,隨著時(shí)間的推移,還會(huì)發(fā)布更多卡和擴(kuò)展功能。