NVIDIA GTC將于2023年3月20日-23日在線上舉行，包括超過650場演講、專家座談會以及特別活動，涵蓋加速計算和開發(fā)工具、計算機(jī)視覺、對話式 AI/NLP、數(shù)據(jù)科學(xué)、深度學(xué)習(xí)、數(shù)字孿生和世界仿真、圖形和XR、高性能計算、推薦系統(tǒng)/個性化等多個主題。全球范圍的技術(shù)專家、開發(fā)者、研究人員、創(chuàng)作者、IT決策者和企業(yè)領(lǐng)袖將匯聚于此，了解AI、加速計算及其他領(lǐng)域的突破性進(jìn)展，以及如何利用這些技術(shù)力量推動新一輪的創(chuàng)新。

NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛將在主題演講中分享NVIDIA加速計算平臺如何推動AI、元宇宙、云技術(shù)和可持續(xù)計算的下一波浪潮。目前已確認(rèn)參與本屆GTC的重磅嘉賓包括：OpenAI的聯(lián)合創(chuàng)始人兼首席科學(xué)家Ilya Stutskever、DeepMind的創(chuàng)始人兼CEO Demis Hassabis等。此外，以百度、阿里巴巴、騰訊、字節(jié)跳動、快手、美團(tuán)、網(wǎng)易為代表的中國互聯(lián)網(wǎng)科技企業(yè)的加入，更為此次大會的嘉賓陣容又添一筆。

近日，國際數(shù)據(jù)調(diào)研機(jī)構(gòu)IDC發(fā)布《中國深度學(xué)習(xí)框架和平臺市場份額，2022H2》報告。報告顯示，Meta PyTorch、百度飛槳PaddlePaddle、谷歌TensorFlow占據(jù)中國深度學(xué)習(xí)開源框架80%以上的市場份額。百度飛槳PaddlePaddle開源框架市場份額超越了谷歌TensorFlow。2021-2022年，百度飛槳持續(xù)位居中國深度學(xué)習(xí)平臺市場綜合份額第一。據(jù)悉，截至2022年11月底，百度飛槳平臺已凝聚535萬開發(fā)者，創(chuàng)建了67萬個AI模型，服務(wù)于20萬家企事業(yè)單位，在工業(yè)、能源、交通、農(nóng)業(yè)等領(lǐng)域大放異彩。

本次GTC大會上，來自百度的四位專家將帶來精彩的內(nèi)容分享，涵蓋飛槳深度學(xué)習(xí)框架以及端到端開發(fā)套件與工具，還有業(yè)界首個同時支持復(fù)雜算法+超大圖+超大離散模型的大規(guī)模圖學(xué)習(xí)訓(xùn)練技術(shù)PGLBox。

以下為議題簡介。

GTC23 百度演講推薦

Part.1?

演講題目

飛槳深度學(xué)習(xí)平臺高效支持大模型生產(chǎn)及應(yīng)用

[S52366]

Part.2

演講時間

3 月 22 日即可在線觀看

Part.3

演講人

馬艷軍，百度AI技術(shù)生態(tài)總經(jīng)理

Part.4

演講概要

源于百度業(yè)務(wù)對人工智能技術(shù)的廣泛應(yīng)用，飛槳深度學(xué)習(xí)平臺結(jié)合應(yīng)用持續(xù)創(chuàng)新，研發(fā)了業(yè)界領(lǐng)先的大規(guī)模分布式訓(xùn)練技術(shù)。飛槳先后發(fā)布了4D混合并行訓(xùn)練、端到端自適應(yīng)分布式訓(xùn)練、超大規(guī)模圖訓(xùn)練引擎等核心技術(shù)，并基于這些技術(shù)支持文心大模型的訓(xùn)練和部署。目前，文心大模型已經(jīng)覆蓋基礎(chǔ)大模型、任務(wù)大模型、行業(yè)大模型的三級體系，飛槳+文心大模型賦能千行百業(yè)的智能化升級。

Part.1?

演講題目

PGLBox：百度基于 GPU 的超大規(guī)模圖模型訓(xùn)練框架

[SE51302]

Part.2

演講時間

3 月 22 日 3:30 PM

Part.3

演講人

焦學(xué)武，百度主任架構(gòu)師、百度 MEG 商業(yè)模型中臺技術(shù)負(fù)責(zé)人

Part.4

演講概要

PGLBox是百度研發(fā)的基于GPU的大規(guī)模圖模型訓(xùn)練框架，支持?jǐn)?shù)百億節(jié)點和邊的圖模型全GPU訓(xùn)練，已在百度廣泛部署。與傳統(tǒng)的基于CPU的分布式解決方案相比，PGLBox可以在相同的成本下獲得28倍的訓(xùn)練加速。相比業(yè)界主流的分布式CPU解決方案，PGLBox具有超高性能、超大規(guī)模、算法豐富、靈活易用、落地廣泛等優(yōu)勢。

PGLBox由以下主要組件組成：

1.超高性能的分布式GPU圖學(xué)習(xí)訓(xùn)練框架，圖存儲、深度行走、采樣和訓(xùn)練全流程GPU化，通過使用GPU并行技術(shù)大大加快了圖模型的樣本生成和訓(xùn)練。

2.業(yè)界首個多級存儲圖引擎，對圖/屬性/模型差異化存儲構(gòu)建多級存儲體系，能夠使用單臺GPU服務(wù)器訓(xùn)練數(shù)百億節(jié)點和邊的圖模型。

3.吞吐最大化的流水線架構(gòu)，采樣、屬性拉取、參數(shù)拉取和模型訓(xùn)練的流水線架構(gòu)，高效進(jìn)行端到端的圖模型訓(xùn)練。

4.預(yù)置豐富的圖表示學(xué)習(xí)算法，支持跨場景異構(gòu)圖建模和復(fù)雜圖屬性建模，首次實現(xiàn)ERNIE-Sage+大規(guī)模圖結(jié)構(gòu)信息+大規(guī)模離散特征的統(tǒng)一建模。

Part.1?

演講題目

面向大模型的端到端套件PaddleFleetX

[S51309]

Part.2

演講時間

3 月 23 日 10:00 AM

Part.3

演講人

敖玉龍，百度資深工程師

Part.4

演講概要

大規(guī)模預(yù)訓(xùn)練技術(shù)已經(jīng)在多個領(lǐng)域表現(xiàn)出了優(yōu)秀效果，但是從應(yīng)用和落地的角度來看，其門檻并不低。PaddleFleetX 是一款依托于飛槳產(chǎn)業(yè)級深度學(xué)習(xí)平臺，面向大模型的端到端套件，涵蓋了開發(fā)，訓(xùn)練，小型化，推理等全流程，具備簡單易用、性能領(lǐng)先、且功能強(qiáng)大等特色。本演講將介紹 PaddleFleetX 相關(guān)核心技術(shù)，包括全場景分布式并行策略、極致的分布式訓(xùn)練優(yōu)化技術(shù)，豐富多樣的模型小型化能力和高效的大模型分布式推理與部署方案。

Part.1?

演講題目

全場景高性能AI部署工具FastDeploy

[S52367]

Part.2

演講時間

3?月 23 日 2:00 PM

Part.3

演講人

雷青，百度飛槳高級產(chǎn)品經(jīng)理

Part.4

演講概要

FastDeploy是一款全場景、極致高效、易用靈活的AI推理部署工具，支持云邊端部署。統(tǒng)一飛槳及生態(tài)的多端部署API，目前支持Paddle Inference、Paddle Lite、TensorRT、ONNX Runtime、Poros等推理引擎，一行命令可靈活切換多個推理引擎后端；同時支持Triton Inference Server，一款工具可實現(xiàn)快速的云邊端部署。

通過集成CV-CUDA、FastTokenier、FlyCV等AI加速庫，以及PaddleSlim自動壓縮工具，實現(xiàn)AI模型端到端的性能優(yōu)化。FastDeploy精心完成了部署API設(shè)計，確保不同語言的開發(fā)者能夠享受到統(tǒng)一的API體驗，不同語言只需要3行核心代碼，就可以實現(xiàn)預(yù)置模型的高性能推理；預(yù)置的160+SOTA產(chǎn)業(yè)模型的端到端示例 ，快速完成AI的產(chǎn)業(yè)落地。

預(yù)約感興趣的演講內(nèi)容?

想要預(yù)約以上精彩內(nèi)容？掃描下方圖片二維碼，即可搜索相關(guān)會議代碼找到對應(yīng)演講內(nèi)容，通過點擊“Add to Schedule”或點擊“星星”，將該演講內(nèi)容添加至您的日程，大會開始后登錄即可在線觀看。

例如：搜索演講代碼?[SE51302]，點擊?“Add to Schedule”，即可將該演講添加至您的日程。

例如：搜索演講代碼?[S52366]，發(fā)現(xiàn)沒有?“Add to Schedule”?按鈕，說明該演講為點播形式，從3月22日開始即可在線觀看。點擊右上方的星星，將該演講添加至您的日程。

如果尚未注冊，請點擊鏈接https://mp.weixin.qq.com/s/7hY8SaE4AWpb_DKCj5gXeQ，查看GTC 23注冊教程。歡迎加入GTC 23，與全球AI者同行！掃描下方海報二維碼，即可免費注冊GTC 23，切莫錯過這場AI和元宇宙時代的技術(shù)大會！