你是否希望掌握大模型開發(fā)的秘訣？你是否渴望得到實(shí)踐操作的機(jī)會(huì)？如果你的心中充滿熱情和期待，那么，WAVE SUMMIT 2023特別設(shè)置的Workshop將會(huì)是你的知識(shí)啟航站！

本次Workshop專注于AI開發(fā)與大模型應(yīng)用，邀請(qǐng)一線優(yōu)秀的AI軟件工程師和產(chǎn)品專家，分享他們的技術(shù)心得，帶領(lǐng)每一位參與者深入了解AI的最新動(dòng)態(tài)。在這里，你可以學(xué)到熟練AI開發(fā)的獨(dú)到方法，掌握大模型應(yīng)用的關(guān)鍵技術(shù)。WAVE SUMMIT 2023Workshop將為您提供獨(dú)一無二的學(xué)習(xí)、交流和探索機(jī)會(huì)，助您加速AI技術(shù)的發(fā)展和應(yīng)用。

課程詳情

大模型應(yīng)用開發(fā)部署全流程實(shí)踐

活動(dòng)時(shí)間

13:00-13:45

活動(dòng)地點(diǎn)

展區(qū)Workshop

活動(dòng)內(nèi)容

AI Studio應(yīng)用中心是一個(gè)模型效果體驗(yàn)展示平臺(tái)，開發(fā)者可通過簡(jiǎn)單的代碼操作將模型部署為可直接體驗(yàn)的應(yīng)用。在AI Studio平臺(tái)，開發(fā)者可以一站式開發(fā)大模型應(yīng)用。AI Studio平臺(tái)覆蓋全AI領(lǐng)域模型內(nèi)容資源，可一鍵進(jìn)入線上開發(fā)環(huán)境，具備云端強(qiáng)大算力支持，支持在線直接將模型部署為可視化體驗(yàn)的應(yīng)用。在本次Workshop中，AI Studio產(chǎn)品經(jīng)理將從0到1帶你了解上手大模型應(yīng)用開發(fā)全流程，構(gòu)建創(chuàng)新應(yīng)用。

• AI Studio 項(xiàng)目開發(fā)介紹

• 基于AI Studio SDK與飛槳開源套件的項(xiàng)目開發(fā)

• 基于Gradio的應(yīng)用界面開發(fā)和部署

上機(jī)體驗(yàn)：AI Studio 精選應(yīng)用體驗(yàn)

上機(jī)操作：

• AI Studio 項(xiàng)目新建

• 快速安裝 AI Studio SDK 和飛槳模型套件

• notebook 快速開發(fā) prompting chaining 和模型推理

• 基于 gradio 的界面開發(fā)和調(diào)試

• 應(yīng)用部署

主講人介紹

熊斯衍

百度飛槳AI Studio 產(chǎn)品負(fù)責(zé)人

施依欣

百度飛槳產(chǎn)品經(jīng)理

Al Studio零代碼大模型開發(fā)實(shí)踐

活動(dòng)時(shí)間

15:40-16:25

活動(dòng)地點(diǎn)

展區(qū)Workshop

活動(dòng)內(nèi)容

AI Studio大模型社區(qū)全新上線。在大模型社區(qū)，與眾多大模型同好實(shí)時(shí)交流、體驗(yàn)與生產(chǎn)大模型相關(guān)應(yīng)用。同時(shí)，只需要簡(jiǎn)單三步，開發(fā)者就可以創(chuàng)建大模型應(yīng)用，這個(gè)過程中，無需具備代碼基礎(chǔ)，只要有想法和相關(guān)數(shù)據(jù)，就可以「無痛」進(jìn)行應(yīng)用的創(chuàng)建。在本次workshop中，AI Studio產(chǎn)品經(jīng)理將對(duì)大模型社區(qū)進(jìn)行介紹并現(xiàn)場(chǎng)演示如何基于文心大模型打造生成式對(duì)話應(yīng)用。

• AI Studio 大模型社區(qū)介紹

• 進(jìn)階 Prompting 開發(fā)范式

• 知識(shí)問答和角色扮演中的常見錯(cuò)誤和處理方式

上機(jī)體驗(yàn)：AI Studio 社區(qū)體驗(yàn)

上機(jī)操作：

• 快速搭建AI原生應(yīng)用

• Prompt 工程快速入門

• 應(yīng)用效果迭代優(yōu)化

• 數(shù)據(jù)預(yù)處理和掛載

• 常見 pitfalls 和處理方式

主講人介紹

熊斯衍

百度飛槳AI Studio 產(chǎn)品負(fù)責(zé)人

施依欣

百度飛槳產(chǎn)品經(jīng)理

動(dòng)手體驗(yàn)語音AI開發(fā)利器- NVIDIA NeMo 代碼實(shí)戰(zhàn)

活動(dòng)時(shí)間

13:00-13:45

活動(dòng)地點(diǎn)

「攜手飛槳 創(chuàng)新加速」分論壇

活動(dòng)內(nèi)容

NVIDIA NeMo 是一個(gè)用于構(gòu)建對(duì)話式人工智能應(yīng)用的開源工具庫。它采用語音文本數(shù)據(jù)為輸入，使用人工智能和自然語言處理模型理解語義，從而實(shí)現(xiàn)語音與文字間內(nèi)容的相互轉(zhuǎn)換。NeMo toolkit 可用于構(gòu)建人與機(jī)器進(jìn)行語音文字交互的對(duì)話式解決方案，用于搭建智能語音助手，聊天機(jī)器人，智能語音翻譯，聲控智能家居及無人駕駛汽車語音指令交互等應(yīng)用場(chǎng)景。本次活動(dòng)將重點(diǎn)介紹如何使用 NeMo 訓(xùn)練自定義語音AI模型，同時(shí)上機(jī)操作體驗(yàn)在邊緣計(jì)算設(shè)備 Jetson NX 中實(shí)現(xiàn)語音AI模型的推理。

• NVIDIA NeMo 介紹

• 構(gòu)建適用于 NeMo 的語音數(shù)據(jù)集

• 使用 NeMo 訓(xùn)練ASR語音識(shí)別模型方法

• 使用 NeMo 訓(xùn)練TTS語音合成模型方法

上機(jī)體驗(yàn)：

在 Jetson NX 邊緣計(jì)算設(shè)備上實(shí)現(xiàn)語音AI模型推理

上機(jī)操作：

• 以 Jetson NX 作為實(shí)驗(yàn)硬件平臺(tái)

• 以 Jupyter Lab 作為實(shí)驗(yàn)開發(fā)工具

• 線上遠(yuǎn)程網(wǎng)絡(luò)連接對(duì)應(yīng)IP端口進(jìn)行登錄

• 動(dòng)手體驗(yàn) NeMo 代碼實(shí)戰(zhàn)

主講人介紹

Yipeng Li 李奕澎

NVIDIA 企業(yè)級(jí)開發(fā)者社區(qū)經(jīng)理

擁有多年數(shù)據(jù)分析建模、人工智能自然語言處理開發(fā)經(jīng)驗(yàn)。在自動(dòng)語音識(shí)別、自然語言處理、語音合成等對(duì)話式AI技術(shù)領(lǐng)域有豐富的實(shí)戰(zhàn)經(jīng)驗(yàn)與見解。曾開發(fā)法律、金融、保險(xiǎn)文檔中基于實(shí)體抽取的智能問答系統(tǒng)，曾開發(fā)基于NLP知識(shí)抽取，KG知識(shí)圖譜的建立的科研文檔智能檢索系統(tǒng)。

LLM高速推理引擎在Intel? Xeon? CPU的使用實(shí)踐

活動(dòng)時(shí)間

13:00-13:45

活動(dòng)地點(diǎn)

「產(chǎn)教融合 人才共育」分論壇

活動(dòng)內(nèi)容

xFasterTransformer是一個(gè)針對(duì)Intel Xeon CPU平臺(tái)高度優(yōu)化的大語言模型（LLM）推理引擎。它兼容huggingface以及NVIDIA FT等主流的模型格式，支持OPT，LLAMA，ChatGLM，F(xiàn)alcon等多種主流大語言模型在FP16/BF16/INT8數(shù)據(jù)格式的推理，可以充分利用Xeon CPU平臺(tái)上的硬件feature進(jìn)行加速，并具有良好的跨節(jié)點(diǎn)可擴(kuò)展性。本次活動(dòng)將介紹xFasterTransformer的核心架構(gòu)和技術(shù)實(shí)現(xiàn)，并展示其在Intel Xeon SPR平臺(tái)上的卓越的推理性能，實(shí)踐體驗(yàn)如何使用xFasterTransformer在Xeon CPU平臺(tái)上加速大模型推理計(jì)算。

• xFasterTransformer架構(gòu)和實(shí)現(xiàn)介紹

• Intel SPR/HBM 硬件平臺(tái)介紹

上機(jī)體驗(yàn)：遠(yuǎn)程SPR-HBM服務(wù)器上實(shí)現(xiàn)CPU平臺(tái)大模型的高速推理實(shí)操

上機(jī)操作：遠(yuǎn)程Intel Xeon SPR-HBM為實(shí)驗(yàn)硬件平臺(tái), 動(dòng)手體驗(yàn)用xFasterTransformer加速LLM推理實(shí)戰(zhàn)

主講人介紹

孟晨

Intel 高級(jí)AI軟件工程師

從事深度學(xué)習(xí)計(jì)算框架和高性能計(jì)算等領(lǐng)域研發(fā)工作，具有深厚的AI知識(shí)積累。作為PaddlePaddle的contributor，在分布式訓(xùn)練和推理的開發(fā)和性能優(yōu)化方向具有豐富的實(shí)戰(zhàn)經(jīng)驗(yàn)。

溫馨提示

• 現(xiàn)場(chǎng)位置有限，建議提前5-10分鐘到場(chǎng)。

• 請(qǐng)攜帶筆記本電腦到場(chǎng)，如續(xù)航較短建議攜帶充電器。

• 請(qǐng)?zhí)崆白?cè)飛槳AI Studio賬號(hào)并完善個(gè)人信息。

workshop課程表

微信搜索飛槳PaddlePaddle報(bào)名，到場(chǎng)即刻上手AI原生應(yīng)用。請(qǐng)關(guān)注WAVE SUMMIT 2023官方網(wǎng)站及社交媒體渠道，獲取最新的峰會(huì)信息和報(bào)名通知。讓我們一起開啟AI的未來，探索大模型的無限可能。我們期待您的到來，啟程屬于您的AI之旅，共享知識(shí)與創(chuàng)新的盛宴！