近年來(lái)，隨著AlphaGo、無(wú)人駕駛汽車、醫(yī)學(xué)影像智慧輔助診療、ImageNet競(jìng)賽等熱點(diǎn)事件的發(fā)生，人工智能迎來(lái)了新一輪的發(fā)展浪潮。尤其是深度學(xué)習(xí)技術(shù)，在許多行業(yè)都取得了顛覆性的成果。另外，近年來(lái)，Pytorch深度學(xué)習(xí)框架受到越來(lái)越多科研人員的關(guān)注和喜愛(ài)。

幫助廣大科研人員更加系統(tǒng)地學(xué)習(xí)深度學(xué)習(xí)的基礎(chǔ)理論知識(shí)及對(duì)應(yīng)的Pytorch代碼實(shí)現(xiàn)方法，掌握深度學(xué)習(xí)的基礎(chǔ)知識(shí)，與經(jīng)典機(jī)器學(xué)習(xí)算法的區(qū)別與聯(lián)系，以及最新的遷移學(xué)習(xí)、循環(huán)神經(jīng)網(wǎng)絡(luò)、長(zhǎng)短時(shí)記憶神經(jīng)網(wǎng)絡(luò)、時(shí)間卷積網(wǎng)絡(luò)、對(duì)抗生成網(wǎng)絡(luò)、Yolo目標(biāo)檢測(cè)算法、自編碼器等算法的原理及其Pytorch編程實(shí)現(xiàn)方法。本次學(xué)習(xí)采用“理論講解+案例實(shí)戰(zhàn)+動(dòng)手實(shí)操+討論互動(dòng)”相結(jié)合的方式，抽絲剝繭、深入淺出分析深度學(xué)習(xí)在應(yīng)用時(shí)需要掌握的經(jīng)驗(yàn)及編程技巧。此外，還將通過(guò)實(shí)際案例的形式，介紹如何提煉創(chuàng)新點(diǎn)，以及如何發(fā)表高水平論文等相關(guān)經(jīng)驗(yàn)。

更多實(shí)踐應(yīng)用

●基于MATLAB 2021b的機(jī)器學(xué)習(xí)、深度學(xué)習(xí)實(shí)踐
●Python數(shù)據(jù)挖掘與機(jī)器學(xué)習(xí)實(shí)踐技術(shù)應(yīng)用
●全套Python機(jī)器學(xué)習(xí)核心技術(shù)與案例分析實(shí)踐
●基于現(xiàn)代R語(yǔ)言【Tidyverse、Tidymodel】的機(jī)器學(xué)習(xí)方法
●MATLAB近紅外光譜分析技術(shù)及實(shí)踐技術(shù)應(yīng)用
●基于Python近紅外光譜分析與機(jī)器學(xué)習(xí)、深度學(xué)習(xí)方法融合實(shí)踐技術(shù)應(yīng)用
●基于python機(jī)器學(xué)習(xí)及深度學(xué)習(xí)在空間模擬與時(shí)間預(yù)測(cè)領(lǐng)域中的實(shí)踐技術(shù)應(yīng)用
●PyTorch深度學(xué)習(xí)遙感影像地物分類與目標(biāo)檢測(cè)、分割及遙感影像問(wèn)題深度學(xué)習(xí)優(yōu)化技術(shù)
●R語(yǔ)言Meta全流程、不確定、回歸、診斷分析與繪圖及Meta機(jī)器學(xué)習(xí)高級(jí)應(yīng)用

【導(dǎo)師隨行】：

1、建立導(dǎo)師助學(xué)交流群，長(zhǎng)期進(jìn)行答疑及經(jīng)驗(yàn)分享，輔助學(xué)習(xí)及應(yīng)用；
2、不定期召開(kāi)線上答疑交流，輔助學(xué)習(xí)鞏固工作實(shí)踐問(wèn)題處理交流；
3、學(xué)員后期可邀請(qǐng)導(dǎo)師進(jìn)駐團(tuán)隊(duì)/課題組開(kāi)展一對(duì)一的團(tuán)隊(duì)建設(shè)、人才培養(yǎng)、學(xué)術(shù)交流、學(xué)術(shù)報(bào)告、問(wèn)題診斷、縱橫向項(xiàng)目合作等多種形式的合作。

【主講專家】：

郁磊（副教授），主要從事Python/Matlab 編程、機(jī)器學(xué)習(xí)與數(shù)據(jù)挖掘、數(shù)據(jù)可視化和軟件開(kāi)發(fā)、生理系統(tǒng)建模與仿真、生物醫(yī)學(xué)信號(hào)處理，具有豐富的科研經(jīng)驗(yàn)，主編《MATLAB智能算法30個(gè)案例分析》、《MATLAB神經(jīng)網(wǎng)絡(luò)43個(gè)案例分析》相關(guān)著作。已發(fā)表多篇高水平的國(guó)際學(xué)術(shù)研究論文。

第一章、Python基礎(chǔ)知識(shí)串講

1、Python環(huán)境搭建（Python軟件下載、安裝與版本選擇；PyCharm下載、安裝；Python之Hello World；第三方模塊的安裝與使用；Python 2.x與Python 3.x對(duì)比）
2、Python基本語(yǔ)法（Python變量命名規(guī)則；Python基本數(shù)學(xué)運(yùn)算；Python常用變量類型的定義與操作；Python程序注釋）
3、Python流程控制（條件判斷；for循環(huán)；while循環(huán)；break和continue關(guān)鍵字；嵌套循環(huán)與可變循環(huán)）
4、Python函數(shù)與對(duì)象（函數(shù)的定義與調(diào)用；函數(shù)的參數(shù)傳遞與返回值；變量作用域與全局變量；對(duì)象的創(chuàng)建與使用）
5、Matplotlib的安裝與圖形繪制（設(shè)置散點(diǎn)、線條、坐標(biāo)軸、圖例、注解等屬性；繪制多圖；圖的嵌套）
6、科學(xué)計(jì)算模塊庫(kù)（Numpy的安裝；ndarray類型屬性與數(shù)組的創(chuàng)建；數(shù)組索引與切片；Numpy常用函數(shù)簡(jiǎn)介與使用；Pandas常用函數(shù)簡(jiǎn)介與使用）

第二章、PyTorch簡(jiǎn)介與環(huán)境搭建

1、深度學(xué)習(xí)框架概述（PyTorch、Tensorflow、Keras等）
2、PyTorch簡(jiǎn)介（PyTorch的版本、動(dòng)態(tài)計(jì)算圖與靜態(tài)計(jì)算圖、PyTorch的優(yōu)點(diǎn)）
3、PyTorch的安裝與環(huán)境配置（Pip vs. Conda包管理方式、驗(yàn)證是否安裝成功、CPU版與GPU版的安裝方法）

第三章、PyTorch編程入門與進(jìn)階

1、張量（Tensor）的定義，以及與標(biāo)量、向量、矩陣的區(qū)別與聯(lián)系）
2、張量（Tensor）的常用屬性與方法（dtype、device、layout、requires_grad、cuda等）
3、張量（Tensor）的創(chuàng)建（直接創(chuàng)建、從numpy創(chuàng)建、依據(jù)數(shù)值創(chuàng)建、依據(jù)概率分布創(chuàng)建）
4、張量（Tensor）的運(yùn)算（加法、減法、矩陣乘法、哈達(dá)瑪積（element wise）、除法、冪、開(kāi)方、指數(shù)與對(duì)數(shù)、近似、裁剪）
5、張量（Tensor）的索引與切片
6、PyTorch的自動(dòng)求導(dǎo)（Autograd）機(jī)制與計(jì)算圖的理解
7、PyTorch常用工具包及API簡(jiǎn)介（torchvision（transforms、datasets、model）、torch.nn、torch.optim、torch.utils（Dataset、DataLoader））

第四章、PyTorch前向型神經(jīng)網(wǎng)絡(luò)

1、BP神經(jīng)網(wǎng)絡(luò)的基本原理（人工神經(jīng)網(wǎng)絡(luò)的分類有哪些？有導(dǎo)師學(xué)習(xí)和無(wú)導(dǎo)師學(xué)習(xí)的區(qū)別是什么？BP神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)和訓(xùn)練過(guò)程是怎樣的？什么是梯度下降法？BP神經(jīng)網(wǎng)絡(luò)建模的本質(zhì)是什么？）
2、BP神經(jīng)網(wǎng)絡(luò)的Python代碼實(shí)現(xiàn)（怎樣劃分訓(xùn)練集和測(cè)試集？為什么需要?dú)w一化？歸一化是必須的嗎？什么是梯度爆炸與梯度消失？）
3、PyTorch代碼實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)的基本流程（Data、Model、Loss、Gradient）及訓(xùn)練過(guò)程（Forward、Backward、Update）
4、案例演示：Linear模型、Logistic模型、Softmax函數(shù)輸出、BP神經(jīng)網(wǎng)絡(luò)
5、實(shí)操練習(xí)
6、值得研究的若干問(wèn)題（隱含層神經(jīng)元個(gè)數(shù)、學(xué)習(xí)率、初始權(quán)值和閾值等如何設(shè)置？什么是交叉驗(yàn)證？過(guò)擬合（Overfitting）與欠擬合(Underfitting)、泛化性能評(píng)價(jià)指標(biāo)的設(shè)計(jì)、樣本不平衡問(wèn)題、模型評(píng)價(jià)與模型選擇（奧卡姆剃刀定律）等）

第五章、PyTorch卷積神經(jīng)網(wǎng)絡(luò)

1、深度學(xué)習(xí)簡(jiǎn)介（深度學(xué)習(xí)大事記：Model + Big Data + GPU + AlphaGo）
2、深度學(xué)習(xí)與傳統(tǒng)機(jī)器學(xué)習(xí)的區(qū)別與聯(lián)系（神經(jīng)網(wǎng)絡(luò)的隱含層數(shù)越多越好嗎？深度學(xué)習(xí)與傳統(tǒng)機(jī)器學(xué)習(xí)的本質(zhì)區(qū)別是什么？）
2、卷積神經(jīng)網(wǎng)絡(luò)的基本原理（什么是卷積核、池化核？CNN的典型拓?fù)浣Y(jié)構(gòu)是怎樣的？CNN的權(quán)值共享機(jī)制是什么？CNN提取的特征是怎樣的？）
3、卷積神經(jīng)網(wǎng)絡(luò)的進(jìn)化史：LeNet、AlexNet、Vgg-16/19、GoogLeNet、ResNet等經(jīng)典深度神經(jīng)網(wǎng)絡(luò)的區(qū)別與聯(lián)系
4、利用PyTorch構(gòu)建卷積神經(jīng)網(wǎng)絡(luò)（Convolution層、Batch Normalization層、Pooling層、Dropout層、Flatten層等）
5、卷積神經(jīng)網(wǎng)絡(luò)調(diào)參技巧（卷積核尺寸、卷積核個(gè)數(shù)、移動(dòng)步長(zhǎng)、補(bǔ)零操作、池化核尺寸等參數(shù)與特征圖的維度，以及模型參數(shù)量之間的關(guān)系是怎樣的？）
6、案例講解：
（1）CNN預(yù)訓(xùn)練模型實(shí)現(xiàn)物體識(shí)別
（2）利用卷積神經(jīng)網(wǎng)絡(luò)抽取抽象特征
（3）自定義卷積神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)
7、實(shí)操練習(xí)

第六章、PyTorch遷移學(xué)習(xí)

1、遷移學(xué)習(xí)算法的基本原理（為什么需要遷移學(xué)習(xí)？為什么可以遷移學(xué)習(xí)？遷移學(xué)習(xí)的基本思想是什么？）
2、基于深度神經(jīng)網(wǎng)絡(luò)模型的遷移學(xué)習(xí)算法
3、案例講解：貓狗大戰(zhàn)（Dogs vs. Cats）
4、實(shí)操練習(xí)

第七章、PyTorch生成式對(duì)抗網(wǎng)絡(luò)

1、生成式對(duì)抗網(wǎng)絡(luò)GAN（什么是對(duì)抗生成網(wǎng)絡(luò)？為什么需要對(duì)抗生成網(wǎng)絡(luò)？對(duì)抗生成網(wǎng)絡(luò)可以幫我們做什么？GAN給我們帶來(lái)的啟示）
2、GAN的基本原理及GAN進(jìn)化史
3、案例講解：GAN的PyTorch代碼實(shí)現(xiàn)（手寫數(shù)字生成）
4、實(shí)操練習(xí)

第八章、PyTorch RNN與LSTM

1、循環(huán)神經(jīng)網(wǎng)絡(luò)RNN的基本工作原理
2、長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)LSTM的基本工作原理
3、案例講解：時(shí)間序列預(yù)測(cè)（北京市污染物預(yù)測(cè)）
4、實(shí)操練習(xí)

第九章、時(shí)間卷積網(wǎng)絡(luò)（Temporal Convolutional Network, TCN）

1、時(shí)間卷積網(wǎng)絡(luò)（TCN）的基本原理
2、TCN與1D CNN、LSTM的區(qū)別與聯(lián)系
3、案例講解：
? ?1）時(shí)間序列預(yù)測(cè)：新冠肺炎疫情預(yù)測(cè)
? ?2）序列-序列分類：人體動(dòng)作識(shí)別
4、實(shí)操練習(xí)

第十章、基于深度學(xué)習(xí)的視頻分類案例實(shí)戰(zhàn)

1、基于深度學(xué)習(xí)的視頻分類基本原理
2、讀取視頻流文件并抽取圖像幀
3、利用預(yù)訓(xùn)練CNN模型提取指定層的特征圖
4、自定義構(gòu)建LSTM神經(jīng)網(wǎng)絡(luò)模型
5、案例講解：HMDB51數(shù)據(jù)集視頻分類
6、實(shí)操練習(xí)

第十一章、PyTorch目標(biāo)檢測(cè)

1、什么是目標(biāo)檢測(cè)？目標(biāo)檢測(cè)與目標(biāo)識(shí)別的區(qū)別與聯(lián)系
2、YOLO模型的工作原理，YOLO模型與傳統(tǒng)目標(biāo)檢測(cè)算法的區(qū)別
3、案例講解：
（1）利用預(yù)訓(xùn)練好的YOLO模型實(shí)現(xiàn)目標(biāo)檢測(cè)（圖像檢測(cè)、視頻檢測(cè)、攝像頭實(shí)時(shí)檢測(cè)）
（2）數(shù)據(jù)標(biāo)注演示（LabelImage使用方法介紹）
（3）訓(xùn)練自己的目標(biāo)檢測(cè)數(shù)據(jù)集
4、實(shí)操練習(xí)

第十二章、自編碼器

1、什么是自編碼器（Auto-Encoder, AE）？
2、經(jīng)典的幾種自編碼器模型原理介紹（AE、Denoising AE, Masked AE）
3、案例講解：
（1）基于自編碼器的噪聲去除
（2）基于自編碼器的手寫數(shù)字特征提取與重構(gòu)
（3）基于掩碼自編碼器的缺失圖像重構(gòu)
4、實(shí)操練習(xí)

第十三章、復(fù)習(xí)與答疑討論

1、相關(guān)資料拷貝與分享
2、答疑與討論（大家提前把問(wèn)題整理好）