<<打造舒適的AI環(huán)境>>系列總覽：

分為硬件篇x1?跟?軟件篇x3
硬件篇1：主機(jī)八大件的選購(gòu)
軟件篇1：AI開發(fā)過程中常用開發(fā)命令、軟件安裝等
軟件篇2：軟件：Anaconda使用
軟件篇3：軟件：VS Code使用

本篇重點(diǎn)：

本篇主要是幫助大家構(gòu)建高性能、高性價(jià)比的AI開發(fā)的硬件平臺(tái)。如何不把錢浪費(fèi)到不必要的硬件上，并合理搭配硬件配置節(jié)省預(yù)算是本文想要去討論的問題。如果預(yù)算充足，筆者建議購(gòu)買一臺(tái)AI主機(jī)，一方面用于日常代碼的存放積累，另一方面跑部分比賽，日常debug學(xué)習(xí)別人的庫(kù)。

目錄：

(1) 個(gè)人筆記本的選購(gòu)

(2) 主機(jī)八大件的選購(gòu)

(3) 云AI服務(wù)器的介紹及使用

個(gè)人筆記本的選購(gòu)

在AI訓(xùn)練、測(cè)試中，需要長(zhǎng)時(shí)間開機(jī)，筆記本并不是為此設(shè)計(jì)的，從散熱和系統(tǒng)穩(wěn)定性的角度而言都不是合適的，比如，你用筆記本跑了一天的實(shí)驗(yàn)，萬一電腦溫度太高直接死機(jī)了不僅浪費(fèi)時(shí)間還損傷了電腦，并且筆記本設(shè)計(jì)緊湊，主板、固態(tài)等高溫運(yùn)行都會(huì)影響壽命，甚至?xí)斐捎谰眯該p壞.

出于通勤的建議，筆者建議大家的型號(hào)有：

• 外星人 x系列（便攜本）

• ROG?幻系列?（便攜本）

  魔霸，槍神系列為游戲本，根據(jù)自己的錢包決定買哪種。

  
  

• MAC

? ??MacBook?Air?M1?16 + 256

? ? MacBook?Pro?M1 16 + 256

（MAC直接拿來跑模型啥的還是很心疼的，跑python夠用。所以一般是鏈接服務(wù)器使用，畢竟操作指令比win用著好用。M1芯片的mbp確實(shí)非常強(qiáng)大，最重要的是發(fā)熱不嚴(yán)重，甚至在Air版沒風(fēng)扇。不過新款MACBOOK已經(jīng)搭載上M2了，大家也可以考慮新款?。?/p>

• 雷神?

  IGERAIR-i7（便攜本：需要高性能選i7，其他需求選i5即可。）

  ZERO 3060（這個(gè)可以選擇拿來跑簡(jiǎn)單模型，復(fù)現(xiàn)論文夠用）

• 雷蛇?靈刃15 2018款就夠用

  （不過據(jù)說售后很慢，體驗(yàn)不太好，畢竟國(guó)外都是郵件溝通，所以還是考慮下）

以上型號(hào)推薦是給理工科需要大型軟件或者跑大量數(shù)據(jù)的這部分同學(xué)，計(jì)算機(jī)專業(yè)選i5差不多夠用，不過i7用久一點(diǎn)。設(shè)計(jì)/建筑等需要渲染的直接MAC BOOK PRO，或者i7處理器的。

• 神舟?高性價(jià)比，耐造。

  （學(xué)姐的神舟，從13年用到現(xiàn)在還在造。如果是計(jì)算機(jī)專業(yè)或者是想用久一點(diǎn)，處理器選i7的。i5對(duì)電腦需求不大的專業(yè)，足夠用。）

以上筆記本推薦僅學(xué)姐個(gè)人使用感受，以及學(xué)習(xí)群的各位學(xué)長(zhǎng)們討論得出的。（根據(jù)自身實(shí)力購(gòu)買，畢竟學(xué)計(jì)算機(jī)的一些學(xué)習(xí)需求，可以借助其他工具達(dá)到目的）

自己組裝-主機(jī)八大件的選購(gòu)

這部分重點(diǎn)主要介紹（人工智能專業(yè)）主機(jī)GPUx1/GPUx2的配置，GPUx4/GPUx8的配置會(huì)在1.8章節(jié)簡(jiǎn)單介紹，先放上筆者建議的結(jié)論，3080版本總計(jì)13000左右，3090版本總計(jì)21000左右（顯卡加6000左右換成3090，電源換成1000w，其他不需要變即可）。

CPU/主板: ?5900x + 微星MAG B550M MORTAR WIFI迫擊炮主板. ==> 3200元

CPU散熱：利民Frozen Magic EX 240水冷. ?==> 390元

硬盤：三星PM9A1 1T 809 + WD西數(shù)sn570 2T. ==>1300元

內(nèi)存：海盜船復(fù)仇者內(nèi)存條 32G x2 . ==>900x2=1800元

GPU: ?耕升3080 12G ?==> 5200元

電源：長(zhǎng)城850w金牌全模組 ==> 560元

機(jī)箱：300元左右支持240水冷的機(jī)箱即可 => 200元

2.1 CPU/主板

Ref: 2022年筆記本電腦CPU天梯圖文章

https://zhuanlan.zhihu.com/p/376305519

CPU天梯圖是按照CPU的跑分進(jìn)行排序，進(jìn)行綜合性能對(duì)比、反映CPU性能優(yōu)劣的一種量化標(biāo)準(zhǔn)。

CPU主要有兩家品牌：Intel（觸點(diǎn)式接口） 和 AMD（針腳式接口）,此部分主要介紹Intel/AMD主流系列，其他系列會(huì)在2.6章節(jié)介紹。

eg：

1）intel酷睿系列：i3(入門辦公), i5(主流), i7(高端級(jí)), i9(發(fā)燒級(jí)).??eg: 12700k, 12900k...

2）AMD銳龍系列：R3(入門辦公), R5(主流), R7(高端), R9(發(fā)燒級(jí)).eg: 5700x, 5900x...

CPU接口不同搭配的主板也不同，不同級(jí)別的CPU搭配不同級(jí)別的主板芯片組。

1）入門辦公：Intel主板(H開頭)、AMD主板(A開頭).?eg: H610， A520

2）主流：Intel主板/AMD主板(B開頭).?eg: B660, B550

3）高端/發(fā)燒：Intel主板(Z開頭)、AMD主板(X開頭).?eg: Z690, X570

2.1.1 intel-酷睿12代系列

Ref:12代酷睿電腦配置文章

https://zhuanlan.zhihu.com/p/429099752

intel 12代酷睿系列CPU，需要搭配不同后綴標(biāo)代表不同意思，eg:

1）后綴k：具備核顯，可以超頻

2）后綴KF: 不具備核顯，可以超頻

3）后綴F: 不具備核先，不可超頻

需要搭配的主板型號(hào)

1）B660

2）Z690

2.1.2 AMD-銳龍5000系列

Ref：AMD銳龍5000系列介紹文章

https://www.gamersky.com/news/202204/1479779.shtml

AMD銳龍5000系列，后綴含義

1）X: 高端處理器

2）G: 帶核顯..

需要搭配的主板型號(hào)

1）B550: 華碩TUF重炮手、微星迫擊炮..

2）X570：

2.1.3 主板介紹

主板中比較好的牌子：華碩、技嘉、微星. 中高端都是可以選擇的. 不同的主板的版型，即大小: ?

1) EATX/ATX: 需要搭配大機(jī)箱，散熱最好

3) mATX：比較合適

4) ITX：擴(kuò)展性、散熱有問題

在AI訓(xùn)練、測(cè)試用途中，CPU部分主要考慮的是核心&線程數(shù)量。筆者建議大家選購(gòu)AMD 5900x型號(hào)，散片/盒裝都可，CPU出故障率極低，這里不推薦12代酷睿的原因是 在Ubuntu系統(tǒng)中版本適配做的不好，比如大小核小分配任務(wù)的故障等... 另外關(guān)于主板的選擇，如果你是剛讀研要在一所學(xué)校待幾年，那么完全可以配置一個(gè)ATX的大機(jī)箱放到工位，如果是要放到公司，建議配置mATX加一個(gè)小機(jī)箱。另外，主板一定要選擇帶藍(lán)牙/wifi的配置，這樣可以剩下一個(gè)PCIE插口，后續(xù)擴(kuò)展硬盤都是非常方便的。

2.2 CPU散熱器

CPU散熱器分為兩種

1）風(fēng)冷: CPU的熱量傳到到熱管鰭片的表面，通過風(fēng)扇進(jìn)行對(duì)流交換散熱

推薦型號(hào)：貓頭鷹系列

2）水冷: CPU的熱量通過水泵對(duì)冷卻液的循環(huán)，抽到散熱片風(fēng)扇冷卻，循環(huán)散熱。

推薦型號(hào)：240起步，恩杰X系列、利民Frozen Magic EX系列、華碩ROG龍神系列..

在AI訓(xùn)練、測(cè)試用途中，CPU散熱部分主要考慮的是噪音，風(fēng)冷噪音實(shí)在太大，而水冷的風(fēng)險(xiǎn)是漏液，不過現(xiàn)在水冷都是5年質(zhì)保、漏液包賠，再加上若干新型專利技術(shù)、不用擔(dān)心漏液，筆者建議大家選購(gòu)?fù)扑]品牌的240/360水冷. ?預(yù)算充足的同學(xué)可以把水冷的散熱風(fēng)扇換成貓頭鷹風(fēng)扇散熱. 如果實(shí)在擔(dān)心漏液，可以考慮貓頭鷹的風(fēng)冷系列. （當(dāng)然貓頭鷹的風(fēng)扇是非常貴的...但是在高風(fēng)扇轉(zhuǎn)速下是非常安靜的！！

2.3 硬盤 & 內(nèi)存

硬盤比較好的牌子：三星、鎧俠、西部數(shù)據(jù)，硬盤按照接口主要分為兩種

1）PCIE3.0/4..0

2）SATA：速度太慢，非常不推薦

在AI訓(xùn)練、測(cè)試用途中，硬盤部分主要考慮的是速度，容量其次，有時(shí)候GPU顯存的利用率很低，很大的程度是硬盤IO瓶頸。由于B550/B660主板預(yù)留的PCIE接口只有兩個(gè)，所以筆者推薦的是2T NVME PCIE3.0(裝系統(tǒng)) + ?1T NVME PCIE4.0. 存放有價(jià)值的數(shù)據(jù)集跟訓(xùn)練checkpoint是完全沒問題的。后續(xù)如果想增加容量完全可以用PCIE擴(kuò)展卡上面額外加固態(tài)即可。

其次關(guān)于容量，比如imagenet 138G. COCO 27G. 1T + 2T的配置完全夠用

PCIE擴(kuò)展卡的使用

內(nèi)存比較好的牌子：英睿達(dá)、海盜船、芝奇都可。

原則：內(nèi)存的容量 > 2*GPU顯存，越高越好

在AI訓(xùn)練、測(cè)試用途中，內(nèi)存部分主要考慮的是容量，數(shù)據(jù)的處理流程是硬盤=>內(nèi)存=>GPU顯存，一定量的內(nèi)存能保證我們進(jìn)行數(shù)據(jù)預(yù)處理的時(shí)候能非常好的。頻率不需要太高，建議適中3200即可，考慮到后續(xù)參加機(jī)器學(xué)習(xí)比賽需求。預(yù)算不足情況下32G即可。

Ref: AutoDL GPU算力排名

https://www.autodl.com/home

GPU與AI訓(xùn)練、測(cè)試相關(guān)的參數(shù)：

• FP64:?Linpack(Linear system package) Test

• FP32:?Deep Learning

• FP16:?Quantization ?& ?amp: ?python1.6 +++

由于比特幣的崩盤，這里推薦兩款型號(hào)3080 12G（某型號(hào)降價(jià)到5000）/ 3090 24G（某型號(hào)降價(jià)到10000），筆者建議預(yù)算充足的同學(xué)選擇3090. 牌子市面上的牌子都可。

筆者的實(shí)驗(yàn)室發(fā)生過2張2080ti+1200w 在滿載跑模型的時(shí)候，主機(jī)斷電重啟的問題。經(jīng)檢查pytorch啟動(dòng)瞬時(shí)功率過大導(dǎo)致的。

建議：3080 12G 選用850w，3090選用1000w

牌子：振華、海韻都可

補(bǔ)充知識(shí)

NVIDIA GPU架構(gòu)進(jìn)化歷史

在第三代的Kepler架構(gòu)里，F(xiàn)P64單元和FP32單元的比例是1:3或者1:24。

第四代的Maxwell架構(gòu)里，這個(gè)比例下降到了只有1:32。

第五代的Pascal架構(gòu)里，這個(gè)比例又提高到了1:2，但低端型號(hào)里仍然保持為1:32。

其他Process Unit

從目前的實(shí)踐來看，AI算法和傳統(tǒng)HPC算法相比，對(duì)精度的要求低得多。因此我們看到很多AI芯片主要強(qiáng)調(diào)在FP16或者INT8中的精度?？梢哉f，對(duì)目前AI芯硬件效率的提升，低比特精度有很大貢獻(xiàn)。

2.5 機(jī)箱

Ref: ?機(jī)箱風(fēng)扇如何分配？文章

https://www.zhihu.com/question/320561511/answer/654827754

在AI訓(xùn)練、測(cè)試用途中，構(gòu)建合理的機(jī)箱風(fēng)道能保證CPU跟顯卡的溫度，在確定自己機(jī)箱需求后，筆者建議大家給機(jī)箱安裝若干風(fēng)扇組件合理風(fēng)道是非常重要的。

2.6 其他

GPUx4 or GPUx8: 在多GPU情況下、保證機(jī)器的穩(wěn)定性是至關(guān)重要的，這時(shí)候就要選擇更高系列的CPU。

1）Intel至強(qiáng)系列 4210R, 5218R, 6230R

2）AMD霄龍系列 7320, 7402, 74F3....

這些CPU比如支持ECC自動(dòng)糾錯(cuò)內(nèi)存、支持的CPU通道數(shù)更多、支持更高的PCIE通道等。

云服務(wù)器的推薦

普遍租卡3090價(jià)格都在2R+/h，一天就是60+，還是非常貴的，如果暫時(shí)沒有預(yù)算的話，筆者建議同學(xué)使用colab和恒源云（學(xué)姐公眾號(hào)有活動(dòng)贈(zèng)送GPU的），colab官方也有很好的入門教程。

?

—?關(guān)注【學(xué)姐帶你玩AI】公眾號(hào)，紅包大獎(jiǎng)等你來拿—