夏曹俊LLama實(shí)戰(zhàn)CPU推理C++大語(yǔ)言模型
2023-08-03 20:10 作者:bili_34189062872 | 我要投稿
1. CPU架構(gòu)
“拋開(kāi)架構(gòu)看核心、頻率都是耍流氓”
總的來(lái)說(shuō)就是架構(gòu)越新越好,新的一代比老的一代更加厲害,效率也更加高,CPU整體性能也越強(qiáng)。架構(gòu)對(duì)CPU的性能等起著十分重要的作用~
2. CPU核心數(shù)
計(jì)算核心數(shù),核心數(shù)越多可以打開(kāi)的程序就越多;CPU進(jìn)行多任務(wù)計(jì)算的能力就更高;為了提升CPU的能力通常會(huì)增加多物理核心數(shù)
3. 線程數(shù)
常規(guī)一個(gè)核心一個(gè)線程;但是考慮到CPU無(wú)法飽和,推出了超線程技術(shù)(Hyper Threading):將一個(gè)物理核心虛擬成兩個(gè)邏輯核心,例如4核心8線程;從而來(lái)提供效率;
?
標(biāo)簽: