一切要從CPU說起

你可能會有疑問，講多線程為什么要從CPU說起呢？原因很簡單，在這里沒有那些時髦的概念，你可以更加清晰的看清問題的本質(zhì)。CPU并不知道線程、進程之類的概念。CPU只知道兩件事:1. 從內(nèi)存中取出指令2. 執(zhí)行指令，然后回到1

你看，在這里CPU確實是不知道什么進程、線程之類的概念。接下來的問題就是CPU從哪里取出指令呢？答案是來自一個被稱為Program Counter(簡稱PC)的寄存器，也就是我們熟知的程序計數(shù)器，在這里大家不要把寄存器想的太神秘，你可以簡單的把寄存器理解為內(nèi)存，只不過存取速度更快而已。PC寄存器中存放的是什么呢？這里存放的是指令在內(nèi)存中的地址，什么指令呢？是CPU將要執(zhí)行的下一條指令。

那么是誰來設(shè)置PC寄存器中的指令地址呢？原來PC寄存器中的地址默認是自動加1的，這當然是有道理的，因為大部分情況下CPU都是一條接一條順序執(zhí)行，當遇到if、else時，這種順序執(zhí)行就被打破了，CPU在執(zhí)行這類指令時會根據(jù)計算結(jié)果來動態(tài)改變PC寄存器中的值，這樣CPU就可以正確的跳轉(zhuǎn)到需要執(zhí)行的指令了。聰明的你一定會問，那么PC中的初始值是怎么被設(shè)置的呢？在回答這個問題之前我們需要知道CPU執(zhí)行的指令來自哪里？是來自內(nèi)存，廢話，內(nèi)存中的指令是從磁盤中保存的可執(zhí)行程序加載過來的，磁盤中可執(zhí)行程序是編譯器生成的，編譯器又是從哪里生成的機器指令呢？答案就是我們定義的函數(shù)。

注意是函數(shù)，函數(shù)被編譯后才會形成CPU執(zhí)行的指令，那么很自然的，我們該如何讓CPU執(zhí)行一個函數(shù)呢？顯然我們只需要找到函數(shù)被編譯后形成的第一條指令就可以了，第一條指令就是函數(shù)入口?，F(xiàn)在你應(yīng)該知道了吧，我們想要CPU執(zhí)行一個函數(shù)，那么只需要把該函數(shù)對應(yīng)的第一條機器指令的地址寫入PC寄存器就可以了，這樣我們寫的函數(shù)就開始被CPU執(zhí)行起來啦。你可能會有疑問，這和線程有什么關(guān)系呢？

從CPU到操作系統(tǒng)

上一小節(jié)中我們明白了CPU的工作原理，我們想讓CPU執(zhí)行某個函數(shù)，那么只需要把函數(shù)對應(yīng)的第一條機器執(zhí)行裝入PC寄存器就可以了，這樣即使沒有操作系統(tǒng)我們也可以讓CPU執(zhí)行程序，雖然可行但這是一個非常繁瑣的過程，我們需要：

• 在內(nèi)存中找到一塊大小合適的區(qū)域裝入程序

• 找到函數(shù)入口，設(shè)置好PC寄存器讓CPU開始執(zhí)行程序

這兩個步驟絕不是那么容易的事情，如果每次在執(zhí)行程序時程序員自己手動實現(xiàn)上述兩個過程會瘋掉的，因此聰明的程序員就會想干脆直接寫個程序來自動完成上面兩個步驟吧。

機器指令需要加載到內(nèi)存中執(zhí)行，因此需要記錄下內(nèi)存的起始地址和長度；同時要找到函數(shù)的入口地址并寫到PC寄存器中，想一想這是不是需要一個數(shù)據(jù)結(jié)構(gòu)來記錄下這些信息：

接下來就是起名字時刻。這個數(shù)據(jù)結(jié)構(gòu)總要有個名字吧，這個結(jié)構(gòu)體用來記錄什么信息呢？記錄的是程序在被加載到內(nèi)存中的運行狀態(tài)，程序從磁盤加載到內(nèi)存跑起來叫什么好呢？干脆就叫進程(Process)好了，我們的指導原則就是一定要聽上去比較神秘，總之大家都不容易弄懂就對了，我將其稱為“弄不懂原則”。就這樣進程誕生了。CPU執(zhí)行的第一個函數(shù)也起個名字，第一個要被執(zhí)行的函數(shù)聽起來比較重要，干脆就叫main函數(shù)吧。完成上述兩個步驟的程序也要起個名字，根據(jù)“弄不懂原則”這個“簡單”的程序就叫操作系統(tǒng)(Operating System)好啦。就這樣操作系統(tǒng)誕生了，程序員要想運行程序再也不用自己手動加載一遍了。現(xiàn)在進程和操作系統(tǒng)都有了，一切看上去都很完美。

從單核到多核，如何充分利用多核

人類的一大特點就是生命不息折騰不止，從單核折騰到了多核。

這時，假設(shè)我們想寫一個程序并且要分利用多核該怎么辦呢？有的同學可能會說不是有進程嗎，多開幾個進程不就可以了？聽上去似乎很有道理，但是主要存在這樣幾個問題：

• 進程是需要占用內(nèi)存空間的(從上一節(jié)能看到這一點)，如果多個進程基于同一個可執(zhí)行程序，那么這些進程其內(nèi)存區(qū)域中的內(nèi)容幾乎完全相同，這顯然會造成內(nèi)存的浪費

• 計算機處理的任務(wù)可能是比較復雜的，這就涉及到了進程間通信，由于各個進程處于不同的內(nèi)存地址空間，進程間通信天然需要借助操作系統(tǒng)，這就在增大編程難度的同時也增加了系統(tǒng)開銷

該怎么辦呢？

從進程到線程

讓我再來仔細的想一想這個問題，所謂進程無非就是內(nèi)存中的一段區(qū)域，這段區(qū)域中保存了CPU執(zhí)行的機器指令以及函數(shù)運行時的堆棧信息，要想讓進程運行，就把main函數(shù)的第一條機器指令地址寫入PC寄存器，這樣進程就運行起來了。

進程的缺點在于只有一個入口函數(shù)，也就是main函數(shù)，因此進程中的機器指令只能被一個CPU執(zhí)行，那么有沒有辦法讓多個CPU來執(zhí)行同一個進程中的機器指令呢？聰明的你應(yīng)該能想到，既然我們可以把main函數(shù)的第一條指令地址寫入PC寄存器，那么其它函數(shù)和main函數(shù)又有什么區(qū)別呢？答案是沒什么區(qū)別，main函數(shù)的特殊之處無非就在于是CPU執(zhí)行的第一個函數(shù)，除此之外再無特別之處，我們可以把PC寄存器指向main函數(shù)，就可以把PC寄存器指向任何一個函數(shù)。當我們把PC寄存器指向非main函數(shù)時，線程就誕生了。

至此我們解放了思想，一個進程內(nèi)可以有多個入口函數(shù)，也就是說屬于同一個進程中的機器指令可以被多個CPU同時執(zhí)行。注意，這是一個和進程不同的概念，創(chuàng)建進程時我們需要在內(nèi)存中找到一塊合適的區(qū)域以裝入進程，然后把CPU的PC寄存器指向main函數(shù)，也就是說進程中只有一個執(zhí)行流。

但是現(xiàn)在不一樣了，多個CPU可以在同一個屋檐下(進程占用的內(nèi)存區(qū)域)同時執(zhí)行屬于該進程的多個入口函數(shù)，也就是說現(xiàn)在一個進程內(nèi)可以有多個執(zhí)行流了。

總是叫執(zhí)行流好像有點太容易理解了，再次祭出”弄不懂原則“，起個不容易懂的名字，就叫線程吧。這就是線程的由來。操作系統(tǒng)為每個進程維護了一堆信息，用來記錄進程所處的內(nèi)存空間等，這堆信息記為數(shù)據(jù)集A。同樣的，操作系統(tǒng)也需要為線程維護一堆信息，用來記錄線程的入口函數(shù)或者棧信息等，這堆數(shù)據(jù)記為數(shù)據(jù)集B。顯然數(shù)據(jù)集B要比數(shù)據(jù)A的量要少，同時不像進程，創(chuàng)建一個線程時無需去內(nèi)存中找一段內(nèi)存空間，因為線程是運行在所處進程的地址空間的，這塊地址空間在程序啟動時已經(jīng)創(chuàng)建完畢，同時線程是程序在運行期間創(chuàng)建的(進程啟動后)，因此當線程開始運行的時候這塊地址空間就已經(jīng)存在了，線程可以直接使用。這就是為什么各種教材上提的創(chuàng)建線程要比創(chuàng)建進程快的原因(當然還有其它原因)。值得注意的是，有了線程這個概念后，我們只需要進程開啟后創(chuàng)建多個線程就可以讓所有CPU都忙起來，這就是所謂高性能、高并發(fā)的根本所在。

很簡單，只需要創(chuàng)建出數(shù)量合適的線程就可以了。另外值得注意的一點是，由于各個線程共享進程的內(nèi)存地址空間，因此線程之間的通信無需借助操作系統(tǒng)，這給程序員帶來極大方便的同時也帶來了無盡的麻煩，多線程遇到的多數(shù)問題都出自于線程間通信簡直太方便了以至于非常容易出錯。出錯的根源在于CPU執(zhí)行指令時根本沒有線程的概念，多線程編程面臨的互斥與同步問題需要程序員自己解決，關(guān)于互斥與同步問題限于篇幅就不詳細展開了，大部分的操作系統(tǒng)資料都有詳細講解。最后需要提醒的是，雖然前面關(guān)于線程講解使用的圖中用了多個CPU，但不是說一定要有多核才能使用多線程，在單核的情況下一樣可以創(chuàng)建出多個線程，原因在于線程是操作系統(tǒng)層面的實現(xiàn)，和有多少個核心是沒有關(guān)系的，CPU在執(zhí)行機器指令時也意識不到執(zhí)行的機器指令屬于哪個線程。即使在只有一個CPU的情況下，操作系統(tǒng)也可以通過線程調(diào)度讓各個線程“同時”向前推進，方法就是將CPU的時間片在各個線程之間來回分配，這樣多個線程看起來就是“同時”運行了，但實際上任意時刻還是只有一個線程在運行。

【文章福利】小編推薦自己的Linux內(nèi)核技術(shù)交流群:【749907784】整理了一些個人覺得比較好的學習書籍、視頻資料共享在群文件里面，有需要的可以自行添加哦！?。。ê曨l教程、電子書、實戰(zhàn)項目及代碼)? ?

線程與內(nèi)存

在前面的討論中我們知道了線程和CPU的關(guān)系，也就是把CPU的PC寄存器指向線程的入口函數(shù)，這樣線程就可以運行起來了，這就是為什么我們創(chuàng)建線程時必須指定一個入口函數(shù)的原因。無論使用任何編程語言，創(chuàng)建一個線程大體相同：

那么線程和內(nèi)存又有什么關(guān)聯(lián)呢？我們知道函數(shù)在被執(zhí)行的時產(chǎn)生的數(shù)據(jù)包括函數(shù)參數(shù)、局部變量、返回地址等信息，這些信息是保存在棧中的，線程這個概念還沒有出現(xiàn)時進程中只有一個執(zhí)行流，因此只有一個棧，這個棧的棧底就是進程的入口函數(shù)，也就是main函數(shù)，假設(shè)main函數(shù)調(diào)用了funA，funcA又調(diào)用了funcB，如圖所示：

那么有了線程以后了呢？有了線程以后一個進程中就存在多個執(zhí)行入口，即同時存在多個執(zhí)行流，那么只有一個執(zhí)行流的進程需要一個棧來保存運行時信息，那么很顯然有多個執(zhí)行流時就需要有多個棧來保存各個執(zhí)行流的信息，也就是說操作系統(tǒng)要為每個線程在進程的地址空間中分配一個棧，即每個線程都有獨屬于自己的棧，能意識到這一點是極其關(guān)鍵的。

同時我們也可以看到，創(chuàng)建線程是要消耗進程內(nèi)存空間的，這一點也值得注意。

線程的使用

現(xiàn)在有了線程的概念，那么接下來作為程序員我們該如何使用線程呢？從生命周期的角度講，線程要處理的任務(wù)有兩類：長任務(wù)和短任務(wù)。1，長任務(wù)，long-lived tasks顧名思義，就是任務(wù)存活的時間很長，比如以我們常用的word為例，我們在word中編輯的文字需要保存在磁盤上，往磁盤上寫數(shù)據(jù)就是一個任務(wù)，那么這時一個比較好的方法就是專門創(chuàng)建一個寫磁盤的線程，該寫線程的生命周期和word進程是一樣的，只要打開word就要創(chuàng)建出該寫線程，當用戶關(guān)閉word時該線程才會被銷毀，這就是長任務(wù)。

這種場景非常適合創(chuàng)建專用的線程來處理某些特定任務(wù)，這種情況比較簡單。有長任務(wù)，相應(yīng)的就有短任務(wù)。
2，短任務(wù)，short-lived tasks這個概念也很簡單，那就是任務(wù)的處理時間很短，比如一次網(wǎng)絡(luò)請求、一次數(shù)據(jù)庫查詢等，這種任務(wù)可以在短時間內(nèi)快速處理完成。因此短任務(wù)多見于各種Server，像web server、database server、file server、mail server等，這也是互聯(lián)網(wǎng)行業(yè)的同學最常見的場景，這種場景是我們要重點討論的。這種場景有兩個特點：一個是任務(wù)處理所需時間短；另一個是任務(wù)數(shù)量巨大。如果讓你來處理這種類型的任務(wù)該怎么辦呢？你可能會想，這很簡單啊，當server接收到一個請求后就創(chuàng)建一個線程來處理任務(wù)，處理完成后銷毀該線程即可，So easy。這種方法通常被稱為thread-per-request，也就是說來一個請求就創(chuàng)建一個線程：

如果是長任務(wù)，那么這種方法可以工作的很好，但是對于大量的短任務(wù)這種方法雖然實現(xiàn)簡單但是有這樣幾個缺點：1. 從前幾節(jié)我們能看到，線程是操作系統(tǒng)中的概念(這里不討論用戶態(tài)線程實現(xiàn)、協(xié)程之類)，因此創(chuàng)建線程天然需要借助操作系統(tǒng)來完成，操作系統(tǒng)創(chuàng)建和銷毀線程是需要消耗時間的2. 每個線程需要有自己獨立的棧，因此當創(chuàng)建大量線程時會消耗過多的內(nèi)存等系統(tǒng)資源這就好比你是一個工廠老板(想想都很開心有沒有)，手里有很多訂單，每來一批訂單就要招一批工人，生產(chǎn)的產(chǎn)品非常簡單，工人們很快就能處理完，處理完這批訂單后就把這些千辛萬苦招過來的工人辭退掉，當有新的訂單時你再千辛萬苦的招一遍工人，干活兒5分鐘招人10小時，如果你不是勵志要讓企業(yè)倒閉的話大概是不會這么做到的，因此一個更好的策略就是招一批人后就地養(yǎng)著，有訂單時處理訂單，沒有訂單時大家可以閑呆著。

這就是線程池的由來。

從多線程到線程池

線程池的概念是非常簡單的，無非就是創(chuàng)建一批線程，之后就不再釋放了，有任務(wù)就提交給這些線程處理，因此無需頻繁的創(chuàng)建、銷毀線程，同時由于線程池中的線程個數(shù)通常是固定的，也不會消耗過多的內(nèi)存，因此這里的思想就是復用、可控。

線程池是如何工作的

可能有的同學會問，該怎么給線程池提交任務(wù)呢？這些任務(wù)又是怎么給到線程池中線程呢？很顯然，數(shù)據(jù)結(jié)構(gòu)中的隊列天然適合這種場景，提交任務(wù)的就是生產(chǎn)者，消費任務(wù)的線程就是消費者，實際上這就是經(jīng)典的生產(chǎn)者-消費者問題。

現(xiàn)在你應(yīng)該知道為什么操作系統(tǒng)課程要講、面試要問這個問題了吧，因為如果你對生產(chǎn)者-消費者問題不理解的話，本質(zhì)上你是無法正確的寫出線程池的。限于篇幅在這里博主不打算詳細的講解生產(chǎn)者消費者問題，參考操作系統(tǒng)相關(guān)資料就能獲取答案。這里博主打算講一講一般提交給線程池的任務(wù)是什么樣子的。一般來說提交給線程池的任務(wù)包含兩部分：1)?需要被處理的數(shù)據(jù)；2)?處理數(shù)據(jù)的函數(shù)

struct task {void* data; ? ? // 任務(wù)所攜帶的數(shù)據(jù) ? ?handler handle; // 處理數(shù)據(jù)的方法}(注意，你也可以把代碼中的struct理解成class，也就是對象。)線程池中的線程會阻塞在隊列上，當生產(chǎn)者向隊列中寫入數(shù)據(jù)后，線程池中的某個線程會被喚醒，該線程從隊列中取出上述結(jié)構(gòu)體(或者對象)，以結(jié)構(gòu)體(或者對象)中的數(shù)據(jù)為參數(shù)并調(diào)用處理函數(shù)：

while(true) { ?struct task = GetFromQueue(); // 從隊列中取出數(shù)據(jù) ?task->handle(task->data); ? ? // 處理數(shù)據(jù)}以上就是線程池最核心的部分。理解這些你就能明白線程池是如何工作的了。

線程池中線程的數(shù)量

現(xiàn)在線程池有了，那么線程池中線程的數(shù)量該是多少呢？在接著往下看前先自己想一想這個問題。如果你能看到這里說明還沒有睡著。要知道線程池的線程過少就不能充分利用CPU，線程創(chuàng)建的過多反而會造成系統(tǒng)性能下降，內(nèi)存占用過多，線程切換造成的消耗等等。因此線程的數(shù)量既不能太多也不能太少，那到底該是多少呢？回答這個問題，你需要知道線程池處理的任務(wù)有哪幾類，有的同學可能會說你不是說有兩類嗎？長任務(wù)和短任務(wù)，這個是從生命周期的角度來看的，那么從處理任務(wù)所需要的資源角度看也有兩種類型，這就是沒事兒找抽型和。。啊不，是CPU密集型和I/O密集型。1，CPU密集型所謂CPU密集型就是說處理任務(wù)不需要依賴外部I/O，比如科學計算、矩陣運算等等。在這種情況下只要線程的數(shù)量和核數(shù)基本相同就可以充分利用CPU資源。

2，I/O密集型這一類任務(wù)可能計算部分所占用時間不多，大部分時間都用在了比如磁盤I/O、網(wǎng)絡(luò)I/O等。

這種情況下就稍微復雜一些了，你需要利用性能測試工具評估出用在I/O等待上的時間，這里記為WT(wait time)，以及CPU計算所需要的時間，這里記為CT(computing time)，那么對于一個N核的系統(tǒng)，合適的線程數(shù)大概是N * (1 + WT/CT)，假設(shè)I/O等待時間和計算時間相同，那么你大概需要2N個線程才能充分利用CPU資源，注意這只是一個理論值，具體設(shè)置多少需要根據(jù)真實的業(yè)務(wù)場景進行測試。當然充分利用CPU不是唯一需要考慮的點，隨著線程數(shù)量的增多，內(nèi)存占用、系統(tǒng)調(diào)度、打開的文件數(shù)量、打開的socker數(shù)量以及打開的數(shù)據(jù)庫鏈接等等是都需要考慮的。因此這里沒有萬能公式，要具體情況具體分析。

線程池不是萬能的

線程池僅僅是多線程的一種使用形式，因此多線程面臨的問題線程池同樣不能避免，像死鎖問題、race condition問題等等，關(guān)于這一部分同樣可以參考操作系統(tǒng)相關(guān)資料就能得到答案，所以基礎(chǔ)很重要呀老鐵們。

線程池使用的最佳實踐

線程池是程序員手中強大的武器，互聯(lián)網(wǎng)公司的各個server上幾乎都能見到線程池的身影，使用線程池前你需要考慮：

• 充分理解你的任務(wù)，是長任務(wù)還是短任務(wù)、是CPU密集型還是I/O密集型，如果兩種都有，那么一種可能更好的辦法是把這兩類任務(wù)放到不同的線程池中，這樣也許可以更好的確定線程數(shù)量

• 如果線程池中的任務(wù)有I/O操作，那么務(wù)必對此任務(wù)設(shè)置超時，否則處理該任務(wù)的線程可能會一直阻塞下去

• 線程池中的任務(wù)最好不要同步等待其它任務(wù)的結(jié)果

總結(jié)

本節(jié)我們從CPU開始一路來到常用的線程池，從底層到上層、從硬件到軟件。注意，這里通篇沒有出現(xiàn)任何特定的編程語言，線程不是語言層面的概念(依然不考慮用戶態(tài)線程)，但是當你真正理解了線程后，相信你可以在任何一門語言下用好多線程，你需要理解的是道，此后才是術(shù)。希望這篇文章對大家理解線程以及線程池有所幫助。

原文作者：碼農(nóng)的荒島求生