2023-05-30：Redis6.0為什么要引入多線程呢？

答案2023-05-30：

Redis多線程比單線程性能提升一倍：

Redis 6.0 引入多線程 IO 特性對(duì)性能提升至少是一倍以上。據(jù) Redis 作者 antirez 在 RedisConf 2019 分享中介紹，多線程 IO 特性可以顯著提高 Redis 的性能和吞吐量，實(shí)測(cè) GET/SET 命令在 4 線程 IO 下的性能相比單線程幾乎翻倍。國(guó)內(nèi)也有一些大牛在阿里云 ESC 上測(cè)試了 unstable 版本的 Redis，結(jié)果也證實(shí)了多線程比單線程性能提升一倍左右的結(jié)論。

巨頭公司的需求

Redis 將所有數(shù)據(jù)放在內(nèi)存中，因此具有非?？斓捻憫?yīng)速度，大約只需要 100 納秒左右。對(duì)于小數(shù)據(jù)包，Redis 服務(wù)器可以處理 80,000 到 100,000 QPS 左右，這已經(jīng)是 Redis 處理極限了。雖然對(duì)于 80% 的公司來說，單線程的 Redis 已經(jīng)足夠使用，但一些高并發(fā)和復(fù)雜的業(yè)務(wù)場(chǎng)景需要更大的 QPS。

隨著業(yè)務(wù)的不斷發(fā)展，越來越多的公司面臨著上億的交易量，需要更高的性能和吞吐量。為了應(yīng)對(duì)這些挑戰(zhàn)，Redis 引入了多線程 IO 特性，在多核 CPU 和高并發(fā)情況下充分利用現(xiàn)代硬件資源，從而提高 Redis 的性能和吞吐量，滿足更復(fù)雜和高并發(fā)的業(yè)務(wù)需求。

集群方案的問題

常見的解決方案是在分布式架構(gòu)中對(duì)數(shù)據(jù)進(jìn)行分區(qū)，并采用多個(gè) Redis 服務(wù)器來存儲(chǔ)數(shù)據(jù)。然而，這種方案也存在著一些問題。例如，需要管理的 Redis 服務(wù)器數(shù)量太多，維護(hù)代價(jià)很大；同時(shí)，數(shù)據(jù)分區(qū)也可能不夠靈活，無法滿足一些特定業(yè)務(wù)場(chǎng)景下的需求。

在采用數(shù)據(jù)分區(qū)的 Redis 集群中，某些適用于單個(gè) Redis 服務(wù)器的命令可能不再適用。例如，一些針對(duì)特定鍵值對(duì)的命令如果跨越多個(gè)節(jié)點(diǎn)，就會(huì)出現(xiàn)互相干擾和不一致的情況。

盡管 Redis 的數(shù)據(jù)分區(qū)方案可以提高性能和擴(kuò)展性，但也存在一些問題。例如，數(shù)據(jù)分區(qū)無法解決熱點(diǎn)讀/寫問題，這可能會(huì)導(dǎo)致某些節(jié)點(diǎn)的負(fù)載過高，而其他節(jié)點(diǎn)則處于閑置狀態(tài)。此外，數(shù)據(jù)分區(qū)可能會(huì)導(dǎo)致數(shù)據(jù)偏斜和重新分配變得更加復(fù)雜，特別是在進(jìn)行節(jié)點(diǎn)的放大/縮小時(shí)。

1.純內(nèi)存KV操作

Redis 是一款基于內(nèi)存的數(shù)據(jù)存儲(chǔ)系統(tǒng)，因此其操作都非?？焖?。相比于 CPU，Redis 的性能瓶頸更多來自于兩個(gè)方面：機(jī)器內(nèi)存和網(wǎng)絡(luò)帶寬。

在計(jì)算機(jī)的世界中，CPU的速度是遠(yuǎn)大于內(nèi)存的速度的，同時(shí)內(nèi)存的速度也是遠(yuǎn)大于硬盤的速度。redis的操作都是基于內(nèi)存的，絕大部分請(qǐng)求是純粹的內(nèi)存操作，非常迅速。

在計(jì)算機(jī)的世界中，CPU 的速度是遠(yuǎn)大于內(nèi)存和硬盤的速度的。然而，由于內(nèi)存的速度比硬盤快得多，因此 Redis 將其所有數(shù)據(jù)存儲(chǔ)在內(nèi)存中，以獲得更高的讀寫性能。

Redis 的操作都是基于內(nèi)存的，因此絕大部分請(qǐng)求都是純粹的內(nèi)存操作，非常迅速。Redis 集群可以支持每秒數(shù)百萬次的讀取和寫入操作，響應(yīng)時(shí)間通常在微秒或毫秒級(jí)別。這種高速讀寫操作對(duì)于處理高并發(fā)、實(shí)時(shí)數(shù)據(jù)的場(chǎng)景非常有用。

2.單線程操作

使用單線程可以省去多線程時(shí)CPU上下文會(huì)切換的時(shí)間，也不用去考慮各種鎖的問題，不存在加鎖釋放鎖操作，沒有死鎖問題導(dǎo)致的性能消耗。對(duì)于內(nèi)存系統(tǒng)來說，多次讀寫都是在一個(gè)CPU上，沒有上下文切換效率就是最高的！既然單線程容易實(shí)現(xiàn)，而且 CPU 不會(huì)成為瓶頸，那就順理成章的采用單線程的方案了。

Redis 的單線程指的是網(wǎng)絡(luò)請(qǐng)求模塊使用了一個(gè)線程，即一個(gè)線程處理所有網(wǎng)絡(luò)請(qǐng)求。而對(duì)于其他模塊，Redis 仍然可以使用多線程來提高性能。

具體來說，在 Redis 中，網(wǎng)絡(luò)請(qǐng)求模塊和數(shù)據(jù)存儲(chǔ)模塊是兩個(gè)獨(dú)立的模塊。網(wǎng)絡(luò)請(qǐng)求模塊負(fù)責(zé)接收和處理客戶端請(qǐng)求，而數(shù)據(jù)存儲(chǔ)模塊則負(fù)責(zé)讀取和寫入數(shù)據(jù)。在 Redis 的單線程模型中，網(wǎng)絡(luò)請(qǐng)求模塊使用一個(gè)線程處理所有客戶端請(qǐng)求，而數(shù)據(jù)存儲(chǔ)模塊仍然可以使用多線程來提高性能。

例如，在 Redis 中，主從復(fù)制和持久化等操作都會(huì)使用多線程來加速處理。此外，Redis 還引入了多線程 IO 特性，以充分利用現(xiàn)代硬件資源提高性能和吞吐量。

總之，Redis 的單線程模型指的是網(wǎng)絡(luò)請(qǐng)求模塊只使用一個(gè)線程處理所有客戶端請(qǐng)求，這種模型可以最大化 Redis 的效率和簡(jiǎn)化代碼實(shí)現(xiàn)。但是，其他模塊仍然可以使用多線程來提高性能和并發(fā)處理能力。同時(shí)，Redis 的多線程 IO 特性也可以增強(qiáng)數(shù)據(jù)庫的性能和擴(kuò)展性。

3.I/O 多路復(fù)用

為什么 Redis 中要使用 I/O 多路復(fù)用這種技術(shù)呢？

Redis 是一款跑在單線程中的高性能 NoSQL 數(shù)據(jù)庫，所有的操作都是按照順序線性執(zhí)行的。由于 Redis 的讀寫操作等待用戶輸入或輸出都是阻塞的，因此 I/O 操作如果不能直接返回，會(huì)導(dǎo)致某一文件的 I/O 阻塞，從而整個(gè)進(jìn)程無法對(duì)其他客戶提供服務(wù)。

為了解決這個(gè)問題，出現(xiàn)了 I/O 多路復(fù)用技術(shù)。I/O 多路復(fù)用技術(shù)可以同時(shí)監(jiān)視多個(gè)文件描述符，當(dāng)某個(gè)文件描述符就緒時(shí)，通知程序進(jìn)行相應(yīng)的 I/O 操作，從而避免了阻塞等待帶來的性能瓶頸。

4.Reactor 設(shè)計(jì)模式

Redis 基于 Reactor 模式開發(fā)了自己的網(wǎng)絡(luò)事件處理器，稱之為文件事件處理器（File Event Handler）。

文件事件處理器是 Redis 中網(wǎng)絡(luò)事件的核心實(shí)現(xiàn)。它通過 select、poll 或 epoll 等系統(tǒng)級(jí)別的多路復(fù)用機(jī)制，對(duì)多個(gè)文件描述符進(jìn)行輪詢，當(dāng)某個(gè)文件描述符就緒時(shí)，Redis 可以立即對(duì)其進(jìn)行讀取或?qū)懭氩僮?，從而?shí)現(xiàn)高效的異步非阻塞 I/O 操作。