摘要

為了驗(yàn)證當(dāng)前集群經(jīng)常出現(xiàn)索引超時(shí)以及請(qǐng)求拒絕的問(wèn)題，現(xiàn)模擬線上集群環(huán)境及索引設(shè)置，通過(guò)壓測(cè)工具隨機(jī)生成測(cè)試數(shù)據(jù)，針對(duì)當(dāng)前的 850 個(gè)分片的索引，以及減半之后的索引，以及更小分片索引的寫入進(jìn)行壓測(cè)，使用不同的并發(fā)、不同的批次大小來(lái)觀察索引的吞吐情況，并記錄寫入隊(duì)列的堆積情況，用來(lái)分析分片數(shù)、批次數(shù)對(duì)寫入的影響，從而確定后續(xù)的優(yōu)化方案。

壓測(cè)場(chǎng)景

Elasticsearch 版本 v7.7.1, 共有 57 個(gè)節(jié)點(diǎn)，其中 3 個(gè)獨(dú)立 Master，3 個(gè)協(xié)調(diào)節(jié)點(diǎn)，31GB JVM。

壓測(cè)流程

單索引 850 分片

展開(kāi)查看索引定義

展開(kāi)查看樣例數(shù)據(jù)

展開(kāi)查看loadgen 配置

運(yùn)行測(cè)試

開(kāi)啟 gzip 流量壓縮，執(zhí)行壓測(cè)：

1 副本 100 并發(fā)

0 副本 100 并發(fā)

0 副本 200 并發(fā)

?寫入隊(duì)列已經(jīng)存在大量堆積和拒絕的現(xiàn)象了：

1 副本 200 并發(fā)

1 副本 400 并發(fā)

1 副本 800 并發(fā)

1 副本批次 500 并發(fā) 100

1 副本批次 2000 并發(fā) 100

1 副本批次 5000 并發(fā) 100

1 副本批次 5000 并發(fā) 200

單索引 425 分片

展開(kāi)查看索引定義

1 副本批次 50 并發(fā) 100

1 副本批次 50 并發(fā) 200

1 副本批次 50 并發(fā) 400

1 副本批次 50 并發(fā) 800

1 副本批次 500 并發(fā) 100

1 副本批次 2000 并發(fā) 100

1 副本批次 5000 并發(fā) 100

單索引 50 分片

1 副本批次 50 并發(fā) 100

1 副本批次 500 并發(fā) 100

1 副本批次 1000 并發(fā) 100

1 副本批次 5000 并發(fā) 100

走網(wǎng)關(guān)單索引 425 分片

1 副本批次 50 并發(fā) 400>200

1 副本批次 500 并發(fā) 100

1 副本批次 500 并發(fā) 200

1 副本批次 500 并發(fā) 400

1 副本批次 5000 并發(fā) 100

?

1 副本批次 5000 并發(fā) 200

1 副本批次 5000 并發(fā) 400

走網(wǎng)關(guān)單索引 850 分片

1 副本批次 50 并發(fā) 400

1 副本批次 500 并發(fā) 400

1 副本批次 5000 并發(fā) 400

壓測(cè)結(jié)果

走網(wǎng)關(guān)節(jié)點(diǎn)異步合并模式：

結(jié)論

大分片索引，850 或者 425，在并發(fā)即使只有 100 的情況下就有可能出現(xiàn)占滿線程池，出現(xiàn)請(qǐng)求拒絕的情況，單個(gè)批次的文檔數(shù)比較小的情況下，更容易出現(xiàn)。 而同樣格式的索引，在 50 個(gè)分片的情況下，索引的吞吐是 425 分片的兩倍，850 分片的三倍，且線程池基本上沒(méi)有堆積，或者堆積很快處理完。單次請(qǐng)求的文檔數(shù)越多，寫入的效率越高。 某些場(chǎng)景下索引分片雖然做了 Routing 處理，但是超大分片索引存在嚴(yán)重的轉(zhuǎn)發(fā)效率問(wèn)題，建議按照業(yè)務(wù)維度，或者當(dāng)前的 Routing 維度進(jìn)行索引的劃分，將超大索引拆分成若干個(gè)子索引，單個(gè)索引的分片數(shù)盡量不要超過(guò) 20 個(gè)。