(本文作者:觀測云資深系統(tǒng)開發(fā)工程師 熊豹)
2023 年 4 月 23 日,觀測云正式發(fā)布自研時序數(shù)據(jù)庫 GuanceDB,并在當(dāng)天應(yīng)用到了觀測云所有 SaaS 節(jié)點(diǎn)的底座。此次升級性能提升的效果立竿見影,對比之前使用 InfluxDB 的環(huán)境資源占用大幅降低、查詢性能顯著提升,我們成功地吃上了自己的狗糧。
我們也深知 talk is cheap show me the benchmark 的道理,這里發(fā)布我們在近期完成的 GuanceDB 性能壓測報告。
壓測方案說明
本次測試的目標(biāo)是對比 GuanceDB、InfluxDB 和某知名開源時序數(shù)據(jù)庫(簡稱 xxDB)在相同的寫入負(fù)載和查詢條件下的性能表現(xiàn)及資源占用情況。
關(guān)于測試工具:
我們對比 tsbs、prometheus-benchmark 兩種時序數(shù)據(jù)庫的壓測方案。
其中 prometheus-benchmark 構(gòu)造了更偏真實環(huán)境的持續(xù)寫入負(fù)載,指標(biāo)數(shù)值的變化也更真實,所以我們主要參考 prometheus-benchmark 來構(gòu)造本次測試。
原 prometheus-benchmark 方案中使用了 vmagent 來抓取和寫入指標(biāo),但我們今天測試的 3 種數(shù)據(jù)庫對 Prometheus 寫入?yún)f(xié)議支持力度不一,沒法一起比較。所以我們對 vmagent 進(jìn)行了一些改造,讓其支持了 InfluxDB 的行寫入?yún)f(xié)議。
本次測試的最終方案如下:
1.部署的一個單機(jī)的 node-exporter ,其暴露宿主機(jī)的 1383 個真實指標(biāo)
2.部署 Nginx 反代并緩存 node-exporter 結(jié)果 1s,降低頻繁請求的壓力
3.調(diào)整 agent 的抓取配置,模擬生成不同的 node-exporter 實例數(shù)以生成不同的寫入負(fù)載
4.agent 以相同的請求大小、頻率將數(shù)據(jù)同時以 influx 協(xié)議 http 接口寫入三種時序數(shù)據(jù)庫
軟件版本:
1.GuanceDB: v1.0.0
2.InfluxDB: v1.8.10
3.xxDB
主機(jī)配置:
1.壓測機(jī):1 臺阿里云 ecs.g7.16xlarge 云主機(jī):64 core,128 GB RAM
2.存儲集群:3 臺阿里云 ecs.g7.4xlarge 云主機(jī):16 core,64 GB RAM,200 GB PL1 類型 ESSD
部署方式:
因為 InfluxDB 的開源版本不支持集群模式,所以我們也將分兩組進(jìn)行測試。一組是 InfluxDB 與 GuanceDB、xxDB 的單機(jī)版本對比,另一組是 GuanceDB 與 xxDB 的集群模式進(jìn)行對比,集群模式都使用 3 個存儲節(jié)點(diǎn)。
參數(shù)優(yōu)化:
GuanceDB 對大部分場景都做了自動調(diào)優(yōu),所以我們不用手動調(diào)整配置。
InfluxDB 默認(rèn)對高基數(shù)場景做了一些保護(hù),我們調(diào)整 max-series-per-database = 0 放開了限制,cache-max-memory-size 增大到了 10g,并且開啟 tsi1 索引。
xxDB 我們也參考文檔進(jìn)行了針對性的調(diào)優(yōu)。
至此完成所有配置,開始測試。
寫入測試
● 單機(jī)組
本組測試進(jìn)行的測試輪次比較多,這里我們挑選某一輪展示詳細(xì)監(jiān)控截圖。
在此輪測試中,我們虛擬了 344 個 node-exporter 實例,生成大約 50w 條活躍時間線,5s 抓取一次,時序點(diǎn)寫入 QPS 10w。
GuanceDB 資源開銷:CPU 占用率 2%,內(nèi)存占用約 3 GB。
InfluxDB 資源開銷:CPU 占用率 16%,內(nèi)存占用約 7.4 GB。
xxDB 資源開銷:CPU 占用率 61%,內(nèi)存占用 9 GB。
匯總結(jié)果表格如下:
完成了限定性能的測試場景后,我們很好奇要多大的壓力才能將各臺數(shù)據(jù)庫主機(jī)的資源打滿,尤其對 GuanceDB,響應(yīng) 10w 寫入 QPS 僅僅花費(fèi)了 2% 的 CPU 開銷,它的性能上限在哪里?隨即我們開始加大 QPS,當(dāng)各臺主機(jī)的 CPU,內(nèi)存和磁盤若有一項被打滿時,即被認(rèn)為到達(dá)瓶頸。
實際測試結(jié)果都是主機(jī)的 CPU 先被打滿,此時內(nèi)存占用和磁盤寫入帶寬都還有余量,所以我們就以 CPU 利用率為瓶頸指標(biāo)畫出以下對比圖:
在單機(jī)場景下,當(dāng) CPU 達(dá)到滿載時,xxDB 的寫入 QPS 約 15w,InfluxDB 約 90w,GuanceDB 約 270w。本輪 GuanceDB 獲得第一,寫入性能是 InfluxDB 的 3 倍。也可以看到在 CPU 利用率超過 20% 后,性能不再呈線性增長,都有一定程度衰退。
● 集群組
我們按照之前的方法繼續(xù)測試 3 節(jié)點(diǎn)集群:
在集群場景下,仍然是 CPU 利用率先達(dá)到瓶頸。同樣在 CPU 滿載情況下,GuanceDB 此時的寫入 QPS 約為 860w,xxDB 約為 45w。
對比之前 GuanceDB 和 xxDB 的單機(jī)寫入性能測試,理想情況下 N 個節(jié)點(diǎn)的集群版的寫入性能應(yīng)該是單機(jī)版的 N 倍,呈線性增長,實測 3 節(jié)點(diǎn)集群符合性能預(yù)期。
查詢測試
查詢測試將混合單機(jī) InfluxDB、集群版 GuanceDB、集群版 xxDB 一起進(jìn)行。集群一般可以將數(shù)據(jù)和查詢分?jǐn)偛⒖梢栽诠?jié)點(diǎn)之間并行查詢,理論上這個測試方式對 InfluxDB 不太公平,但條件受限,暫且這么設(shè)計。
我們虛擬 688 個 node-exporter 實例,生成大約 100w 個活躍時間線,5s 抓取一次,時序點(diǎn)寫入 QPS 20w。在持續(xù)寫入 24 小時后,我們再測試一些常見語句的查詢性能和對比存儲空間占用。
GuanceDB 同時支持 DQL 和 PromQL 兩種查詢語法。DQL 是觀測云自研的多模數(shù)據(jù)查詢語言,同時支持指標(biāo)、日志、對象等多種類型負(fù)載數(shù)據(jù)的查詢和分析,語法表達(dá)非常簡潔。語法設(shè)計上跟 SQL 接近,但更加適應(yīng)時序分析場景,學(xué)習(xí)曲線平滑。
這里我們一共對比了四種查詢語法在相同語義的 1h、8h、24h 不同時間范圍下的響應(yīng)時間:
查詢 1 響應(yīng)時間:
注:圖示中 0ms 表示響應(yīng)時間不到 1ms。
查詢 2 響應(yīng)時間:
查詢 3 響應(yīng)時間:
注:圖示中 -1ms 表示請求響應(yīng)時間超過了 60s 不計數(shù)。
空間占用對比
在上述的查詢測試構(gòu)造的寫入壓力(活躍時間線 100w,時序點(diǎn)寫入 QPS 20w)下,運(yùn)行 24 小時后,我們對比存儲空間占用。
總結(jié)
經(jīng)過數(shù)輪的寫入和查詢性能測試,相信各位對 GuanceDB 的綜合性能表現(xiàn)已經(jīng)有了比較清晰的認(rèn)識了。GuanceDB 對比 InfluxDB 寫入性能提升 3 倍,存儲空間占用減少 68%,查詢性能提升 30 倍以上。 GuanceDB 相比 xxDB 提升則更明顯,背后的原因是 xxDB 雖然明面上是支持了 Schemaless 數(shù)據(jù)的寫入,但是對 Schemaless 的場景明顯優(yōu)化不足,所以表現(xiàn)欠佳。
GuanceDB 的優(yōu)異性能來自于我們構(gòu)建的高效的火山模型查詢引擎、SIMD 指令加速、對 Schemaless 數(shù)據(jù)的最優(yōu)先支持等,也因為我們站在了 VictoriaMetrics 的肩膀上。非常感謝 VictoriaMetrics 開源社區(qū)對我們的支持,我們將持續(xù)貢獻(xiàn)回報社區(qū),共同促進(jìn)可觀測領(lǐng)域技術(shù)的發(fā)展與進(jìn)步。
我們在 5 月中下旬也將發(fā)布 GuanceDB 的單機(jī)版本,歡迎大家到時關(guān)注和測試。 如有同學(xué)對 GuanceDB 感興趣,或有任何疑問,可以隨時站內(nèi)和我聯(lián)絡(luò),或者在觀測云社群里溝通。
申請創(chuàng)業(yè)報道,分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處,共同探討創(chuàng)業(yè)新機(jī)遇!