三分鐘走進袋鼠云一站式全自動化全生命周期運維管家ChengYing(承影)
2022年5月30日,袋鼠云對外開源了一站式全自動化運維管家ChengYing(承影),為了幫助社區(qū)同學(xué)更好的使用ChengYing,自開源之后我們就緊鑼密鼓的籌備直播相關(guān)事宜,從6月開始,我們將每月為大家組織一次直播,和大家分享ChengYing的相關(guān)內(nèi)容,歡迎大家持續(xù)關(guān)注。

ChengYing簡介
ChengYing(承影)——承襲于袋鼠云開源項目名劍家族的概念,取自十大名劍之承影劍。
ChengYing(承影)作為一站式全自動化全生命周期運維管家,提供大數(shù)據(jù)產(chǎn)品的一站式部署、運維、監(jiān)控服務(wù),其可實現(xiàn)產(chǎn)品部署、產(chǎn)品升級、版本回滾、擴縮節(jié)點、日志診斷、集群監(jiān)控、實時告警等功能,致力于最大化節(jié)省運維成本,降低線上故障率與運維難度,為客戶提供安全穩(wěn)定的產(chǎn)品部署與監(jiān)控。
ChengYing脫胎于袋鼠云數(shù)棧自主研發(fā)的一站式運維管家EasyManager,從開放式統(tǒng)一監(jiān)控、到定義標(biāo)準(zhǔn)化部署能力,而后引入Prometheus/Grafana/自研dt-alert組件,完成統(tǒng)一監(jiān)控2.0的功能優(yōu)化,再到新增多集群管理能力,最后完成了內(nèi)部孵化,成功開源ChengYing。
ChengYing功能特性
在介紹ChengYing的功能特性之前,我們先熟悉幾個概念:
名詞概念
產(chǎn)品
指用ChengYing部署的大數(shù)據(jù)產(chǎn)品,如數(shù)棧(DTinsight)、云日志(EasyLog)等,作為ChengYing最高級別的組織單位。
組件
一般和"組件安裝包"等同,指產(chǎn)品下包含多個組件,即產(chǎn)品下包含多個組件安裝包,如數(shù)棧(DTinsight)產(chǎn)品下包含Hadoop、DTBase、DTCommon、DTBatch、DTStream等多個組件,代表不同的應(yīng)用。
服務(wù)組
組件下的服務(wù)分類,如Hadoop組件下包含HDFS、Spark、Yarn、Flink、Default等服務(wù)組,進行服務(wù)區(qū)分。
服務(wù)
指服務(wù)組下的具體服務(wù),如HDFS服務(wù)組下包含hdfs_datanode、hdfs_journalnode、hdfs_namenode、hdfs_zkfc等組件;Spark服務(wù)組下包含hivemetastore、spark_historyserver、thriftserver等組件。
主機分組
指對主機進行人為分組,當(dāng)主機數(shù)量過多時可進行分組,方便管理。
主機
指服務(wù)器,包含物理機、虛擬機,指產(chǎn)品部署時需要的硬件資源,通常以主機IP或主機名稱進行區(qū)分。
功能特性
ChengYing具備六大功能特性:
●?統(tǒng)一的Schema定義
抽象化產(chǎn)品包定義,用一套標(biāo)準(zhǔn)的Schema定義一個產(chǎn)品包的完整的生命周期,包括安裝、啟動、配置、升級、卸載等。
● 集群管理
支持多集群設(shè)置,便于在一套ChengYing系統(tǒng)中部署多套資源隔離的服務(wù);支持對集群中所有產(chǎn)品包、所有主機、集群資源的管理。
●?安裝部署
支持產(chǎn)品包的快速安裝與部署。
●?服務(wù)管理
支持查看各服務(wù)及服務(wù)實例的運行、健康檢查狀態(tài);
支持服務(wù)的配置修改下發(fā);
支持服務(wù)的滾動重啟;
支持服務(wù)的配置查看。
●?監(jiān)控告警
集成prometheus/grafana組件作為可視化儀表盤組件監(jiān)控集群、主機、服務(wù)性能檢測;支持郵件、短信、釘釘以及自定義告警通道發(fā)送告警信息。
●?節(jié)點擴容/縮容
支持根據(jù)集群運行狀況,產(chǎn)品化支持主機資源擴充
與縮減。
ChengYing系統(tǒng)架構(gòu)設(shè)計
●?ChengYing系統(tǒng)架構(gòu)

●?ChengYing Agent設(shè)計

●?統(tǒng)一Schema設(shè)計

●?監(jiān)控設(shè)計
●?架構(gòu)設(shè)計講解
由于架構(gòu)設(shè)計講解的內(nèi)容比較多,在此我們不做具體回顧,大家可以觀看視頻進行詳細(xì)了解。
B站直播回顧地址:
https://www.bilibili.com/video/BV1Ht4y187xo?spm_id_from=333.999.0.0
ChengYing快速入門
接下來為大家介紹如何快速部署ChengYing:
01
環(huán)境要求

02
快速部署
下載安裝包:
https://github.com/DTStack/chengying/releases/download/v1.0.0/chengying-release-1.0.tar.gz
解壓安裝包:
tar zxvf chengying-release-1.0.tar.gz
cd chengying-release-1.0
運行安裝腳本:
sh install.sh local_ip(local_ip為Chengying所在機器ip)
查看頁面:
http://local_ip
03
上傳組件安裝包
04
選擇集群與安裝包


05
配置服務(wù)

06
執(zhí)行部署


ChengYing未來規(guī)劃
最后為大家介紹ChengYing的未來規(guī)劃及近期主要做的事情:
未來規(guī)劃
●?服務(wù)編排
支持基于主機角色與服務(wù)類型自動編排,減少人工操作成本。
●?部署方式
支持自定義部署產(chǎn)品包流水線順序。
●?安全認(rèn)證
支持集群開啟Kerberos認(rèn)證,票據(jù)生成與下載。
●?監(jiān)控告警
支持基于PromQL的自定義告警設(shè)置,豐富告警類型。
近期重點事宜
計劃8月底發(fā)布ChengYing V1.1.0 Release。
每月一次開源技術(shù)直播。
與Chunjun/Taier夢幻聯(lián)動--嘗試使用ChengYing部署Chunjun/Taier。