新起點(diǎn)!大數(shù)據(jù)分布式可視化的 DAG 任務(wù)調(diào)度系統(tǒng) Taier 正式發(fā)布1.4版本
我們很高興向大家宣布,2023年4月14日,Taier 正式發(fā)布 1.4 版本。自2022年2月份 Taier 正式開(kāi)源以來(lái),收到了很多開(kāi)發(fā)者和行業(yè)用戶的積極評(píng)價(jià),在諸多生產(chǎn)環(huán)境中已得到充分應(yīng)用。Taier 1.4版本正是吸收了各類實(shí)踐經(jīng)驗(yàn)及大家的建議,進(jìn)行了此次迭代優(yōu)化。
本次更新不僅包含了性能優(yōu)化和穩(wěn)定性的提升,還新增了各類任務(wù)類型、完善大量任務(wù)功能,優(yōu)化使用場(chǎng)景,持續(xù)增強(qiáng)開(kāi)源產(chǎn)品化技術(shù)能力和應(yīng)用能力。
Taier 是一款好用又強(qiáng)大的大數(shù)據(jù)分布式可視化的 DAG 任務(wù)調(diào)度系統(tǒng),旨在降低 ETL 開(kāi)發(fā)成本、提高大數(shù)據(jù)平臺(tái)穩(wěn)定性。它讓大數(shù)據(jù)開(kāi)發(fā)人員可以在 Taier 直接進(jìn)行業(yè)務(wù)邏輯的開(kāi)發(fā),而不用關(guān)心任務(wù)錯(cuò)綜復(fù)雜的依賴關(guān)系與底層的大數(shù)據(jù)平臺(tái)的架構(gòu)實(shí)現(xiàn),將工作的重心更多地聚焦在業(yè)務(wù)之中。
截至目前(2023 年 4 月 17 日),Taier 在 GitHub 的 Star 數(shù)已經(jīng)突破 1.1 k,并擁有37名社區(qū)貢獻(xiàn)者,我們?cè)诖藢?duì)所有參與到 Taier 項(xiàng)目及社區(qū)建設(shè)的朋友們表達(dá)由衷的感謝。
目前新版本已在 Github 與 Gitee 上線,歡迎大家前往體驗(yàn)。
Github:
https://github.com/DTStack/Taier
Gitee:
https://gitee.com/dtstack_dev_0/taier
社區(qū)官網(wǎng):
https://dtstack.github.io/Taier/
Taier 1.4 版本更新亮點(diǎn)
新增任務(wù)類型
· 新增 DataX 組件,在無(wú) Hadoop 環(huán)境的情況下,Taier 可以通過(guò)執(zhí)行 DataX 的任務(wù)來(lái)實(shí)現(xiàn)異構(gòu)數(shù)據(jù)源之間高速穩(wěn)定的數(shù)據(jù)同步的能力,增強(qiáng) Taier 在單機(jī)模式下的基礎(chǔ)功能。
· 新增 Greenplum、GaussDB、MySQL、Postgresql、Sqlserver、TiDB、Vertica、Maxcompute 等任務(wù)類型,完善 Taier 相關(guān) SQL 任務(wù)類型。
· 新增 Hadoop MR 任務(wù)類型,可以通過(guò)自行編寫(xiě) Map/Reduce 的代碼,來(lái)執(zhí)行對(duì)應(yīng)的數(shù)據(jù)集的處理。
完善任務(wù)功能
· Script 組件新增 Standalone 模式, 支持 Python、Shell 任務(wù)本地執(zhí)行,移除腳本任務(wù)對(duì) Hadoop 環(huán)境的強(qiáng)依賴。
· 數(shù)據(jù)同步任務(wù)支持 Hive3 的數(shù)據(jù)源向?qū)J脚渲谩?/p>
· HiveSQL、Spark SQL 的臨時(shí)查詢表支持定時(shí)清理。
優(yōu)化使用場(chǎng)景
· 兼容 Taier 在 Window 環(huán)境下部署運(yùn)行的環(huán)境問(wèn)題。
· 優(yōu)化 Taier 部分元數(shù)據(jù)表結(jié)構(gòu)信息、完善表結(jié)構(gòu)備注信息。
· 優(yōu)化控制臺(tái)組件配置參數(shù)信息,移除環(huán)境相關(guān)參數(shù)信息,Spark 組件支持自動(dòng)上傳 SqlProxy 包,減少組件配置依賴。
接下來(lái)
Taier 1.4 版本的發(fā)布是又一個(gè)全新的開(kāi)始,開(kāi)發(fā)團(tuán)隊(duì)不會(huì)停下腳步,未來(lái)將根據(jù)用戶反饋加速迭代持續(xù)優(yōu)化,完善 Taier 的功能和文檔,滿足用戶更多場(chǎng)景的使用,推進(jìn)國(guó)內(nèi)開(kāi)源生態(tài)的發(fā)展。
Taier 此前的成績(jī)離不開(kāi)每一位參與者的貢獻(xiàn)與支持,踏上這個(gè)新的起點(diǎn),Taier 的未來(lái)也仍需大家共同努力,讓 Taier 朝著好用又強(qiáng)大的 DAG 任務(wù)調(diào)度系統(tǒng)的目標(biāo)繼續(xù)前進(jìn)。
《數(shù)據(jù)治理行業(yè)實(shí)踐白皮書(shū)》下載地址:https://fs80.cn/l134d5?
想了解或咨詢更多有關(guān)袋鼠云大數(shù)據(jù)產(chǎn)品、行業(yè)解決方案、客戶案例的朋友,瀏覽袋鼠云官網(wǎng):https://www.dtstack.com/?src=szbzhan
同時(shí),歡迎對(duì)大數(shù)據(jù)開(kāi)源項(xiàng)目有興趣的同學(xué)加入「袋鼠云開(kāi)源框架釘釘技術(shù) qun」,交流最新開(kāi)源技術(shù)信息,qun 號(hào)碼:30537511,項(xiàng)目地址:https://github.com/DTStack